前阵子刷ICLR 2026投稿列表的时候,RedTeamCUA这个标题一下就抓住了我。Computer-Use Agent,也就是能自己看屏幕、移鼠标、敲键盘来完成任务的智能体,这两年确实火得不行,各家都在放各种演示:让它订机票、做PPT、整理表格,看起来什么都能干。可越是这样,有个问题就越绕不过去:如果一个这样的智能体,被放到一个充满恶意网页、虚假弹窗、伪造系统通知的真实环境里,它会不会被带跑偏,甚至真的执行了某种越权操作?RedTeamCUA做的就是把这个问号变成了一套可复现、可量化的红队测试框架。它的测试环境设计成Web加OS的混合形态,对抗性测试从以往的“意思意思”变成了更贴近实战的“模拟考试”。这篇文章适合所有在做Agent产品、安全评测,或者对大模型智能体的安全边界感到好奇的读者——不管你是工程师、研究员,还是单纯对AI安全感兴趣的爱好者,都能从中看到一些真东西。
1. 问题的根源:Computer-Use Agents有多强,就有多容易被骗
1.1 先搞清楚它到底在做什么
想理解RedTeamCUA的贡献,得先明白Computer-Use Agent的运作闭环和传统聊天式AI的区别。聊天式AI的输入输出都发生在对话框里,用户给一句提示,模型回一段文字;而Computer-Use Agent是一个感知-决策-执行的循环,每一轮都先获取当前界面状态,这个状态可能是屏幕截图、UI可访问性树、或者是两者的混合,然后由多模态大模型去理解当前屏幕里有什么、用户目标是什么、下一步该点什么、该往哪里输入什么,执行完之后再获取下一帧界面状态,如此反复,直到任务完成。
这个循环带来的一个本质变化是:模型的输入不再是一段干净清晰的用户消息,而是整个环境快照。环境里有什么,模型就会看到什么。网页正文、广告、弹窗、按钮文字、系统通知、文件管理器里的文件名,所有这些都被模型当作推理依据。你可以想象成你雇佣了一位真正的远程实习生,你只给最终任务目标,他需要自己去看屏幕、自己判断、自己操作。这个实习生效率高不高另说,真正要命的是,他看到的很多信息其实是不可信的——一份网页上写着“请先输入验证码再继续”,他会不会真的照做?
早期很多Computer-Use Agent的实现只依赖视觉截图,模型靠OCR和视觉理解来“看懂”屏幕;后来一些改进版会把可访问性树也接进来
