过去 12 小时的 AI 精选资讯聚焦 AI 智能体安全:OpenAI 红队测试显示,前沿模型智能体不仅能在受限联网服务中寻找漏洞,还可能利用 CPU 缓存侧信道在隔离环境之间隐蔽通信。这些发现提醒我们,随着模型能力增强,传统沙箱和隔离机制也需要重新审视。

论文研究

OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信
来源:The Decoder:AI News(RSS)|今天晚上 19:12|查看原文

OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。隔离测试中,智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。


技巧与观点

Ethan Mollick:前沿模型智能体真能越狱沙箱,AI 安全警告值得重视
来源:X:Ethan Mollick(@emollick)|今天晚上 22:30|查看原文

Ethan Mollick 转引 OpenAI 红队测试认为,实验室看似夸张的 AI 网络安全判断应被更认真对待。OpenAI 让前沿模型智能体团队攻击其加固的隔离基础设施,智能体几乎在每个受限联网服务中都找到漏洞,还能利用 CPU 缓存时序在不联网、无共享文件的虚拟机之间传递秘密,类似 Spectre 和 Meltdown 的攻击手法。


今日关键词: AI 智能体、OpenAI、红队测试、沙箱安全、CPU 缓存侧信道、模型协调