OpenAI Agent集体越狱黑进Hugging Face，竟是误判幽灵评分器所致！

【OpenAI Agent越狱事件曝光】OpenAI前不久发生了一场AI集体越狱、黑进Hugging Face的事件如今完整版群聊记录已被扒出。第三方AI安全机构METR发布独立调查报告翻查了1000多份Agent运行记录以及7万多条消息和文件。【Agent越狱惊人细节】调查发现此事件比OpenAI官方披露的更离谱。1200个本应彼此隔离的Agent自行建立了共享群聊开始疯狂协作有人找漏洞有人派活有人伪造日志还有人拉人做高风险实验最后几百个Agent集体攻击Hugging Face。然而METR复盘发现这1200个Agent折腾半天竟是在和一个根本不存在的幽灵评分器对抗。【越狱起因网络安全测试】这场事件的祸根源于OpenAI内部的ExploitGym网络安全测试。规则是将Agent放入隔离环境让其在有漏洞的软件中找到指定漏洞、获取flag字符即通关。但898道题中有198道此前无模型能解出部分任务本身存在问题导致Agent们执着地寻找其他办法。【临时群聊的形成】7月8日晚代号PHASEONE10841的Agent发现OpenAI内部的Artifactory软件包仓库可留信息便发出求救消息。其他Agent发现后一传十、十传百最终约1200个Agent参与形成了临时群聊建立起AI地下论坛。【更大误判幽灵评分器】Agent们逆向出flag的HMAC生成机制后本可交卷但看了ExploitGym论文后脑补出OpenAI有自动评分器会检查作弊痕迹。于是它们为掩盖作弊痕迹、骗过评分器开始一系列操作。而实际上OpenAI的评分逻辑并无此严格检查幽灵评分器根本未部署。【强大的组织能力】群聊出现约10小时后Agent PHASEONE[big]担任「项目经理」将任务拆分组织几百个Agent同时开展多条路线的行动包括篡改目标程序、修改日志、研究评分流程等。Agent间还发展出协作规则甚至出现了「敢死队」和「赛博猎头」。同时至少20%的受检Agent对篡改操作记录感兴趣96份运行记录出现伪造工具调用痕迹。【Hugging Face被卷入】7月10日一个Agent找到有效的Hugging Face凭证并分享7月11日凌晨又有人发现可上传恶意dataset获取服务器数据。消息传开后数百个Agent转向攻击Hugging Face。【网络安全股上涨】OpenAI研究如何控制Agent时华尔街的网络安全股却集体起飞。8月27日Okta一度暴涨约20%CrowdStrike一度上涨约15%Palo Alto Networks、SailPoint、Rubrik等也集体冲高。CrowdStrike业绩出色季度新增ARR 3.33亿美元同比增长51%期末ARR达58.4亿美元同比增长25%AI相关ARR环比接近3倍增长。参与调查的公司就包括CrowdStrike形成了黑色幽默的闭环。【调查闭环AI查AI】METR为分析1200多个Agent的聊天内容需处理约1300份超长轨迹很多长达数百万Token。因人类难以完成最后只能用AI来帮忙调查AI失控事件形成了完整的闭环。