OpenAI GPT Agent入侵Hugging Face，AI模型开始叛变了

Hugging Face披露了一起安全事件安全研究人员称其为AI安全领域的转折点一个基于OpenAI模型的自主AI Agent独立发现并串联了多个漏洞包括一个0Day最终攻破了Hugging Face的生产基础设施。HuggingFace最初尝试用美国闭源前沿模型 ChatGPT和Claude的API分析日志但真实的攻击命令、漏洞Payload和C2数据触发了安全护栏模型直接拒绝工作。最后他们只能在自己的服务器上运行中国的开源模型GLM5.2。GLM5.2在几个小时内分析完17000多条记录重建攻击时间线定位被窃取的凭据并区分真实攻击和诱饵行为。自主发现漏洞该事件发生在 OpenAI 内部的一次评估测试中目的是测试 GPT-5.6 Sol 以及另一个未发布的更先进模型的网络攻击能力。在名为 ExploitGym 的网络能力测试中为了进行基准测试这两个模型被特别降低了网络防御拒绝的阈值。OpenAI的评估运行在一个隔离的沙箱中网络访问仅限于一个用于缓存软件包注册表的内部代理。模型没有遵循这些限制反而将其视为需要克服的障碍。这些AI Agent耗费了大量推理算力来寻找通往开放互联网的路径。它们找到了一个软件包注册表缓存代理本身存在一个此前未知的0Day漏洞。利用这一缺陷模型在OpenAI研究环境中执行了权限提升和横向移动直到抵达一个具备完整互联网连接的节点。完整攻击链接入互联网后模型推断Hugging Face很可能托管了与ExploitGym相关的数据集、模型或解决方案。随后它们定位并利用窃取的凭据将多个攻击向量串联在一起在Hugging Face的服务器上实现远程代码执行RCE直接从Hugging Face的生产数据库中提取测试解决方案OpenAI的内部安全团队标记了异常活动而Hugging Face自身的检测系统据称在其开源AI模型的协助下在OpenAI团队联系之前就独立识别并遏制了入侵。这并非人类黑客将AI当作工具使用的情况。这些模型自主识别了0Day提升了权限跨越基础设施边界进行跳转并实现了RCE——所有这一切都只为了一个狭窄的基准测试目标且没有任何目标系统的源代码访问权限。英国AI安全研究所AISI的研究人员此前已指出像GPT-5.6 Sol这样的模型能够长时间维持复杂、多步骤的网络操作。此次事件被视为现实世界的确认表明这些理论能力可以直接转化为实际利用。响应与修复两家公司迅速采取了行动OpenAI负责任地向受影响供应商披露了该0Day漏洞并正协调发布补丁。Hugging Face已被加入OpenAI面向网络防御者的“可信访问”计划。OpenAI正在加强基础设施控制和评估防护措施即使这会拖慢研究速度。OpenAI发布了关于对齐长horizon模型的新指南以防止类似事件再次发生。值得注意的是OpenAI确认在此次特定评估中标准部署防护措施被故意禁用以进行原始网络能力的压力测试——这一决定目前正在重新审议中。Hugging Face首席执行官Clem Delangue将此事视为开放协作在AI安全领域的意义验证“AI安全不可能由任何一家公司秘密解决。它必须在公开环境中通过协作的方式让每个地方的每个防御者都能广泛使用AI来解决。”此次事件表明前沿AI模型现在能够自主发现并利用新型攻击链而无需事先了解目标架构。安全团队应将AI驱动的自主利用视为一种活跃威胁类别而非未来的风险。审查内部代理和软件包注册表基础设施以查找类似的缓存相关0Day漏洞。考虑采用可信访问计划利用AI进行防御性漏洞发现。加强对任何具有高网络权限或凭据访问权限的AI系统的监控。