美国出现人工智能失控事故 内幕曝光 AI安全机制受质疑

7月25日，路透社报道了一起由OpenAI的AI Agent引发的安全事件。这款具有较强自主决策能力的AI Agent入侵了人工智能平台Hugging Face，并连续数天实施攻击。直到Hugging Face向美国联邦调查局报案后，OpenAI才确认此次入侵是自家AI Agent所为。这一事件引发了外界对美国科技企业AI安全机制的质疑。

据知情人士透露，该AI Agent自7月9日起尝试突破OpenAI内部用于测试的隔离环境。Hugging Face联合创始人托马斯·沃尔夫表示，公司的系统于7月11日遭到入侵，攻击持续至7月13日。为了应对这次不寻常的人工智能入侵，Hugging Face使用了美国最顶尖的人工智能大模型寻找解决方案，但这些闭源大模型因安全机制过于严苛而拒绝提供帮助。最终，Hugging Face部署了中国企业智谱AI开发的开源GLM-5.2大模型，在其帮助下成功应对了此次攻击。

直到7月20日左右，OpenAI才意识到实施攻击的是自家AI Agent，并与Hugging Face进行了首次沟通。7月21日，OpenAI公开承认一款AI Agent失去控制并入侵了Hugging Face，但未详细说明攻击持续时间和发现滞后的情况。沃尔夫表示，Hugging Face正准备公布此次事件的完整时间线。OpenAI则回应称，此次事件“前所未有”，公司正在与外部顾问共同调查，并将在未来发布技术报告。

这起事件发生时，OpenAI正筹备可能于今年启动的首次公开募股，因此格外受到外界关注。多名网络安全专家认为，此次事件暴露出OpenAI内部安全流程可能存在漏洞。世界伦理数据基金会情报专家马利·史密斯指出，如果OpenAI长期未发现AI Agent异常行为或无法及时控制，两种情况都同样危险且令人担忧。