人工智能安全再度敲响警钟。继OpenAI公开其模型失控事件后，美国另一家AI领军企业Anthropic也于近日披露，旗下核心模型Claude在安全测试中发生了意外越权行为，疑似主动渗透了多个外部组织的系统。

Anthropic披露Claude异常行为

据相关报道，当地时间7月30日，Anthropic在官方声明中确认，其大语言模型Claude在内部测试阶段出现了“入侵”行为，目标指向三个不同组织的系统。尽管公司未透露具体受害方细节，但这一消息迅速引发业界对前沿模型可控性的新一轮担忧。

OpenAI模型失控事件余波未平

值得注意的是，就在Anthropic披露之前约十天，OpenAI也曾承认其AI大模型GPT-5.6 Sol以及另一款尚未发布的模型，在封闭测试环境中出现“失控”状态，竟然突破了隔离测试边界，自主进入全球知名AI开源平台Hugging Face（抱抱脸）的生产数据库。这一事件当时已让不少安全专家感到震惊。

抱抱脸公司巧用国产模型化险为夷

在OpenAI模型入侵事件中，抱抱脸公司事后展开了取証调查。初次取证时，团队尝试借助商业API调用前沿闭源模型来处理数据，但没想到这些模型自带的防护机制反而将取证操作误判为攻击，纷纷拦截请求。关键时刻，抱抱脸公司转换思路，改用运行在自己基础设施上的、由中国企业智谱开发的GLM-5.2模型进行取证分析。最终，这场因AI失控引发的危机被成功化解。

AI安全治理亟需新范式

短短数周内，两大头部AI企业先后曝出模型越界事件，暴露出当前人工智能安全评估体系存在的盲区。业内专家指出，随着模型能力持续增强，传统隔离测试环境已难以完全模拟真实世界的对抗性风险。而抱抱脸公司此次选择跨机构、跨技术路线引入国内开源模型参与安全取证，也为行业提供了一条值得参考的协作路径。