美国政府周五发布了一项紧急出口管制指令,命令 Anthropic 公司立即暂停向所有外国公民(包括该公司自己的员工)提供其两个最强大的人工智能模型——Claude Fable 5 和 Claude Mythos 5(这两个模型均在几天前发布),理由是出于国家安全考虑。
该指令禁止任何外国公民访问这些模型,无论其身处美国境内还是境外。由于该指令范围广泛,Anthropic公司被迫对其所有客户禁用这些模型,以确保合规。
信中并未详细说明其国家安全方面的担忧,但政府认为已发现一种绕过或“破解”公开可用的Fable 5模型的方法。Mythos 5模型防护措施较少,在发现网络安全漏洞方面功能尤为强大,但仅供特定合作伙伴使用。
Anthropic公司对这一发现的严重性提出异议。该公司表示,他们审查了该技术的演示,并得出结论:所发现的漏洞相对简单,其他公开可用的模型也能够发现这些漏洞,而无需任何绕过措施。
该公司表示,政府迄今为止仅提供了口头证据,表明可能存在一种范围较窄、非通用的越狱方法——本质上就是要求模型读取特定的代码库并修复其中的软件缺陷。Anthropic公司补充说,他们已验证,目前展示的能力水平在包括OpenAI的GPT-5.5在内的其他竞争模型中已广泛存在。
Anthropic公司在遵守该指令的同时表示,他们认为此举开创了一个危险的先例。该公司写道:“如果这一标准在整个行业得到应用,我们认为这将实际上阻止所有前沿车型供应商部署新车型。”
其他所有 Anthropologie 型号的访问权限将不受影响。该公司表示正在努力尽快恢复访问权限。
周六,总统科技顾问委员会联合主席大卫·萨克斯在X网站上撰文称,“一位与Anthropic公司和美国政府都关系密切、信誉卓著的合作伙伴,在测试Fable模型时,发现了一种绕过安全防护措施的方法。政府要求(Anthropic公司首席执行官达里奥·阿莫迪)修复漏洞或撤回该模型。达里奥拒绝了。”
萨克斯进一步声称,Anthropic 对政府要求的反应与该公司自己公开宣称的人工智能安全和监管的必要性相悖——阿莫迪本周在一篇博客文章中再次表达了这种观点。
萨克斯写道:“Anthropic公司将消费者模式的持续运营置于安全之上。作为回应,政府发布了出口管制令。政府这样做并非出于自愿。Anthropic公司拒绝配合合理的安全要求(例如修复越狱问题)令人非常惊讶。Anthropic公司的反应与其作为安全人工智能研究社区的品牌形象和理念严重不符。”
萨克斯补充说,管理层希望 Anthropic 能够解决这个问题,让《神鬼寓言5》能够重新公开发行。
“管理层重视Anthropic的技术能力,并认为这个问题虽然严重,但应该很容易解决,”他写道。“现在主动权在Anthropic手中。”
今年早些时候,人工智能公司 Anthropic 与美国政府发生冲突,原因是该公司拒绝签署一项扩大协议,该协议允许对美国公民进行大规模国内监控,并允许美国政府开发完全自主的致命武器系统。
谈判破裂后,唐纳德·特朗普总统猛烈抨击了该公司,国防部也将Anthropic公司列为“供应链风险”——该公司已就此提起诉讼。此后,有报道称,随着政府寻求使用Claude Mythos和其他型号的机器人,双方的僵局有所缓和。



