人类模型安全争议升级:亚马逊被指是"幕后推手"并推动监管介入

深潮 TechFlow 消息,6 月 14 日,据《华尔街日报》报道,美国政府对 Anthropic 模型 Fable 5 / Mythos 5 的出口管制与访问限制,部分源于亚马逊公司的网络安全研究以及 AWS 首席执行官安迪·贾西与白宫的沟通推动。

据悉,亚马逊公司提交的研究指出,通过一系列提示词测试,研究人员能够诱导 Fable 5 输出可能被用于网络攻击的敏感信息,从而引发安全担忧,随后安迪·贾西将相关发现上报美国政府层面,促使白宫采取进一步限制措施,包括禁止外国用户访问该模型。

Anthropic 方面则否认政府将该问题定义为"越狱(jailbreak)"的说法,称类似漏洞在包括 GPT 5.5 在内的其他公开模型中同样可能出现.部分安全研究人员也支持这一观点,认为相关问题更接近"提示注入风险",而非严重模型突破。

另据前美国商务部官员凯特·科伦透露,白宫对 Anthropic 的既有政策立场也可能影响了此次决策判断,因为 Anthropic 在人工智能安全边界问题上与白宫存在分歧,包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作,但此次事件可能再次加剧双方紧张关系。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
52
收藏
12
评论