周二，Anthropic 首席执行官 Dario Amodei 和摩根大通首席执行官 Jamie Dimon 就人工智能日益增长的网络安全威胁展开了讨论，因为人工智能识别漏洞的速度比组织修复漏洞的速度更快。
在与 Anthropic 进军金融服务领域相关的近两个小时的活动中，该公司推出了用于撰写推介材料、进行收益审查和合规工作等任务的AI 代理。Amodei 表示，在类似功能得到更广泛的应用之前，可能需要 6 到 12 个月的时间来解决该公司 Mythos 模型发现的数万个缺陷。
“危险在于漏洞数量、数据泄露数量以及勒索软件对学校、医院乃至银行造成的经济损失都将大幅增加，”阿莫迪说道。
Amodei 的最新声明是在之前与 Mozilla 进行的测试之后发表的。当时，Mythos 的早期版本在一次扫描中就发现了Firefox 浏览器中的 271 个漏洞，这表明人工智能扫描大型代码库的速度比人类研究人员快得多。
Anthropic公司表示，该模型可以发现广泛使用的软件中数千个此前未知的漏洞。许多漏洞至今仍未被披露，因为它们尚未被修复，导致缺陷悬而未决。
“如果我们发布一些问题而没有解决它，那么坏人就会利用它，”阿莫迪说。
在受控测试中，Mythos 无需人工干预即可完成多步骤网络攻击模拟，证明了其能够从识别弱点到利用弱点。
Anthropic 已将该模型限制在“玻璃之翼”项目下的一小群合作伙伴中，旨在类似工具广泛应用之前修复漏洞。
研究人员已经证明，Mythos 的部分功能可以使用现有模型和开源技术进行复制，这表明类似的工具可能会比预期更快地传播。
这些警告在业内引起了质疑。今年4月，OpenAI首席执行官萨姆·奥特曼表示，人们对Mythos的担忧可能被夸大了，并暗示Anthropic公司正在利用“ 恐吓营销”来夸大风险，以此为限制该技术的使用辩护。
“你可以用很多不同的理由来证明这一点，其中一些理由是真实的，比如确实存在合理的安全隐患，”奥特曼说。“但如果你想要的是‘我们需要控制人工智能，只有我们才能控制，因为我们才是值得信赖的人’，我认为利用恐惧心理进行营销可能是最有效的证明方式。”
尽管遭到反对，尽管与Anthropic公司存在公开争端，但据Axios 报道，美国政府仍在利用Claude Mythos扫描机密网络漏洞并测试其网络安全能力。虽然Amodei没有提及正在进行的法律纠纷，但他表示Anthropic公司“对美国有益”。
“我认为Anthropic的观点一如既往。就政治化而言，我之前强调的是要精简、系统化，并且对每个人都公平，”Amodei说道。“制定法律的目的，而不是临时性地行事，是为了让所有公司至少在原则上——我知道实践中要复杂得多——受到同等对待，我们应该努力实现这一点，即使它永远无法完美实现。”
阿莫迪将此刻视为采取行动的短暂窗口，并警告说，各组织的反应速度可能会决定风险是升级还是得到控制。
阿莫迪说：“这是一个充满危险的时刻，如果我们能正确应对——我认为我们已经迈出了第一步——那么我们就能拥有一个更美好的未来。我们需要发现的漏洞就那么多。”
