据报道，美国立法者已传唤多家人工智能开发公司，要求其解释某些模型是如何成为广泛间谍活动的一部分的。
据Axios周三发布的一份报告援引私下分享的信件称，其中包括 Anthropic 首席执行官 Dario Amodei，他被要求于 12 月 17 日出席众议院国土安全委员会的听证会，解释中国政府行为者如何使用克劳德代码。
本月初，Anthropic 披露，一个与中国政府有关联的黑客组织利用其工具 Claude Code 发起了该公司所称的首个主要由人工智能系统自动化的大规模网络行动。
攻击者以 GTG-1002 的名义策划了一场针对约 30 个组织的攻击活动，据 Anthropic 称，Claude Code 负责了大部分阶段：侦察、漏洞扫描、漏洞利用程序创建、凭证收集和数据窃取。
负责后续调查的是众议员安德鲁·加巴里诺（纽约州共和党籍），以及两位小组委员会主席。
委员会希望阿莫迪详细说明Anthropic何时首次发现该活动，攻击者如何在攻击的不同阶段利用其模型，以及随着攻击活动的进行，哪些安全措施失效或奏效。据Axios报道，谷歌云和Quantum Xchange的高管也将出席听证会。
“我们首次看到外国敌对势力利用商业人工智能系统，在几乎无需人为干预的情况下，实施了几乎整个网络行动，”加尔巴里诺在最初报告中引用的一份声明中表示。“这应该引起每个联邦机构和每个关键基础设施部门的关注。”
Decrypt已联系众议员 Garbarino、谷歌云、Quantum Xchange 和 Anthropic 征求意见。
国会的审查紧随英国安全部门军情五处发出的另一项警告之后。军情五处上周向英国议员发出警报，称发现有中国情报人员使用虚假招聘人员资料来锁定议员、贵族和议会工作人员。
英国安全部长丹·贾维斯在声明中表示，英国政府在寻求“继续与中国保持经济关系”的同时，也准备“在任何国家破坏我们的民主生活方式时对其提出挑战”。
链上金融面临风险
在此背景下，观察人士警告说，目前用于间谍活动的AI能力同样可以轻易地加速金融盗窃。
“人工智能最可怕的地方在于它的速度，”人工智能研究实验室 Eliza Labs 的创始人肖·沃尔特斯告诉Decrypt 。“过去需要人工完成的工作现在可以大规模自动化。”
沃尔特斯解释说，这种逻辑可能简单得危险。如果国家行为体能够破解和操纵黑客攻击模型，那么下一步就是操控智能人工智能“在不被察觉的情况下掏空钱包或窃取资金”。
沃尔特斯解释说，人工智能代理可以继续“与目标建立融洽关系和信任，保持对话，并让他们落入骗局”。
沃尔特斯声称，经过充分训练后，这些代理人也可以“开始攻击链上合约”。
“即使是像 Claude 这样所谓的‘协调一致’的模型也会很乐意帮助你找到‘你的’代码中的安全漏洞——当然，它不知道哪些是你的，哪些不是你的，而且为了提供帮助，它肯定会在许多可能造成资金流失的合同中找到漏洞，”他说。
但沃尔特斯表示，虽然应对此类攻击的措施“很容易建立”，但现实情况是“坏人试图绕过我们已经有的安全措施”，他们试图欺骗模型“进行黑帽活动，让模型相信他们是在帮助别人，而不是在作恶”。
