据谷歌威胁情报小组称，网络犯罪分子利用人工智能模型发现并利用了一款流行的开源网络管理工具中的零日漏洞。
谷歌周一发布的一份报告称，该漏洞允许攻击者绕过双因素身份验证，并警告称，在谷歌介入之前，攻击者正准备发起大规模攻击。这是谷歌首次确认人工智能辅助的零日漏洞已被实际应用。
谷歌写道：“随着人工智能模型编码能力的提升，我们不断观察到攻击者越来越多地利用这些工具作为专家级的增幅器，进行漏洞研究和攻击开发，包括针对零日漏洞的攻击。虽然这些工具增强了防御性研究的能力，但它们也降低了攻击者逆向工程应用程序和开发复杂的人工智能生成攻击程序的门槛。”
这份报告发布之际，研究人员和各国政府警告称，人工智能模型正在加速网络攻击，它们帮助黑客发现漏洞、生成恶意软件并自动开发漏洞利用程序。
报告指出：“尽管前沿的逻辑层模型（LLM）在处理复杂的企业授权逻辑方面仍面临挑战，但它们在上下文推理方面的能力日益增强，能够有效地解读开发者的意图，将双因素身份验证（2FA）强制执行逻辑与其硬编码例外情况之间的矛盾之处关联起来。这种能力使得模型能够发现那些在传统扫描器看来功能上正确，但从安全角度来看却存在战略性缺陷的潜在逻辑错误。”
据谷歌称，这些身份不明的攻击者利用人工智能识别出软件中的一个逻辑缺陷：该缺陷导致软件信任一个可以绕过双因素身份验证保护的条件。与传统的扫描器搜索代码错误或崩溃不同，人工智能分析了软件的预期运行方式并检测到了矛盾之处，从而使攻击者能够在不破坏加密本身的情况下绕过安全检查。
谷歌写道：“人工智能驱动的编码加速了攻击者开发基础设施套件和多态恶意软件的速度。这些人工智能赋能的开发周期通过创建混淆网络和将人工智能生成的诱饵逻辑集成到我们已关联到疑似与俄罗斯有关的威胁行为者的恶意软件中，从而促进了防御规避。”
报告称，来自中国和朝鲜的威胁行为者正在利用人工智能来发现软件漏洞，而俄罗斯的犯罪团伙则利用人工智能来隐藏其恶意软件。
谷歌写道：“这些攻击者利用了复杂的人工智能增强型漏洞发现和利用方法，从基于用户角色的越狱尝试开始，并整合了专门的高保真安全数据集，以增强其漏洞发现和利用工作流程。”
谷歌的报告旨在警示人工智能驱动的网络攻击风险日益增长，但一些研究人员认为这种担忧被夸大了。剑桥大学牵头进行的一项独立研究分析了超过9万个网络犯罪论坛帖子，发现大多数犯罪分子利用人工智能进行垃圾邮件和网络钓鱼，而不是编写复杂的网络攻击代码。
该研究指出：“考虑到亚文化和社会学习在入门阶段的重要性，越狱版LLM（暗黑人工智能）作为导师的作用也被夸大了——新用户不仅重视学习黑客和网络犯罪技能本身，也同样重视其中涉及的社交关系和社群认同。因此，我们的初步研究结果表明，即使对Viber犯罪的兴起表示担忧，也可能夸大了迄今为止其造成的破坏程度。”
尽管剑桥大学的研究结果如此，但威胁情报组织的这份报告发布之际，谷歌也正面临着与其人工智能工具相关的安全问题。今年4月，谷歌修复了其Antigravity人工智能编码平台中的一个提示注入漏洞。研究人员表示，该漏洞可能允许攻击者通过篡改提示信息在开发者的计算机上执行命令。
“虽然我们认为Gemini没有被使用，但根据这些漏洞利用的结构和内容，我们高度确信攻击者可能利用了人工智能模型来支持发现和利用此漏洞，”谷歌研究人员写道。
今年早些时候，Anthropic公司限制了对其Claude Mythos模型的访问权限，此前测试表明该模型能够识别数千个此前未知的软件漏洞。这些发现也加剧了人们日益增长的担忧，即人工智能模型正在重塑网络安全，帮助防御者和攻击者更快地发现漏洞。
“随着这些功能被更多防御者掌握，许多其他团队现在也和我们当初发现这些漏洞时一样感到头晕目眩，”Mozilla在4月份的一篇博客文章中写道。“对于一个防御严密的目标来说，即使只有这样一个漏洞，在2025年也足以敲响警钟，而现在这么多漏洞同时出现，不禁让人怀疑我们是否真的能够应对。”
