a16z crypto 发布了一篇关于领先的 AI 安全解决方案以及 Vibe Coding 时代 AI 安全的文章。 @peachmint 分享给了我，所以我读了。 文章中介绍的 AI 安全解决方案大致分为三类： 1. 来自 AIxCC（美国国防部主办的 AI 安全解决方案竞赛）的解决方案 • 这些解决方案专注于自动化模糊测试，大多数方案将现有工具与 AI 集成，而不是引入全新的方法。它们使用经过微调的模型在漏洞检测后进行修复。 2. Google 的 Big Sleep • 一个模拟人类安全研究人员行为的代理。它主要用于发现 C 程式码中的记忆体漏洞，并使用位址清理器来验证这些漏洞。 • 这些解决方案只能侦测漏洞，而无法修复漏洞。 Google 目前正在开发的 CodeMender 专案预计将改进这一点。 3. OpenAI 的 Aardbark • 它并非专注于漏洞检测，而是更倾向于成为一个基于推理的辅助工具，帮助人类研究人员。 文章总结道，在当前「振动编码」时代，程式码不一致，安全实践也多种多样，导致现有安全系统难以统一应用。特别是人工智慧安全系统，在识别和修复漏洞时经常出现「幻觉」。尽管如此，文章认为人工智慧将是解决这个问题的工具，并且专用模型和代理系统有望随著时间的推移而不断发展。 这次讨论比预期的更偏重理论，这有点令人失望。既然我们谈到了 AIxCC，我想讨论一下 AIxCC 决赛入围者的方法和最新进展。如果你无聊的话，可以看看这个影片。 第一名：亚特兰大团队的 Atlantis • 由乔治亚理工学院、三星研究院、韩国科学技术院 (KAIST) 和浦项科技大学 (POSTECH) 共同组成 • 模糊测试 + 符号执行 + 精细调优的专有模型 • 针对每种语言和阶段使用不同策略的代理 • github.com/Team-Atlanta/aixcc-... 第二名：Trail of Bits 的 Buttercup • 传统模糊测验工具（例如 libfuzzer）+ 非推理 LLM => 高性价比 • github.com/trailofbits/butterc... 第三名：Theory 的 Roboduck • 依赖现代 LLM 程式码分析，而非传统的二进位分析技术。传统技术作为备用方案 • 重现人类安全研究人员的工作流程 • 使用 Xint Code 开发商业安全解决方案 • github.com/theori-io/aixcc-afc... 第四名：Fuzzing Brain（作者：All You Need Is A Fuzzing Brain） • 与 Roboduck 类似，它依赖 LLM，并具有模糊测试回退机制。 • 它并行运作 23 种不同的 LLM 策略。 • github.com/o2lab/afc-crs-all-y... 第五名：Shellphish 的 Artiphishell • 由加州大学圣塔芭芭拉分校、亚利桑那州立大学和普渡大学共同组成 • 开发了 GrammarGuy，专门用于模糊测试复杂的输入格式，并基于 LLM 覆盖率回馈不断改进语法生成 • 连结静态分析、动态分析、分类和修补程式的流程 第六名：42-b3yong-bug 的 BugBuster • 由西北大学等共同组成 • 专注于模糊测试的漏洞侦测 • 侦测到的漏洞数量排名第二，但补丁成功率低导致最终排名靠后 第七名：美国国防公司 SIFT 的 Lacrosse • 对一个使用了 10 年的遗留系统进行现代化改造 • 模糊测验 + 符号推理 • github.com/siftech/afc-crs-lac... 原文：a16zcrypto.com/posts/article/a...