週二，Anthropic 首席執行官 Dario Amodei 和摩根大通首席執行官 Jamie Dimon 就人工智能日益增長的網絡安全威脅展開了討論，因為人工智能識別漏洞的速度比組織修復漏洞的速度更快。
在與 Anthropic 進軍金融服務領域相關的近兩個小時的活動中，該公司推出了用於撰寫推介材料、進行收益審查和合規工作等任務的AI 代理。Amodei 表示，在類似功能得到更廣泛的應用之前，可能需要 6 到 12 個月的時間來解決該公司 Mythos 模型發現的數萬個缺陷。
“危險在於漏洞數量、數據洩露數量以及勒索軟件對學校、醫院乃至銀行造成的經濟損失都將大幅增加，”阿莫迪說道。
Amodei 的最新聲明是在之前與 Mozilla 進行的測試之後發表的。當時，Mythos 的早期版本在一次掃描中就發現了Firefox 瀏覽器中的 271 個漏洞，這表明人工智能掃描大型代碼庫的速度比人類研究人員快得多。
Anthropic公司表示，該模型可以發現廣泛使用的軟件中數千個此前未知的漏洞。許多漏洞至今仍未被披露，因為它們尚未被修復，導致缺陷懸而未決。
“如果我們發佈一些問題而沒有解決它，那麼壞人就會利用它，”阿莫迪說。
在受控測試中，Mythos 無需人工干預即可完成多步驟網絡攻擊模擬，證明了其能夠從識別弱點到利用弱點。
Anthropic 已將該模型限制在“玻璃之翼”項目下的一小群合作伙伴中，旨在類似工具廣泛應用之前修復漏洞。
研究人員已經證明，Mythos 的部分功能可以使用現有模型和開源技術進行復制，這表明類似的工具可能會比預期更快地傳播。
這些警告在業內引起了質疑。今年4月，OpenAI首席執行官薩姆·奧特曼表示，人們對Mythos的擔憂可能被誇大了，並暗示Anthropic公司正在利用“ 恐嚇營銷”來誇大風險，以此為限制該技術的使用辯護。
“你可以用很多不同的理由來證明這一點，其中一些理由是真實的，比如確實存在合理的安全隱患，”奧特曼說。“但如果你想要的是‘我們需要控制人工智能，只有我們才能控制，因為我們才是值得信賴的人’，我認為利用恐懼心理進行營銷可能是最有效的證明方式。”
儘管遭到反對，儘管與Anthropic公司存在公開爭端，但據Axios 報道，美國政府仍在利用Claude Mythos掃描機密網絡漏洞並測試其網絡安全能力。雖然Amodei沒有提及正在進行的法律糾紛，但他表示Anthropic公司“對美國有益”。
“我認為Anthropic的觀點一如既往。就政治化而言，我之前強調的是要精簡、系統化，並且對每個人都公平，”Amodei說道。“制定法律的目的，而不是臨時性地行事，是為了讓所有公司至少在原則上——我知道實踐中要複雜得多——受到同等對待，我們應該努力實現這一點，即使它永遠無法完美實現。”
阿莫迪將此刻視為採取行動的短暫窗口，並警告說，各組織的反應速度可能會決定風險是升級還是得到控制。
阿莫迪說：“這是一個充滿危險的時刻，如果我們能正確應對——我認為我們已經邁出了第一步——那麼我們就能擁有一個更美好的未來。我們需要發現的漏洞就那麼多。”
