洩露的文件顯示,Anthropic 的新模式帶來了前所未有的網絡安全風險。

本文為機器翻譯
展示原文

據《財富》雜誌報道,Anthropic 公司洩露的內部文件顯示,該公司正在研發代號為“Claude Mythos”的新一代人工智能模型。

然而,更引人注目的是,儘管人們認為這些新型號會帶來“前所未有的網絡安全風險”,但據報道它們已經進入測試階段。

人種學派的數據洩露

《財富》雜誌近日發佈了一份報告,其中包含人工智能公司 Anthropic 洩露的文件。這些文件披露了該公司正在開發的新一代人工智能模型的詳細信息,據稱該模型名為“Claude Mythos”。

此次洩露事件是由於Anthropic公司內容管理系統(CMS)配置中的人為錯誤造成的。LayerX Security公司的Roy Paz和劍橋大學的Alexandre Pauwels解釋說,Anthropic公司將近3000份未發佈的資源,包括圖片、PDF文件、音頻文件和博客文章草稿,遺留在一個可公開訪問和搜索的數據湖中。

在《財富》雜誌通知 Anthropic 公司之前,這些資料已可在網上找到,之後該公司刪除了公眾訪問權限。

《財富》雜誌查閱的文件顯示,Claude Mythos 已經進入測試階段。更重要的是,文件指出,Anthropic 公司認為這款新型號“會帶來前所未有的網絡安全風險”。

Anthropic 在一篇博客草稿中表示,該系統“目前在網絡能力方面遠遠領先於任何其他人工智能模型”,並警告說,“這預示著即將到來的一波模型浪潮,這些模型能夠以遠遠超過防禦者努力的方式利用漏洞。”

由於存在潛在風險,Anthropic 制定了一項謹慎的推廣策略,優先考慮網絡安全防禦組織的早期訪問權限,使防禦者能夠搶先加強代碼庫,抵禦 AI 驅動的攻擊。

此前,Anthropic 曾報道,一箇中國政府支持的組織利用 Claude Code 滲透了約 30 個組織,其中包括科技公司、金融機構和政府機構,因此這種擔憂並非毫無根據。

洩露的文件還披露了計劃在英國鄉村一座 18 世紀莊園舉行的僅限受邀 CEO 參加的峰會的細節,Anthropic 首席執行官 Dario Amodei 將在那裡接待歐洲商業領袖,討論人工智能的應用並展示尚未發佈的 Claude 模型的功能。

埃隆·馬斯克與人類學的持續鬥爭

X 的消息一經曝光便引起了廣泛關注,X 的所有者兼 xAI(Anthropic 的直接競爭對手)的負責人埃隆·馬斯克自然不會錯過對該消息發表評論的機會。

馬斯克評論道:“非常令人擔憂”,並迅速獲得了數萬次瀏覽和數千個贊。

馬斯克慣於對與他意見相左的競爭對手的負面新聞發表評論。Anthropic 由 OpenAI 的前員工創立,而馬斯克曾公開批評 OpenAI 以及整個人工智能行業在安全性和商業化方面的做法。

與此同時,馬斯克自己的AI公司xAI最近推出了名為“SuperGrok Lite”的全新付費訂閱服務。該訂閱服務售價10美元,並對Grok的免費用戶設置了諸多限制,旨在引導他們購買該服務或Grok提供的其他三種訂閱方案。

其中包括每月收費 30 美元的 SuperGrok、每月收費 300 美元的 SuperGrok Heavy 以及每月收費 30 美元的 Grok Business。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
75
收藏
15
評論