我剛讀完谷歌最新的通用人工智慧（AGI）論文，其觀點如此大膽且極具加密原生特性，讓我感覺彷彿在閱讀一份加密貨幣計畫的白皮書。 以下是一些要點總結： 1. AGI最終將是一個去中心化自治組織（DAO），而非CEO。我們常常幻想有一天醒來，發現自己擁有了像GPT-10那樣無所不能的神明。然而，論文指出，未來的AGI很可能是去中心化的。正如公司裡沒有人能精通所有領域一樣，AGI也將是一個由眾多互補的「專業代理商」組成的網路。這個網路沒有單一的中心節點，超級智慧源自於代理之間密切的交易和協作。 換句話說，AGI並非單一實體，而是一種「市場狀態」。 2. AGI的治理應依賴“智能合約”，而非“法律”。隨著模式從單一結構演進到市場結構，安全範式也必須從「心理學」轉向「治理研究」。在此之前，人工智慧安全的關鍵在於協調一個龐大的單一大腦。然而，在每秒發生數億次的高頻互動中，人類監管顯得力不從心。因此，引入智能合約至關重要。當代理完成任務後，預言機驗證結果並自動執行付款。 “代碼即法律”，如果安全約束未得到滿足，資金流動將被阻止。 3. 引入「質押」與「罰沒」機制 如何防範惡意代理人？研究團隊出乎意料地復現了權益證明（PoS）機制。如果代理商想要下大訂單，必須先質押其資產。如果在審計過程中偵測到惡意活動，智能合約會立即罰沒抵押資產。這種基於經濟抵押的信任機制遠比簡單的程式碼審查更有效。 4. 鏈上身份驗證 (DID) 和 Gas 費監管 DID：為防止女巫攻擊，每個代理人必須擁有基於公鑰加密技術的唯一身份，並與一個法律實體關聯。 動態 Gas 費：為防止垃圾資料污染，我們建議對代理操作收取動態費用。這與以太坊網路在擁塞期間使用的 Gas 費監管機制非常相似。 5. 鏈上記錄：所有決策和交易歷史都必須記錄在一個加密安全、不可竄改且僅可追加的帳本中。這使得在系統故障時能夠進行取證分析，並確保任何人都無法逃避責任。 本文代表了人工智慧安全領域的典範轉移。換句話說，它超越了簡單的電腦科學和價值取向，擴展到了經濟學和博弈論的領域。 過去十年，加密貨幣產業對 DID、智能合約、預言機、經濟模型和治理機制的深入探索，無論其成熟度如何，都至少代表著向前邁出的幾步。這些步驟甚至可能為未來大規模、去中心化的矽基生命體奠定基礎。 未來的通用人工智慧（AGI）安全專家很可能更接近理解博弈論、市場設計和去中心化治理的“人工智慧經濟學家”，而不是程式設計工程師。我們的根本任務並非只是修改這個龐大模型的神經元，而是設計這個新物種的共識、激勵和治理模式。 由於論文內容豐富，以上僅為部分摘錄。有興趣的讀者可閱讀原文。

本文之所以能夠打破技術、經濟學和博弈論之間的壁壘，要歸功於一支由各自領域頂尖專家組成的「六角形戰士」團隊。 第一作者：Nenad Tomašev，DeepMind 資深首席科學家。作為一位真正的跨學科專家，他參與了與 AlphaZero 相關的博弈論人工智慧研究，並且是《虛擬代理經濟》（我們之前已詳細報導過）一書的第一作者。換句話說，這是一套由一位對「博弈論」有著深刻理解的專家所設計的人工智慧市場治理方案。 核心作者：Simon Osindero，人工智慧之父 Geoffrey Hinton 的得意門生，深度信念神經網路 (DBN) 的共同發明人，是一位擁有超過 57,000 次引用的領導者。他的參與確保了整個理論的絕對嚴謹性，即使在底層技術層面也是如此。政策與經濟顧問委員會：成員包括DeepMind通用人工智慧政策總監（憲法與監管設計）塞巴斯蒂安·克里爾；牛津大學政治經濟學家朱利安·雅各布斯；以及劍橋大學/倫敦大學學院人工智慧倫理專家馬蒂亞·富蘭克林。 這不僅僅是一篇學術論文，它更像是谷歌DeepMind資深研究人員共同為通用人工智慧制定的「未來發展方向」。 x.com/chaowxyz/status/20025827...…

全文 分散式 AGI 安全

韓文翻譯 blog.naver.com/ryogan/22411785...…