我刚读完谷歌最新的通用人工智慧（AGI）论文，其观点如此大胆且极具加密原生特性，让我感觉仿佛在阅读一份加密货币计划的白皮书。 以下是一些要点总结： 1. AGI最终将是一个去中心化自治组织（DAO），而非CEO。我们常常幻想有一天醒来，发现自己拥有了像GPT-10那样无所不能的神明。然而，论文指出，未来的AGI很可能是去中心化的。正如公司里没有人能精通所有领域一样，AGI也将是一个由众多互补的「专业代理商」组成的网路。这个网路没有单一的中心节点，超级智慧源自于代理之间密切的交易和协作。 换句话说，AGI并非单一实体，而是一种「市场状态」。 2. AGI的治理应依赖“智能合约”，而非“法律”。随著模式从单一结构演进到市场结构，安全范式也必须从「心理学」转向「治理研究」。在此之前，人工智慧安全的关键在于协调一个庞大的单一大脑。然而，在每秒发生数亿次的高频互动中，人类监管显得力不从心。因此，引入智能合约至关重要。当代理完成任务后，预言机验证结果并自动执行付款。 “代码即法律”，如果安全约束未得到满足，资金流动将被阻止。 3. 引入「质押」与「罚没」机制 如何防范恶意代理人？研究团队出乎意料地复现了权益证明（PoS）机制。如果代理商想要下大订单，必须先质押其资产。如果在审计过程中侦测到恶意活动，智能合约会立即罚没抵押资产。这种基于经济抵押的信任机制远比简单的程式码审查更有效。 4. 链上身份验证 (DID) 和 Gas 费监管 DID：为防止女巫攻击，每个代理人必须拥有基于公钥加密技术的唯一身份，并与一个法律实体关联。 动态 Gas 费：为防止垃圾资料污染，我们建议对代理操作收取动态费用。这与以太坊网路在拥塞期间使用的 Gas 费监管机制非常相似。 5. 链上记录：所有决策和交易历史都必须记录在一个加密安全、不可窜改且仅可追加的帐本中。这使得在系统故障时能够进行取证分析，并确保任何人都无法逃避责任。 本文代表了人工智慧安全领域的典范转移。换句话说，它超越了简单的电脑科学和价值取向，扩展到了经济学和博弈论的领域。 过去十年，加密货币产业对 DID、智能合约、预言机、经济模型和治理机制的深入探索，无论其成熟度如何，都至少代表著向前迈出的几步。这些步骤甚至可能为未来大规模、去中心化的矽基生命体奠定基础。 未来的通用人工智慧（AGI）安全专家很可能更接近理解博弈论、市场设计和去中心化治理的“人工智慧经济学家”，而不是程式设计工程师。我们的根本任务并非只是修改这个庞大模型的神经元，而是设计这个新物种的共识、激励和治理模式。 由于论文内容丰富，以上仅为部分摘录。有兴趣的读者可阅读原文。

本文之所以能够打破技术、经济学和博弈论之间的壁垒，要归功于一支由各自领域顶尖专家组成的「六角形战士」团队。 第一作者：Nenad Tomašev，DeepMind 资深首席科学家。作为一位真正的跨学科专家，他参与了与 AlphaZero 相关的博弈论人工智慧研究，并且是《虚拟代理经济》（我们之前已详细报导过）一书的第一作者。换句话说，这是一套由一位对「博弈论」有著深刻理解的专家所设计的人工智慧市场治理方案。 核心作者：Simon Osindero，人工智慧之父 Geoffrey Hinton 的得意门生，深度信念神经网路 (DBN) 的共同发明人，是一位拥有超过 57,000 次引用的领导者。他的参与确保了整个理论的绝对严谨性，即使在底层技术层面也是如此。政策与经济顾问委员会：成员包括DeepMind通用人工智慧政策总监（宪法与监管设计）塞巴斯蒂安·克里尔；牛津大学政治经济学家朱利安·雅各布斯；以及剑桥大学/伦敦大学学院人工智慧伦理专家马蒂亚·富兰克林。 这不仅仅是一篇学术论文，它更像是谷歌DeepMind资深研究人员共同为通用人工智慧制定的「未来发展方向」。 x.com/chaowxyz/status/20025827...…

全文 分散式 AGI 安全

韩文翻译 blog.naver.com/ryogan/22411785...…