人工智能代理已经能够编写代码、管理工作流程，并开始在物理世界中行动——但它们无法安全地彼此协调，也无法与不受信任的第三方协调，这正在扼杀自主系统的潜力。 我们获得了近 5000 万英镑的资金支持，我们的“扩展信任”计划将利用可编程密码学、安全硬件和人工智能领域的最新进展，使代理从单打独斗转变为在数字和物理世界中安全协作。 该计划的核心是“扩展信任竞技场”：一个旨在测试人工智能系统在多代理协调方面能力的开放式竞赛平台，并为最强团队提供数百万英镑的奖金。 我们现在诚邀机器人专家、博弈论专家、密码学家、人工智能安全工程师等团队提交提案，为未来的竞技场参与者开发开源工具，并开展基础研究，推动我们在代理协调方面从经验驱动的保障转向理论驱动的保障。 请注册参加我们即将举办的网络研讨会，了解更多信息，并于 3 月 24 日前提交您的提案：