联合国今天发布的一份报告建议让该国际机构监督第一个真正的全球监测和管理人工智慧的努力。
该报告由联合国秘书长人工智慧高级别咨询机构编写，建议成立一个类似于政府间气候变迁专门委员会的机构，以收集有关人工智慧及其风险的最新资讯。
该报告呼吁就人工智慧展开新的政策对话，以便联合国 193 个成员国能够讨论风险并就行动达成一致。它还建议联合国采取措施，赋予较贫穷国家，特别是南半球国家权力，使其从人工智慧中受益并为其治理做出贡献。报告称，这些措施应包括创建一个人工智慧基金来支持这些国家的项目，建立人工智慧标准和数据共享系统，以及创建培训等资源来帮助各国进行人工智慧治理。全球数位契约可以促进该报告的一些建议，这是一项旨在解决国家之间数位和数据鸿沟的现有计划。最后建议在联合国内设立一个人工智慧办公室，专门负责协调联合国内现有的努力，以实现报告的目标。
高级研究所教授阿隆德拉·尼尔森 (Alondra Nelson)表示：「国际社会一致认为，人工智慧既带来危害、风险，也带来机会。」他在白宫的推荐下在联合国咨询机构任职。和国务院。
近年来，大型语言模型和聊天机器人所展现的卓越能力引发了经济生产力革命的希望，但也促使一些专家警告人工智慧可能发展得太快，很快就会变得难以控制。 ChatGPT出现后不久，许多科学家和企业家签署了一封信，呼吁暂停该技术的开发六个月，以便评估风险。
更迫切的担忧包括人工智慧可能会自动产生虚假资讯、产生深度伪造的视讯和音讯、大规模取代工人以及在工业规模上加剧社会演算法偏见。 「有一种紧迫感，人们觉得我们需要共同努力，」尼尔森说。
联合国的提案反映了世界各地决策者对监管人工智慧以减轻这些风险的浓厚兴趣。但同时，主要大国——尤其是美国和中国——竞相引领一项有望带来巨大经济、科学和军事利益的技术，而这些国家就如何使用和发展这项技术提出了自己的愿景。受控。
今年三月，美国向联合国提交了一项决议，呼吁成员国拥抱「安全、可靠、值得信赖的人工智慧」的发展。 7月，中国提出了自己的决议，强调在人工智慧开发和广泛应用该技术方面进行合作。所有联合国成员国都签署了这两项协议。
华盛顿特区智库布鲁金斯学会的专家约书亚·梅尔策 (Joshua Meltzer ) 表示：“人工智慧是中美竞争的一部分，因此他们只能在很多方面达成一致。”他说，主要区别包括人工智慧应体现哪些规范和价值观以及对隐私和个人资料的保护。
富裕国家对人工智慧的看法差异已经造成市场裂痕。欧盟推出了全面的人工智慧法规和资料使用控制措施，促使一些美国公司限制其产品在欧盟的供应。
美国政府采取的不干涉做法导致加州提出了自己的人工智慧规则。这些法规的早期版本被总部位于当地的人工智慧公司批评为过于繁琐，例如，它们要求公司向政府报告其活动，从而导致规则被淡化。
梅尔泽补充道，人工智慧的发展速度如此之快，以至于联合国无法单独管理全球合作。他说：“在人工智慧治理方面，联合国显然可以发挥重要作用，但它需要成为分散式架构的一部分”，个别国家也直接致力于此。 “你拥有快速发展的技术，而联合国显然无法应对这一问题。”
联合国报告旨在透过强调人权的重要性来在成员国之间建立共同点。英国牛津大学研究国际人工智慧治理的教授克里斯·拉塞尔 (Chris Russell ) 表示：“从人权角度进行分析非常引人注目。” “它为这项工作奠定了坚实的国际法基础、非常广泛的职权范围，并重点关注人们遭受的具体伤害。”
拉塞尔补充说，政府为了监管而评估人工智慧的工作有大量重复。例如，美国和英国政府有独立的机构致力于调查人工智慧模型的不当行为。联合国的努力可能会避免进一步的裁员。 「在国际上开展工作并共同努力非常有意义，」他说。
尽管政府可能将人工智慧视为获得战略优势的一种方式，但许多科学家对人工智慧的担忧是一致的。本周早些时候，在奥地利维也纳举行的人工智慧安全主题会议之后，一群来自西方和中国的知名学者联合呼吁在人工智慧安全方面加强合作。
咨询机构成员纳尔逊表示，她相信政府领导人也可以在重要议题上合作。但她表示，这很大程度取决于联合国及其成员国如何选择贯彻合作蓝图。 「问题在于实施的细节，」她说。
