聯合國今天發布的一份報告建議讓該國際機構監督第一個真正的全球監測和管理人工智慧的努力。
該報告由聯合國秘書長人工智慧高級別諮詢機構編寫，建議成立一個類似於政府間氣候變遷專門委員會的機構，以收集有關人工智慧及其風險的最新資訊。
該報告呼籲就人工智慧展開新的政策對話，以便聯合國 193 個成員國能夠討論風險並就行動達成一致。它還建議聯合國採取措施，賦予較貧窮國家，特別是南半球國家權力，使其從人工智慧中受益並為其治理做出貢獻。報告稱，這些措施應包括創建一個人工智慧基金來支持這些國家的項目，建立人工智慧標準和數據共享系統，以及創建培訓等資源來幫助各國進行人工智慧治理。全球數位契約可以促進該報告的一些建議，這是一項旨在解決國家之間數位和數據鴻溝的現有計劃。最後建議在聯合國內設立一個人工智慧辦公室，專門負責協調聯合國內現有的努力，以實現報告的目標。
高級研究所教授阿隆德拉·尼爾森 (Alondra Nelson)表示：「國際社會一致認為，人工智慧既帶來危害、風險，也帶來機會。」他在白宮的推薦下在聯合國諮詢機構任職。和國務院。
近年來，大型語言模型和聊天機器人所展現的卓越能力引發了經濟生產力革命的希望，但也促使一些專家警告人工智慧可能發展得太快，很快就會變得難以控制。 ChatGPT出現後不久，許多科學家和企業家簽署了一封信，呼籲暫停該技術的開發六個月，以便評估風險。
更迫切的擔憂包括人工智慧可能會自動產生虛假資訊、產生深度偽造的視訊和音訊、大規模取代工人以及在工業規模上加劇社會演算法偏見。 「有一種緊迫感，人們覺得我們需要共同努力，」尼爾森說。
聯合國的提案反映了世界各地決策者對監管人工智慧以減輕這些風險的濃厚興趣。但同時，主要大國——尤其是美國和中國——競相引領一項有望帶來巨大經濟、科學和軍事利益的技術，而這些國家就如何使用和發展這項技術提出了自己的願景。受控。
今年三月，美國向聯合國提交了一項決議，呼籲成員國擁抱「安全、可靠、值得信賴的人工智慧」的發展。 7月，中國提出了自己的決議，強調在人工智慧開發和廣泛應用該技術方面進行合作。所有聯合國成員國都簽署了這兩項協議。
華盛頓特區智庫布魯金斯學會的專家約書亞·梅爾策 (Joshua Meltzer ) 表示：“人工智慧是中美競爭的一部分，因此他們只能在很多方面達成一致。”他說，主要區別包括人工智慧應體現哪些規範和價值觀以及對隱私和個人資料的保護。
富裕國家對人工智慧的看法差異已經造成市場裂痕。歐盟推出了全面的人工智慧法規和資料使用控制措施，促使一些美國公司限制其產品在歐盟的供應。
美國政府採取的不干涉做法導致加州提出了自己的人工智慧規則。這些法規的早期版本被總部位於當地的人工智慧公司批評為過於繁瑣，例如，它們要求公司向政府報告其活動，從而導致規則被淡化。
梅爾澤補充道，人工智慧的發展速度如此之快，以至於聯合國無法單獨管理全球合作。他說：“在人工智慧治理方面，聯合國顯然可以發揮重要作用，但它需要成為分散式架構的一部分”，個別國家也直接致力於此。 “你擁有快速發展的技術，而聯合國顯然無法應對這一問題。”
聯合國報告旨在透過強調人權的重要性來在成員國之間建立共同點。英國牛津大學研究國際人工智慧治理的教授克里斯·拉塞爾 (Chris Russell ) 表示：“從人權角度進行分析非常引人注目。” “它為這項工作奠定了堅實的國際法基礎、非常廣泛的職權範圍，並重點關注人們遭受的具體傷害。”
拉塞爾補充說，政府為了監管而評估人工智慧的工作有大量重複。例如，美國和英國政府有獨立的機構致力於調查人工智慧模型的不當行為。聯合國的努力可能會避免進一步的裁員。 「在國際上開展工作並共同努力非常有意義，」他說。
儘管政府可能將人工智慧視為獲得戰略優勢的一種方式，但許多科學家對人工智慧的擔憂是一致的。本週早些時候，在奧地利維也納舉行的人工智慧安全主題會議之後，一群來自西方和中國的知名學者聯合呼籲在人工智慧安全方面加強合作。
諮詢機構成員納爾遜表示，她相信政府領導人也可以在重要議題上合作。但她表示，這很大程度取決於聯合國及其成員國如何選擇貫徹合作藍圖。 「問題在於實施的細節，」她說。
