OpenAI 向杜克大學的一個研究團隊提供 100 萬美元的資助，用於研究人工智能如何預測人類的道德判斷。
該倡議強調了人們對技術與道德交叉問題的日益關注，並提出了關鍵問題：人工智能能否處理道德的複雜性，還是道德決策仍應由人類來做？
杜克大學道德態度與決策實驗室 (MADLAB) 由倫理學教授 Walter Sinnott-Armstrong 和聯合研究員 Jana Schaich Borg 領導，負責“製造道德人工智能”項目。該團隊設想了一種“道德 GPS”，一種可以指導道德決策的工具。
其研究涵蓋計算機科學、哲學、心理學和神經科學等多個領域，旨在瞭解道德態度和決策是如何形成的，以及人工智能如何為這一過程做出貢獻。
人工智能在道德中的作用
MADLAB 的工作研究了人工智能如何預測或影響道德判斷。想象一下一種評估道德困境的算法，例如在自動駕駛汽車的兩個不利結果之間做出決定，或為道德商業實踐提供指導。這些場景凸顯了人工智能的潛力，但也提出了一些基本問題：誰來決定指導這些類型工具的道德框架，以及是否應該相信人工智能能夠做出具有道德影響的決策？
OpenAI 的願景
該基金支持開發預測人類在醫療、法律和商業等領域的道德判斷的算法，這些領域經常涉及複雜的道德權衡。儘管人工智能前景光明，但它仍然難以理解道德的情感和文化細微差別。當前的系統擅長識別模式，但缺乏道德推理所需的更深層次的理解。
另一個擔憂是這項技術將如何應用。雖然人工智能可以幫助做出拯救生命的決定，但它在國防戰略或監視中的使用會引發道德困境。如果不道德的人工智能行為符合國家利益或符合社會目標，那麼它們是否合理？這些問題強調了將道德嵌入人工智能系統的難度。
挑戰與機遇
將道德融入人工智能是一項艱鉅的挑戰，需要跨學科合作。道德並非放之四海而皆準，它受到文化、個人和社會價值觀的影響，因此很難融入算法。此外，如果沒有透明度和問責制等保障措施，就有可能延續偏見或促成有害應用。
OpenAI 對杜克大學研究的投資標誌著人們朝著理解人工智能在道德決策中的作用邁出了一步。然而，這段旅程還遠未結束。開發人員和政策制定者必須共同努力，確保人工智能工具符合社會價值觀，強調公平和包容性，同時解決偏見和意想不到的後果。
隨著人工智能在決策中的作用越來越重要，其倫理影響也需要引起重視。“打造道德人工智能”等項目為我們提供了一個起點，讓我們能夠駕馭複雜的環境，在創新與責任之間取得平衡，從而塑造一個技術服務於大眾利益的未來。
（圖片來自Unsplash ）
另請參閱： 人工智能治理：分析新興全球法規
想要從行業領袖那裡瞭解更多有關人工智能和大數據的知識嗎？請關注在阿姆斯特丹、加利福尼亞和倫敦舉辦的人工智能和大數據博覽會。這場綜合性活動與其他領先活動（包括智能自動化會議、 BlockX 、數字化轉型周和網絡安全與雲博覽會）在同一地點舉辦。
在此探索由 TechForge 主辦的其他即將舉行的企業技術活動和網絡研討會。
