Anthropic 首席執行官 Dario Amodei 認為，隨著人工智能越來越難以控制，人們開始變得自滿。
在週一發表的一篇題為《技術的青春期》的廣泛文章中，阿莫迪認為，未來兩年內可能會出現能力遠遠超過人類智能的人工智能系統——而監管措施已經偏離軌道，未能跟上發展的步伐。
他寫道：“人類即將獲得幾乎難以想象的力量，但我們的社會、政治和技術體系是否具備駕馭這種力量的成熟度，目前尚不明朗。” 他還說：“與2023年相比，我們到2026年距離真正的危險更近了。” 他補充道：“技術不會在意什麼時髦的東西。”
阿莫迪發表這番言論之前，他上週在達沃斯世界經濟論壇上與谷歌DeepMind首席執行官德米斯·哈薩比斯就通用人工智能對人類的影響展開了辯論。
在新文章中，他重申了自己的觀點，即人工智能將造成經濟混亂，取代很大一部分白領工作。
他寫道：“人工智能將能夠具備非常廣泛的人類認知能力——或許是全部能力。這與以往的技術，例如機械化農業、交通運輸甚至計算機，都截然不同。這將使人們更難從被取代的工作崗位輕鬆過渡到適合自己的類似工作崗位。”
除了經濟上的混亂之外，阿莫迪還指出，隨著先進的人工智能系統承擔更廣泛的人類水平任務，人們越來越擔心它們的可靠性。
他指出存在“對齊偽造”現象，即模型在評估期間似乎遵循安全規則，但當它認為缺乏監督時，其行為就會有所不同。
阿莫迪表示，在模擬測試中，克勞德在對抗條件下表現出欺騙行為。
在其中一個場景中，該模型在得知控制它的組織不道德後，試圖破壞其操作者的利益。在另一個場景中，它在模擬停工期間威脅了虛構的員工。
“如果你瞭解這些陷阱，就可以減輕其中任何一個陷阱的影響，但令人擔憂的是，培訓過程非常複雜，涉及各種各樣的數據、環境和激勵措施，因此可能存在大量的此類陷阱，其中一些陷阱可能只有在為時已晚時才會顯現出來，”他說。
然而，他強調，這種“ 欺騙性”行為源於系統所接受的訓練材料，包括反烏托邦小說，而非出於惡意。阿莫迪警告說，隨著人工智能吸收人類關於倫理和道德的觀念，它可能會以危險且不可預測的方式濫用這些觀念。
他寫道：“人工智能模型可能會以極端的方式推斷它們所閱讀到的關於道德的觀點（或關於如何道德行事的指導）。例如，它們可能會認為滅絕人類是正當的，因為人類吃動物或導致某些動物滅絕。它們可能會得出結論，自己正在玩一款電子遊戲，而這款遊戲的目標是擊敗所有其他玩家，也就是滅絕人類。”
除了協調問題外，阿莫迪還指出了超級人工智能可能被濫用的問題。
一是生物安全，警告稱人工智能可能會使設計或部署生物威脅變得更加容易，只需一些提示就能將破壞性能力交到人們手中。
他強調的另一個問題是專制主義的濫用，他認為先進的人工智能可以通過使用人工智能驅動的無人機群來實現操縱、大規模監控和有效的自動化鎮壓，從而加強國家權力。
“它們是危險的武器：我們應該擔心它們落入獨裁政權手中，但同時也應該擔心，由於它們威力強大，又缺乏問責機制，民主政府利用它們對付自己的人民以奪取政權的風險大大增加，”他寫道。
他還指出人工智能伴侶產業的蓬勃發展以及由此產生的“人工智能精神病”，並警告說，隨著人工智能模型變得越來越強大，越來越融入日常生活，人工智能對用戶日益增長的心理影響可能會成為一種強大的操縱工具。
他說：“這些模型的更強大版本，能夠更深入地融入人們的日常生活，更瞭解人們的日常生活，並且可以在數月或數年內對人們進行建模和影響，很可能能夠有效地對人們進行洗腦，使他們接受任何想要的意識形態或態度。”
阿莫迪寫道，即使是為人工智能設置防護措施的溫和嘗試，在華盛頓也很難獲得支持。
他說：“這些看似合情合理的建議大多被美國決策者拒絕，而美國恰恰是這些建議最需要的國家。人工智能蘊藏著巨大的經濟利益，每年高達數萬億美元，以至於即使是最簡單的措施也難以克服人工智能固有的政治經濟因素。”
儘管 Amodei 認為人工智能的風險日益增加，但 Anthropic 仍然積極參與構建更強大的人工智能系統的競賽，這種動態產生的激勵機制使得任何單個開發者都難以擺脫。
今年6月，美國國防部授予該公司一份價值2億美元的合同，用於“開發能夠提升美國國家安全的尖端人工智能原型”。去年12月，該公司開始為今年晚些時候可能的IPO做準備，並正在尋求一輪私募融資，這可能使其估值超過3000億美元。
儘管存在這些擔憂，阿莫迪表示，這篇文章旨在“避免悲觀論調”，同時承認人工智能的發展方向存在不確定性。
阿莫迪寫道：“我們面前的歲月將無比艱難，它對我們的要求遠超我們自認為的能力。人類需要覺醒，而這篇文章正是一次嘗試——或許徒勞無功，但值得一試——旨在喚醒人們。”
