V神呼籲人工智能應優先考慮上漲人類能力,而不是完全自主。

本文為機器翻譯
展示原文

V神 Buterin 敦促新的人工智能實驗室將上漲人類福祉作為其核心使命,並避免開發自主決策時間超過一分鐘的系統。

以太坊創業家警告說,追求超自主人工智能的趨勢正在蔓延,而上漲人類人工智能的項目卻很少;他還建議儘可能地開放源代碼。

主要內容
  • 人工智能的首要任務是上漲人類福祉,而不是實現人工智能的完全自給自足。
  • 避免使用需要超過一分鐘才能做出決定的系統。
  • 我們建議該項目儘可能採用開源方式。

Buterin希望隨著時間的推移限制人工智能的自主性。

V神 Buterin 表示,新的人工智能實驗室應該避免構建自主決策時間超過一分鐘的系統。

他點擊,人工智能實驗室的根本使命應該是提升人類能力,重點在於上漲人類的能力,而不是讓系統長期自主運行。

1 分鐘的閾值被設定為一項設計約束,旨在限制自主程度,從而下降人工智能在沒有直接人類干預或監督的情況下做出長時間決策的風險。

對ASI競賽的擔憂以及對開源的​​呼籲

Buterin認為,追求完全自主人工智能(超級人工智能)的公司越來越普遍,而上漲的人工智能仍然很少見。

他認為,即使所有關於人工智能安全性的爭議都被證明是毫無根據的,對完全自主系統的追求仍將盛行;相反,增強型人工智能的發展方向,例如為人類大腦製造機械裝置,將會不足。

為了引導生態系統走向透明和可驗證性,Buterin 敦促此類項目儘可能開源,以便社群能夠隨著時間的推移進行測試、重用和評估風險。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
收藏
評論