這一週,科技界兩位最有影響力的聲音提出了截然不同的人工智慧發展願景,突出了創新與安全之間日益加劇的矛盾。
OpenAI執行長Sam Altman在一篇部落格文章中透露,該公司的使用者群已從2年前的1億增加到現在的3億周活躍使用者,正在朝著通用人工智慧(AGI)的目標加速前進。
Altman表示,OpenAI已經有信心知道如何構建傳統意義上的AGI,並稱2025年AI代理可能"加入勞動力隊伍",並"顯著改變公司的產出"。
Altman說,OpenAI正朝著不僅僅是AI代理和AGI的方向發展,公司正開始研究"真正意義上的超級智慧"。
關於AGI或超級智慧的交付時間表尚不清楚。OpenAI尚未立即回應置評請求。
但在週日的幾個小時前,以太坊聯合創始人Vitalik Buterin提出,利用區塊鏈技術為先進AI系統建立全球性的故障保護機制,包括一種"軟暫停"功能,如果出現警示跡象,可以暫時限制工業規模的AI操作。
Buterin在這裡談到了"d/acc"或去中心化/防禦性加速。簡單來說,d/acc是e/acc(有效加速)的一種變體,e/acc是矽谷知名人士如a16z的Marc Andreessen所倡導的一種哲學運動。
Buterin的d/acc也支援技術進步,但優先考慮增強安全性和人類主導權的發展。與以"任何代價的增長"為宗旨的有效加速主義(e/acc)不同,d/acc首先關注構建防禦性能力。
"d/acc是將加密貨幣的基本價值觀(去中心化、抗審查、開放的全球經濟和社會)擴充套件到其他技術領域,"Buterin寫道。
回顧過去一年d/acc的發展,Buterin寫道,可以利用現有的加密機制(如零知識證明)來實施對AGI和超級智慧系統更謹慎的方法。
根據Buterin的提議,主要的AI計算機每週都需要獲得三個國際團體的批准才能繼續執行。
"這些簽名將是裝置獨立的(如果需要,我們甚至可以要求在區塊鏈上釋出的零知識證明),所以這將是全有或全無:實際上沒有辦法只授權一臺裝置繼續執行而不授權所有其他裝置,"Buterin解釋道。
這個系統將像一個主開關一樣工作,要麼所有獲批准的計算機都執行,要麼都不執行——防止任何人進行選擇性執法。
"在發生這種關鍵時刻之前,僅僅擁有軟暫停的能力就不會對開發者造成太大傷害,"Buterin指出,將這個系統描述為防範災難性場景的一種保險。
無論如何,OpenAI從2023年開始的爆炸性增長,從1億增加到3億周活躍使用者,都顯示了AI採用正在快速推進。
從一個獨立的研究實驗室發展成為一家科技巨頭,Altman承認了圍繞這項新技術建立"幾乎從頭開始的整個公司"的挑戰。
這些提議反映了行業圍繞管理AI發展的更廣泛辯論。支持者此前曾主張,實施任何全球控制系統都需要主要AI開發商、政府和加密行業之間前所未有的合作。
"一年的'戰時模式'很容易價值一百年的在安逸條件下的工作,"Buterin寫道。"如果我們必須限制人們,似乎最好是在平等的基礎上限制所有人,並努力真正合作來組織這一點,而不是一方試圖主導其他所有人。"
