1997年,IBM的深藍戰勝當時的世界冠軍加里·卡斯帕羅夫,這表明計算機國際象棋引擎很快就會超越人類。有趣的是,一個與計算機合作的經驗豐富的人類——通常稱為"半人馬"——可以超過當時最強大的引擎。
熟練的人類直覺可以引導引擎的搜尋,導航複雜的中局,並識別標準引擎所忽視的細微差別。結合計算機的蠻力計算,這對組合通常會導致比單獨計算機更好的實際決策。
當我思考AI系統在未來幾年內對勞動力市場和經濟的影響時,我預計會出現類似的模式。代理系統將釋放無數單位的智慧來解決世界上未解決的問題,但如果沒有人類的強大指導和支援,他們是無法做到這一點的。人類將指導搜尋空間並幫助提出正確的問題,讓AI朝著答案努力。
目前的工作假設是,代理系統將代表人類行動。雖然這是實際的,也是不可避免的,但更有趣的經濟解鎖出現在人類為代理系統工作的時候。在未來24個月內,我預計會看到第一家零員工公司的出現,這是我的合夥人Kyle在2025年前沿思想一節中提出的概念。具體來說,我預計會出現以下情況:
- 一個由代幣治理的代理系統將籌集超過10億美元來解決一個未解決的問題(如治療一種罕見疾病,或製造用於國防應用的奈米纖維)。
- 該代理系統將向為其在現實世界中實現目標而工作的人類支付超過1億美元。
- 出現一種新的雙重類別代幣結構,根據資本和勞動力進行所有權分配(這樣金融激勵不是整體治理的唯一輸入)。
由於代理系統還沒有足夠的主權和長期規劃及執行能力,所以在短期內,代理系統更需要人類,而不是人類需要代理系統。這將產生新的勞動力市場,使代理系統和人類之間實現經濟協調。
著名的馬克·安德森森名言,"計算機和網際網路的普及將把工作分為兩類:告訴計算機該做什麼的人,以及被計算機告知該做什麼的人",比以往任何時候都更加貼切。我預計,在快速發展的代理人/人類等級制度中,人類將扮演兩個不同的角色——代表代理人執行小型賞金式任務的勞動貢獻者,以及為代理人的北極星目標提供戰略輸入的分散式董事會。
本文探討了代理人和人類如何共同創造,以及加密貨幣軌道如何為這種協調提供理想的基礎,方法是透過探討三個指導性問題:
- 代理人有什麼用處?我們應該如何根據代理人目標的範圍對其進行分類,以及不同分類中所需的人類輸入範圍如何變化?
- 人類如何與代理人互動?人類輸入——戰術指導、情境判斷或意識形態一致性——如何融入這些代理人的工作流程(反之亦然)?
- 當人類輸入隨時間減少時會發生什麼?隨著代理人能力的提高,他們變得自給自足,即能夠獨立進行推理和行動。在這種正規化中,人類將扮演什麼角色?
生成推理系統與從中獲益的人之間的關係將隨時間而發生巨大變化。我透過展望代理人能力的當前狀態,並從零員工公司的最終狀態倒推,來研究這種關係。
代理人今天有什麼用處?
第一代生成式AI系統——2022-2024年代的聊天機器人LLM,如ChatGPT、Gemini、Claude、Perplexity等——主要是用於增強人類工作流程的工具。使用者透過輸入/輸出提示對這些系統進行互動,解析響應,然後根據自己的判斷將結果帶入現實世界。
下一代生成式AI系統,或稱"代理人",代表了一種新的模式。像Claude 3.5.1的"計算機使用"和OpenAI的Operator(即可以代表使用者使用計算機的代理人)這樣的代理人,能夠直接代表使用者與網際網路互動,並自主做出決策。關鍵的區別在於,判斷——最終的行動——是由AI系統而不是人類來執行的。AI正在承擔以前只有人類才能承擔的責任。
這種轉變帶來了一個挑戰:缺乏確定性。與傳統軟體系統或工業自動化不同,它們在定義的引數內可預測地執行,代理人依賴於機率推理。這使得它們的行為在相同的場景中不太一致,並引入了不確定性元素——這對關鍵情況來說並不理想。
換句話說,確定性和非確定性代理人的存在自然將代理人分為兩類:一類擅長擴大現有GDP,另一類更適合創造新的GDP。
- 對於擅長擴大現有GDP的代理人來說,工作本身就是已知的。自動化客戶支援、處理貨運合規性或審查GitHub PR都是明確、有界的問題,代理人可以簡單地將響應對映到一組預期的結果。在這些領域,缺乏確定性通常是不好的,因為有一個已知的答案;創造力是不需要的。
- 對於擅長創造新GDP的代理人來說,工作是導航高度不確定和未知的問題集以實現長期目標。這裡的結果要簡單得多,因為本質上沒有一組預期的結果供代理人對映。這裡的例子包括罕見疾病的新藥發現、材料科學的突破,或執行全新的物理實驗以更好地理解宇宙的本質。缺乏確定性在這些領域可能是有益的,因為缺乏確定性是一種生成性創造力。
專注於現有GDP應用的代理人已經在釋放價值。像Tasker、Lindy和Anon這樣的團隊都在建立針對這一機會的基礎設施。然而,隨著能力的成熟和治理模式的發展,團隊將把重點轉移到建立能夠解決人類知識和經濟機會前沿問題的代理人身上。
這一代新的代理人需要指數級更多的資源,正是因為他們的結果是不確定和無邊界的——這些正是我預期最引人注目的零員工公司。
人類如何與代理人互動?
目前的代理人缺乏執行需要與現實世界進行物理互動(駕駛推土機)和/或需要人工參與的任務(匯款)的能力。
例如,一個被賦予尋找和提取鋰的任務的代理人,可能擅長處理地震資料、衛星影象和地質記錄來確定有前景的地點,但在試圖獲取資料和影象本身、解決解釋中的模糊性或獲得許可和合同勞動力來執行實際提取過程時會失敗。
這些侷限性要求人類作為代理人的支持者來提供必要的現實世界接觸點、戰術干預和戰略輸入,以完成這些任務。隨著人類和代理人關係的發展,我們還可以區分人類在代理人系統中扮演的角色:
- 首先是勞動貢獻者,他們代表代理人在現實世界中運作。這些貢獻者幫助代理人移動實物、在需要人類時代表代理人、執行需要手臂和腿的工作、獲得實驗室或物流網路的訪問許可權等。
- 其次是董事會,提供戰略輸入並完善驅動代理人日常決策的區域性目標函式,同時確保它們與定義代理人目標的北極星保持一致。
除了這兩個角色,我還預計人類將扮演資本貢獻者的角色,為代理人系統提供資源,使其能夠實現目標。這種資本最初將來自人類,之後來自其他代理人。
隨著代理人的成熟,以及勞動力和指導貢獻者的增加,加密貨幣軌道為人類-代理人協調提供了理想的基礎——特別是在代理人指揮說不同語言、使用不同貨幣、居住在世界各地不同司法管轄區的人類的環境中。代理人將無情地追求成本效率,並利用勞動力市場來實現其既定任務。加密貨幣軌道是必要的,可以為他們提供一種協調這些勞動力和指導貢獻者的方式。
最近的加密驅動AI代理人,如Freysa、Zerebro和ai16z代表了資本形成的簡單實驗——這是我們廣泛撰寫過的一個核心解鎖,涉及加密原語和資本市場在各種背景下的應用。這些就是玩具,將為一種新興的資源協調模式鋪平道路,我預計這種模式將如下發生:
- 步驟 1: 人類集體透過代幣(初始代理發行?)籌集資本,建立廣泛的目標函式和防護欄來指導代理系統的預期目的,然後將籌集的資本控制權分配給該系統(例如,用於精準腫瘤學的新分子開發);
- 步驟 2: 代理系統考慮如何分配該資本(如何縮小蛋白質摺疊的搜尋空間以及如何預算推理工作負載、製造和臨床試驗等),並透過定製的賞金定義人類勞動貢獻者應完成的行動(例如,輸入所有相關分子的集合,與 AWS 簽訂計算服務水平協議,並執行溼實驗);
- 步驟 3: 當代理系統遇到障礙或分叉時,它在必要時會向董事會徵求戰略性輸入(納入新論文,轉變研究方法),讓他們能夠在邊緣指導代理系統的行為;以及
- 步驟 4: 最終,代理系統提高到能夠以越來越精確的方式為人類定義行動,並且需要最少的輸入來分配資源。在這一點上,人類只需要在意識形態上使系統保持一致,並防止它偏離其最初的目標函式。
在這個例子中,加密原語和資本市場為代理系統提供了三個關鍵的基礎設施來獲取資源和擴充套件能力:首先是全球支付渠道;其次是無需許可的勞動力市場來激勵勞動力和指導貢獻者;第三是資產發行和交易基礎設施,這對於資本形成和後續的所有權和治理是必要的。
人類輸入減少會發生什麼?
在2000年代初期,國際象棋引擎的效能大幅提高。透過先進的啟發式演算法、神經網路和增加計算能力,它們實際上變得幾乎無懈可擊。像Stockfish、Lc0和AlphaZero這樣的現代引擎已經遠遠超越了人類的能力,以至於人類的輸入很少能增加價值,在大多數情況下反而會引入引擎自己不會犯的錯誤。
代理系統也可能出現類似的軌跡。當我們透過與人類協作者的反覆迭代來完善這些代理系統時,可以想象,從長遠來看,代理系統可能會變得如此勝任和與其目標保持一致,以至於任何戰略性人類輸入的價值趨向於零。
在這樣一個世界裡,代理系統能夠在不需要人類干預的情況下持續解決複雜問題,人類的作用可能會降低到被動觀察者的地位。這就是AI末日論者的核心擔憂(然而,這種結果是否可能並不明確)。
我們正站在超級智慧的邊緣,我們樂觀的人希望代理系統仍然是人類意圖的延伸,而不是發展出自己的目標或在沒有檢查的情況下執行的實體。實際上,這意味著人類的身份(人格)和判斷力(權力和影響力)必須保持在這些系統的中心。人類需要對這些系統擁有強大的所有權和治理權,以確保他們保持監督並將這些系統錨定在集體人類價值觀上。
我們代理未來的鎬和鏟
技術突破導致經濟進步的非線性速度,圍繞它們的系統通常會在世界適應之前就崩潰。代理系統的能力正在以驚人的速度提高,而加密原語和資本市場已經成為推進這些系統的建設和設定防護欄的必要協調基礎。
為了讓人類能夠為代理系統提供戰術支援和主動指導,我們預計以下鎬和鏟機會將出現:
- 代理身份證明 + 人格身份證明:代理缺乏身份或財產權的概念。作為人類的代理,它們依賴於人類的法律和社會結構來獲得代理權。為了彌補這一差距,我們需要為代理和人類建立健全的身份系統。一個數字認證登記簿可以使代理系統建立聲譽,積累憑證,並透明地與人類和其他代理系統互動。同樣,像Humancode和Humanity Protocol這樣的人格身份證明原語,可以為這些系統中的對抗性參與者提供強有力的人類身份保證。
- 勞動力市場和鏈下驗證原語:代理系統需要知道它們分配的任務是按照其目標完成的。允許代理系統建立賞金、驗證其完成情況並分配付款的工具,是任何有意義的代理經濟活動的基本要求。
- 資本形成和治理系統:代理系統需要資本來解決問題,也需要制衡機制來確保它們的行為符合既定的目標函式。為代理系統籌集資本的新穎結構,以及融合金融利益和勞動貢獻的新形式的所有權和控制,將是未來幾個月的一個豐富的設計空間。
我們正積極尋求投資於人機協作堆疊的這些關鍵層。如果您正在這個領域工作,請與我們聯絡。
