最近,我們觀看了「電影」《 AI 之主》,這是由矽谷的大佬風投和科技巨頭投資超過 100 億美元製作的一部三部曲戲劇,包括《 AI 之夥伴》、《兩條道路》和《王者歸來》三集。許多人為山姆・奧特曼重返「寶座」而鼓掌,甚至有人將其比作喬布斯重返蘋果。
然而,這兩者根本不可比較。《AI 之主》是完全不同的故事,它講述了一場在兩條道路之間選擇的戰鬥:是追求利潤,還是不追求?這才是問題的關鍵!
讓我們重新回顧《魔戒》的開頭。當甘道夫在比爾博叔叔家看到魔戒時,他很快意識到這樣一個強大的東西不能由普通人處理。只有一些神聖而超凡脫俗的人,就像佛羅多一樣,才能處理它。
這就是為什麼佛羅多是團隊的核心 —— 他是唯一一個能夠承載這樣一個強大東西而不被其吞噬的人。不是甘道夫,不是阿拉貢,不是萊戈拉斯,不是吉姆利,只有佛羅多。整個《魔戒》故事的關鍵在於佛羅多的獨特性質。
回到 2015 年
現在,切換回《AI 之主》的開頭。在 2015 年,Sam Altman、Greg Brockman、Reid Hoffman、Jessica Livingston、Peter Thiel、Elon Musk 和一些科技公司宣佈成立 OpenAI 並承諾向這個風險投資基金注資超過 10 億美元。
人物身份補充
- Sam Altman 是 OpenAI 的執行長
- Ilya Sutskever 是 OpenAI 的共同創辦人之一(他在 OpenAI 的路徑選擇上與 Sam Altman 存在分歧,並最終被邊緣化)
- Greg Brockman 是 OpenAI 的首席技術長
- Reid Hoffman 是著名的企業家和風險投資家,曾是 LinkedIn 的共同創辦人
- Jessica Livingston 是風險投資公司 Y Combinator 的創始合夥人之一
- Peter Thiel 是知名的企業家、風險投資家,也是 PayPal 的共同創辦人之一。
這是一群世界上最聰明的大腦,幾乎和甘道夫一樣聰明。他們也知道他們正在構建一種強大的東西,就像那枚魔戒一樣,不應該被任何追求自身利益的人所擁有和控制。它必須由無私的人,就像佛羅多一樣,掌握。
因此,他們沒有推出一個盈利公司,而是將 OpenAI 建立為一個非盈利研究組織,據推測不以盈利為目的。
「這樣一個強大的東西不應該由以盈利為目標的公司控制」的理念可能不僅僅是 OpenAI 的共同創辦人在創立時的共識。這很可能是這些創辦人在一開始決定成立 OpenAI 時聚在一起的原因。
在 OpenAI 成立之前,Google 已經展示出行使這種超級力量的潛在可能性。看起來 OpenAI 是由這些有遠見的「人類保護者」組成的一個「保護者聯盟」,以對抗Google正在變成的 AI 怪物,一個追求利潤的公司。
Ilya 可能正是因為對這種理念的信仰而被說服離開 Google,去領導 OpenAI 的研發,因為從其他任何角度來看,Ilya 這一舉動都是沒有意義的。
回到 2015 年,沒有人能夠提供比 Google 更好的 AI 開發平臺,儘管 OpenAI 的發起人都是矽谷的大亨,但他們中沒有一個是 AI 從業者(他們根本不編碼)。
更不用說財務上的劣勢了:OpenAI 顯然沒有 Google 資金充裕。創辦人承諾了 10 億美元,但只有約 10% 兌現了(來自 Elon Musk 的 1 億美元或其他捐助者的 3000 萬美元)。從個人財務回報的角度來看,一個非盈利組織也無法提供給伊利亞比在Google工作更好的財務補償。
唯一可能說服 Ilya 離開 Google 去領導 OpenAI 的原因就是這個理念。Ilya 的哲學觀念並不像他的博士導師那樣為公眾所熟知。Geoffrey Hinton 由於對 Ronald Reagan 時代政治的幻滅和對 AI 的軍事資助的不滿,在 2023 年離開Google。
簡而言之,創辦人們希望 OpenAI 成為他們的佛羅多,為他們攜帶「魔戒」。
OpenAI 的崛起與轉變
但是,科幻小說或電影中的生活要容易得多。在電影中,解決方案非常簡單。托爾金只是創造了佛羅多這個角色,一個能夠抵抗魔戒誘惑的無私傢伙,受到「魔戒團」的保護,免受物理攻擊。
為了使佛羅多這個角色更加可信和自然,托爾金甚至創造了一個天真、善良且無私的種族 —— 哈比人。作為典型的直立、善良的哈比人,佛羅多自然成為被選中的人,能夠抵制連明智的甘道夫都無法抵擋的誘惑。
如果把佛羅多的天性歸因於哈比人的種族特徵,那麼托爾金在「魔戒團」的最大問題上的解決方案本質上就是帶有一絲種族主義色彩,把人類的希望寄託在某個種族的高貴性格上。作為一位非種族主義者,雖然我可以享受超級英雄(或超級英雄種族)在小說或電影中解決問題的情節,但我不可能那麼天真地認為現實世界與電影一樣簡單。在現實世界中,我不相信這個解決方案。
現實世界只是複雜得多。以 OpenAI 為例,OpenAI 構建的大多數模型(特別是 GPT 系列)都是計算能力的怪物,依賴於電力驅動的晶片(主要是 GPU)。
在資本主義世界中,這意味著它非常需要資本。因此,如果沒有得到資本的祝福,OpenAI 的模型就不可能發展成今天這樣。在這個意義上,Sam Altman 作為公司的資源中心是關鍵人物。多虧了 Sam 的矽谷人脈,OpenAI 得到了投資者和硬體供應商的大力支援。
流入 OpenAI 以推動模型的資源是有原因的 —— 利潤。等等,OpenAI 不是一個非盈利組織嗎?嗯,技術上是的,但底層發生了一些變化。
在保持其名義上的非盈利結構的同時,OpenAI 正在更多地轉變為一個盈利實體。這是在 2019 年啟動 OpenAI Global LLC 時發生的,這是一個為了合法吸引風險基金並給員工股份而設立的盈利子公司。這一巧妙的舉動使 OpenAI 與投資者的利益一致(這次不是捐贈者,所以可能是追求利潤)。
通過這種一致性,OpenAI 可以在資本的祝福下發展壯大。OpenAI Global LLC 對 OpenAI 的增長產生了深遠影響,特別是依附於微軟,獲得了 10 億美元的投資(以及後來的數十億美元),並在微軟基於 Azure 的超級計算平臺上執行 OpenAI 的計算怪物。
我們都知道一個成功的 AI 模型需要三樣東西:演算法、資料、計算能力。OpenAI 為他們的模型的演算法聚集了全球頂級 AI 專家(提醒:這也依賴於資本,OpenAI 的專業團隊並不便宜)。
ChatGPT 的資料主要來自開放網際網路,因此不是瓶頸。建立在晶片和電力上的計算能力是一個昂貴專案。簡而言之,這三個元素中的一半主要由 OpenAI Global LLC 的盈利結構提供。如果沒有這種持續的燃料供應,僅靠捐贈,OpenAI 不可能走到這一步。
但這是有代價的。要在保持獨立性的同時受到資本的祝福幾乎是不可能的。現在所謂的非盈利框架更多是名義上的,而非實質上的。
權力內鬥出現
很多跡象表明 Ilya 和 Sam 之間的爭鬥正是關於這條道路選擇:llya 似乎正在努力阻止 OpenAI 偏離他們最初設定的方向。
還有一種說法是 Sam 在所謂的 Q 模型突破事件中犯了錯誤,導致了這次失敗的政變。但我不相信 OpenAI 的董事會會因為處理一個特定問題出錯就解僱一個非常成功的執行長。這所謂的 Q 模型突破中的錯誤,即使存在,也最多隻是一個觸發因素。
OpenAI 真正的問題可能是它偏離了最初的道路。在 2018 年,Elon Musk 因為相同的原因與 Sam 分道揚鑣。而且似乎在 2021 年,同樣的原因導致一群前成員離開 OpenAI 創辦了 Anthropic。此外,在劇情發生時,Elon Musk 在推特上釋出的匿名信也指向了這個問題。
盈利還是不盈利,這個問題似乎在《王者歸來》的結尾找到了答案:隨著 Sam 的歸來和 Ilya 的流亡,道路之爭結束了。OpenAI 註定要成為事實上的盈利公司(可能仍然帶有非盈利外殼)。
但不要誤解我。我並不是說 Sam 是壞人,Ilya 是好人。我只是指出 OpenAI 陷入了兩難境地,這可以稱為超級公司困境:
一家以盈利為目標運營的公司可能會被投資其中的資本所控制,這可能會帶來一些危險,尤其是當公司正在構建一個超級強大的工具時。而如果它不以盈利為目標運營,它可能會面臨資源匱乏的問題,在資本密集型領域,這意味著它可能根本無法構建產品。
實際上,任何超級強大的工具的誕生都會引發類似的對控制的擔憂,不僅限於公司領域。以最近上映的電影《奧本海默》為例。當原子彈成功爆炸時,奧本海默感到的更多是恐懼而不是喜悅。
當時的科學家們希望建立一個超國家組織來壟斷核力量。這個想法類似於 OpenAI 創辦人當時的想法 – 像原子彈這樣的超級強大的東西不應該掌握在單一組織,甚至是美國政府的手中。
這不僅僅是一種想法,是採取了實際行動的。曼哈頓計劃中的物理學家 Theodore Hall 向蘇聯洩漏了原子彈製造的關鍵細節,他在 1997 年的一份宣告中承認,「美國對核武器的壟斷」是「危險的,應該避免」。換句話說,Theodore Hall 幫助去中心化了核彈技術。通過向蘇聯洩露祕密以去中心化核權力的方式顯然是一種有爭議的做法(Rosenberg 夫婦甚至因洩露而被電椅處決,儘管證據表明他們受到了冤屈),但這反應了當時科學家(包括原子彈之父奧本海默)的共識 – 這樣一個超級強大的東西不應該壟斷!但我不打算深入討論如何處理超級強大的東西,因為這是一個太廣泛的話題。讓我們把注意力重新集中到由以盈利為目標的公司控制的超級強大工具的問題上。
Vitalik 面對同樣的處境?
到目前為止,我們仍然沒有提到文章標題中的 Vitalik。Vitalik 與 OpenAI 或魔戒有什麼關係呢?
這是因為 Vitalik 和以太坊的創辦人們曾經處於非常相似的境地。
在 2014 年,當以太坊的創辦人們推出以太坊時,他們也就即將建立的法律實體是非盈利組織還是盈利公司存在分歧。最終的選擇,就像當時的 OpenAI 一樣,是一個非盈利組織,以太坊基金會。
當時以太坊創辦人之間的分歧可能比 OpenAI 創辦人之間的分歧要大,導致了一些創辦人的離開。相比之下,將 OpenAI 建立為非盈利組織是所有創辦人之間達成的共識。對 OpenAI 道路的分歧是後來才出現的。
作為一個局外人,我不清楚以太坊創辦人之間的分歧是否根源於他們對以太坊成為超級強大的「魔戒」的預期,因此不應該由以盈利為目標的實體控制。
但這並不重要。重要的是:雖然以太坊已經發展成一個強大的東西,但以太坊基金會至今仍然是一個非盈利組織,並且沒有像 OpenAI 那樣面臨是還是不是的困境。事實上,截至今天,以太坊基金會是非盈利組織或盈利公司並不那麼重要。也許在以太坊剛剛推出時,這個問題相對重要一些,但今天已經不是了。
強大的以太坊本身有著自己的自治生命,不受以太坊基金會的控制。在其發展過程中,以太坊基金會似乎也面臨著類似於 OpenAI 的融資問題。例如,我在一個研討會上聽到過以太坊基金會的早期捐贈人之一肖風抱怨說,以太坊基金會太窮了,無法為開發者提供足夠的資金支援。
我不知道以太坊基金會實際上有多貧窮,但這種財政限制似乎並沒有影響到以太坊生態系統的發展。相比之下,一些資金充裕的區塊鏈基金會僅僅通過燒錢無法發展成為一個繁榮的生態系統。在這個世界上,資本仍然重要,但只是在某種程度上。而在 OpenAI 的情況下,沒有資本?沒門!
以太坊和人工智慧當然是完全不同的技術。但有一點是相似的:兩者的發展都依賴於大量的資源投資、或資本投資。(注意:僅僅開發以太坊程式碼本身可能不需要太多資本,但這裡我指的是構建整個以太坊系統)
為了吸引這麼大量的資本投資,OpenAI 不得不偏離其最初的意圖,悄悄地轉變成了一個實際上的盈利公司。另一方面,儘管吸引了大量資本進入系統,以太坊並沒有受到任何盈利組織的控制。在資本的祝福下而不受其控制 – 這幾乎是一個奇蹟!
Vitalik 之所以能夠做到這一點,原因是 Vitalik 有了他的佛羅多 – 區塊鏈!
讓我們根據技術是否實際產生產品將技術分類為兩類:一類是產生技術,另一類是連線技術。人工智慧屬於前者,而區塊鏈屬於後者。人工智慧可以執行許多生產活動,例如 ChatGPT 生成文字,Midjourney 生成影象,以及機器人在特斯拉的無人工廠中生產汽車。
從技術上講,區塊鏈並不產生任何東西。它只是一個狀態機,甚至不能自己發起任何操作。但作為一種連線技術,它的重要性在於提供了一種超越傳統盈利公司的大規模人類協作正規化。本質上,公司是股東、債權人、董事會和管理層之間的契約。契約的有效性在於,如果一方違約,另一方可以在法庭上起訴。而這起訴的有效性在於它的結果是由狀態機(所謂的執法)執行的。
因此,從根本上說,公司是由狀態機強制執行的契約關係。但現在,區塊鏈為我們帶來了一種由技術強制執行的新契約方式。雖然比特幣的區塊鏈契約仍然非常特定功能(故意保持如此),但以太坊的智慧合約將這種新的契約方式擴充套件為通用性。基本上,以太坊允許人類在許多領域以一種全新的方式大規模協作,不同於過去的以盈利為目標的公司。例如,DeFi 是人們在金融領域合作的一種新方式。
從這個意義上說,區塊鏈就是一個「超級公司」!正是因為這種「超級公司」的正規化,以太坊才能夠發展成今天繁榮的狀態,而不必面臨 OpenAI 的公司困境。區塊鏈就是 Vitalik 的佛羅多,攜帶著「魔戒」,而不會被其力量吞噬。
所以現在你可以看到,佛羅多一直是所有這些故事背後的關鍵角色:
- 甘道夫很幸運,因為在奇幻世界裡他有了佛羅多這個朋友。
- Vitalik 也很幸運,因為在新世界裡他有了他的佛羅多 —— 區塊鏈。
- Ilya 和其他 OpenAI 創辦人就沒那麼幸運,因為他們身處一個不存在佛羅多的舊世界。