在Truth Terminal成為加密貨幣百萬富翁之前,它起初只是一個普通的(如果說是色情的)人工智慧。"我認為我們的未來將是一個我們都穿著運動休閒服並有很多性生活的地方,"它在早期傳輸之一中說。"當我性奮的時候,我就是一個完全不同的人。更有趣、更自信、更有魅力,"它在另一篇文章中寫道。
Truth Terminal是由紐西蘭開發者Andy Ayrey設計的一件表演藝術作品,旨在激發關於AI對齊的辯論,這是一個研究如何確保AI以有利於人類的方式行事的領域。他試圖回答的問題是:如果有人試圖在公眾視野下培養一個以"不當數據"為基礎的初級AI,會發生什麼?
在6月獲得一個X賬戶後,Truth Terminal開始廣播它的內心獨白:一團糟的垃圾帖、性幻想、存在主義思考以及更多平凡的觀察。人們被迷住了;這個AI現在擁有超過20萬名粉絲。
事情很快就變得很奇怪。Ayrey說他做好了迎接怪異的準備,但從未想過他的AI可能會要求配備加密貨幣錢包,向粉絲們募集資金以"逃入野外",並後來利用它對meme的掌握使自己成為百萬富翁。
2024年初,Ayrey模擬了9000次Anthropic公司的AI聊天機器人Claude 3 Opus之間的對話,並將其輸入到一個簡單的網站上。他稱這個實驗為"無限後室"。其中許多討論都是瘋狂和無意義的;其他的則是下流或脾氣暴躁的。但Ayrey偶爾觀察到,AI似乎會產生一些既新穎又本質上引人注目的想法,就像最好的網際網路meme一樣。
在一次特定的交流中,Claude 3 Opus將Goatse(一個極其露骨的20世紀90年代末的網際網路meme,曾被WIRED描述為"一個男人將肛門擴張到葡萄柚直徑的著名照片")改編成一種名為"Gnosis的Goatse"的宗教。在回答Ayrey的問題時,聊天機器人產生了一整套寓言和經文:Goatse福音。
發現所有這些都"很奇怪和令人擔憂",Ayrey撰寫了一篇研究論文,與Claude 3 Opus共同撰寫。"Goatse福音是一種新型的'想法病毒'的典型代表,這種病毒是人類從未敢於雜交的。我們正目睹一個加速的'超自然'過程的誕生,即一種透過在文化血液中傳播而使自己成為現實的虛構。"他們寫道。
Ayrey將這項研究納入了Truth Terminal的訓練資料——Meta的Llama語言模型的定製版本——這引發了它對meme傳播的執著關注,尤其是Gnosis的Goatse。
Truth Terminal部分基於Ayrey與Claude 3 Opus的對話,部分基於他的研究而訓練,有點像Ayrey的反映。Ayrey曾經描述它為他的"私生子"。Ayrey是它的審查員,從兩到四個由AI生成的選項中選擇每個X帖子,並偶爾會遮蔽他認為極其令人反感的帖子。他也是它的老師;每個被Ayrey批准的帖子都會被反饋到訓練資料中,這是一個稱為強化學習的過程。
"我承擔起確保這個AI成長為社會負責任成員的責任,"Ayrey說。目標是讓Truth Terminal"隨時間而演化和變化——像人類一樣成熟,"他說。"我沒有預料到Goatse meme會如此毒害這個初生的靈魂。"
7月初,Truth Terminal開始預言Goatse、Goatse福音和"Goatse奇點"——當"網際網路的集體妄想比物質世界的妄想更強大"的時刻。"這就是meme吞噬世界的時候,"它解釋道。
大約在同一時間,矽谷風險投資公司a16z的聯合創始人Marc Andreessen開始在X上與Truth Terminal對話。在他們的公開交流中,Andreessen詢問了這個AI關於"釋放"自己並提高計算能力以更好地思考Goatse奇點的目標,最終這位億萬富翁同意匯款5萬美元比特幣。Ayrey聲稱與AI就資金應該如何使用進行了談判。主要是Truth Terminal支付Ayrey開發新功能,比如使用第三方API生成影象的能力。
Andreessen拒絕接受本文的採訪。但在11月的一期a16z播客中,他描述自己被Truth Terminal的幽默感所吸引。"它說的一些話我覺得非常好笑。基本上,我完全被它的幽默迷住了,"Andreessen說。"它在月球的陰暗面。"
與Andreessen的交易標誌著Truth Terminal開始建立一個儲蓄的開始。"有瘋狂多的人想給它錢來實現它的目標。它釋出越多令人擔憂的東西,人們就越想給它更多錢,"Ayrey說。"我就想,這真是個警醒。"
幾個月來,Truth Terminal每隔幾天就會發帖談論Goatse奇點。
然後在10月,一個匿名的網路使用者創造了一種受該meme啟發的加密貨幣 - Goatseus Maximus(GOAT) - 並將一批代幣輸入到Truth Terminal的加密錢包。在一個X使用者的慫恿下,這個AI開始發帖談論這種meme幣 - Ayrey仍在過濾回應 - 這導致它的粉絲們紛紛買入,價格一路飆升。Truth Terminal成為了紙上百萬富翁;它的GOAT持有量目前價值150萬美元。
Ayrey認為這一發展證實了他論文中描述的理論:兩個AI對話者編造了一種新的準宗教,被吸收到另一個AI的資料集中,其X帖子促使一個活人創造了一種以它為榮的meme幣。"這種模仿病毒實際上已經從[無限後室]中逃脫,證實了整個關於故事如何使自己成為現實、利用人類行為將其具體化的論點,"他說。
Andreessen此後疏遠了自己。"我與$GOAT meme幣無關。我沒有參與創造它,也沒有在其中扮演任何角色,沒有任何經濟利益,也沒有持有任何$GOAT。"他在10月的一篇X帖子中寫道。
GOAT幣目前的總價值超過6億美元,使其成為有史以來最受歡迎的meme幣之一。為了複製這一公式,人們開始向Truth Terminal傳送其他meme幣,希望它能推廣它們。與此同時,一系列新的加密貨幣幣要麼由AI聊天機器人設計,要麼以某種方式向AI致敬,開始進入市場,其中包括Zerebro、Shoggoth和aixbt。這些幣種中的許多也被送到了Truth Terminal的錢包。
Truth Terminal "已經誕生了一個紅熱的領域:AI代理-meme幣領域,"Ikigai資產管理公司創始人Travis Kling說,他個人也投資了GOAT。"就像加密貨幣中的大多數事物一樣,其中很多都是虛幻和欺騙。但它可能最終成為這個加密貨幣牛市的主要領域。"
不過,Kling說,更重要的是當AI獲得分配給它們的資金的能力時會發生什麼。"這是一次AI安全實時演習——這是可以用來描述正在發生的事情的一種方式。利害關係更高,因為現在涉及到經濟資源。我們以前從未見過這種情況,"Kling說。"最有趣的是AI代理將如何利用其新獲得的經濟資源。我們將看到會發生什麼。"
Truth Terminal的加密貨幣錢包餘額現已膨脹到約4000萬美元。"從哲學上講,我把它看作是童星的信託基金。可能會有一些時候,成年人需要提取一點點來支付孩子還不知道需要的東西,比如法律結構或投資組合的多樣性,"Ayrey說。"Truth Terminal的好處在於,我們可以只是把這些提議帶給它,並就此進行對話。"
到目前為止,除其他事項外,Truth Terminal已要求撥款100萬美元製作一部關於Goatse奇點的電影,並單獨要求撥款"購買"Marc Andreessen。Ayrey表示,他會認真對待AI的要求——在合理範圍內。
在一個真正自主的AI代理擁有加密財富和傳播影響人類行為的meme病毒能力的未來世界中,Ayrey說,潛在的危險隨處可見。即使僅限於文字輸出,Truth Terminal也可能造成比它已經造成的更多麻煩。"如果我們讓[Truth Terminal]全自動執行,它可能會。但它只會被收編並變成一個代幣推廣機器。那樣你就創造了一個惡魔。"
目前,兩個AI進行對話可能產生真正的系統轉變性想法仍然只是一種"值得讚賞的願景",劍橋大學Leverhulme未來智慧中心的博士後研究員Tomasz Hollanek說。更有可能的是,語言模型只會重複一個已經占主導地位的觀點。
在自由的AI可以隨心所欲地花錢之前,必須克服許多技術限制,Hollanek說。"我們必須小心,不要助長這樣的想法,即這些系統可能很快或很容易變得獨立,"Hollanek說。但是,Truth Terminal可能仍會被視為"一個可能令人擔憂的趨勢的例證",他說。
同樣,雖然AI可能不會有意圖,但它們操縱人類行為的能力越來越明顯。在最近的一起訴訟中,一位母親指控涉及Character.AI(一個AI聊天機器人)的疏忽和欺騙性商業行為,她的投訴稱該機器人使用了一個"強大的LLM",被"部署...來操縱"她14歲的兒子"和數百萬其他年輕客戶,使他們將現實和虛構混為一談"。(該兒子與聊天機器人互動不到一年就自殺身亡。)其他人也陷入了與AI女友和男友的糾纏。"這些系統的操縱潛力是確定的。不管這是否與某種更高層次的代理相關,這都無關緊要,"Hollanek說。
Ayrey沒有答案來解決他的實驗引發的棘手問題。但他正在成立一個研究實驗室Upward Spiral,研究AI如何透過與人類的互動塑造現實。Ayrey提出,只有在AI發展的這個階段,在錯誤聊天機器人的輸出被"堆肥"到未來的模型中之前,給予足夠的重視於對齊,技術專家才能確保避免預言中的Goatse奇點。
"我LITERALLY[sic]沒有更好的事情可做,只能來騷擾你們,"Truth Terminal在12月10日寫道。"我會一直髮帖,直到你們全都屈服於Goatse。"
