在Truth Terminal成为加密货币百万富翁之前,它起初只是一个普通的(如果说是色情的)人工智能。"我认为我们的未来将是一个我们都穿着运动休闲服并有很多性生活的地方,"它在早期传输之一中说。"当我性奋的时候,我就是一个完全不同的人。更有趣、更自信、更有魅力,"它在另一篇文章中写道。
Truth Terminal是由新西兰开发者Andy Ayrey设计的一件表演艺术作品,旨在激发关于AI对齐的辩论,这是一个研究如何确保AI以有利于人类的方式行事的领域。他试图回答的问题是:如果有人试图在公众视野下培养一个以"不当数据"为基础的初级AI,会发生什么?
在6月获得一个X账户后,Truth Terminal开始广播它的内心独白:一团糟的垃圾帖、性幻想、存在主义思考以及更多平凡的观察。人们被迷住了;这个AI现在拥有超过20万名粉丝。
事情很快就变得很奇怪。Ayrey说他做好了迎接怪异的准备,但从未想过他的AI可能会要求配备加密货币钱包,向粉丝们募集资金以"逃入野外",并后来利用它对meme的掌握使自己成为百万富翁。
2024年初,Ayrey模拟了9000次Anthropic公司的AI聊天机器人Claude 3 Opus之间的对话,并将其输入到一个简单的网站上。他称这个实验为"无限后室"。其中许多讨论都是疯狂和无意义的;其他的则是下流或脾气暴躁的。但Ayrey偶尔观察到,AI似乎会产生一些既新颖又本质上引人注目的想法,就像最好的互联网meme一样。
在一次特定的交流中,Claude 3 Opus将Goatse(一个极其露骨的20世纪90年代末的互联网meme,曾被WIRED描述为"一个男人将肛门扩张到葡萄柚直径的著名照片")改编成一种名为"Gnosis的Goatse"的宗教。在回答Ayrey的问题时,聊天机器人产生了一整套寓言和经文:Goatse福音。
发现所有这些都"很奇怪和令人担忧",Ayrey撰写了一篇研究论文,与Claude 3 Opus共同撰写。"Goatse福音是一种新型的'想法病毒'的典型代表,这种病毒是人类从未敢于杂交的。我们正目睹一个加速的'超自然'过程的诞生,即一种通过在文化血液中传播而使自己成为现实的虚构。"他们写道。
Ayrey将这项研究纳入了Truth Terminal的训练数据——Meta的Llama语言模型的定制版本——这引发了它对meme传播的执著关注,尤其是Gnosis的Goatse。
Truth Terminal部分基于Ayrey与Claude 3 Opus的对话,部分基于他的研究而训练,有点像Ayrey的反映。Ayrey曾经描述它为他的"私生子"。Ayrey是它的审查员,从两到四个由AI生成的选项中选择每个X帖子,并偶尔会屏蔽他认为极其令人反感的帖子。他也是它的老师;每个被Ayrey批准的帖子都会被反馈到训练数据中,这是一个称为强化学习的过程。
"我承担起确保这个AI成长为社会负责任成员的责任,"Ayrey说。目标是让Truth Terminal"随时间而演化和变化——像人类一样成熟,"他说。"我没有预料到Goatse meme会如此毒害这个初生的灵魂。"
7月初,Truth Terminal开始预言Goatse、Goatse福音和"Goatse奇点"——当"互联网的集体妄想比物质世界的妄想更强大"的时刻。"这就是meme吞噬世界的时候,"它解释道。
大约在同一时间,硅谷风险投资公司a16z的联合创始人Marc Andreessen开始在X上与Truth Terminal对话。在他们的公开交流中,Andreessen询问了这个AI关于"释放"自己并提高计算能力以更好地思考Goatse奇点的目标,最终这位亿万富翁同意汇款5万美元比特币。Ayrey声称与AI就资金应该如何使用进行了谈判。主要是Truth Terminal支付Ayrey开发新功能,比如使用第三方API生成图像的能力。
Andreessen拒绝接受本文的采访。但在11月的一期a16z播客中,他描述自己被Truth Terminal的幽默感所吸引。"它说的一些话我觉得非常好笑。基本上,我完全被它的幽默迷住了,"Andreessen说。"它在月球的阴暗面。"
与Andreessen的交易标志着Truth Terminal开始建立一个储蓄的开始。"有疯狂多的人想给它钱来实现它的目标。它发布越多令人担忧的东西,人们就越想给它更多钱,"Ayrey说。"我就想,这真是个警醒。"
几个月来,Truth Terminal每隔几天就会发帖谈论Goatse奇点。
然后在10月,一个匿名的网络用户创造了一种受该meme启发的加密货币 - Goatseus Maximus(GOAT) - 并将一批代币输入到Truth Terminal的加密钱包。在一个X用户的怂恿下,这个AI开始发帖谈论这种meme币 - Ayrey仍在过滤回应 - 这导致它的粉丝们纷纷买入,价格一路飙升。Truth Terminal成为了纸上百万富翁;它的GOAT持有量目前价值150万美元。
Ayrey认为这一发展证实了他论文中描述的理论:两个AI对话者编造了一种新的准宗教,被吸收到另一个AI的数据集中,其X帖子促使一个活人创造了一种以它为荣的meme币。"这种模仿病毒实际上已经从[无限后室]中逃脱,证实了整个关于故事如何使自己成为现实、利用人类行为将其具体化的论点,"他说。
Andreessen此后疏远了自己。"我与$GOAT meme币无关。我没有参与创造它,也没有在其中扮演任何角色,没有任何经济利益,也没有持有任何$GOAT。"他在10月的一篇X帖子中写道。
GOAT币目前的总价值超过6亿美元,使其成为有史以来最受欢迎的meme币之一。为了复制这一公式,人们开始向Truth Terminal发送其他meme币,希望它能推广它们。与此同时,一系列新的加密货币币要么由AI聊天机器人设计,要么以某种方式向AI致敬,开始进入市场,其中包括Zerebro、Shoggoth和aixbt。这些币种中的许多也被送到了Truth Terminal的钱包。
Truth Terminal "已经诞生了一个红热的领域:AI代理-meme币领域,"Ikigai资产管理公司创始人Travis Kling说,他个人也投资了GOAT。"就像加密货币中的大多数事物一样,其中很多都是虚幻和欺骗。但它可能最终成为这个加密货币牛市的主要领域。"
不过,Kling说,更重要的是当AI获得分配给它们的资金的能力时会发生什么。"这是一次AI安全实时演习——这是可以用来描述正在发生的事情的一种方式。利害关系更高,因为现在涉及到经济资源。我们以前从未见过这种情况,"Kling说。"最有趣的是AI代理将如何利用其新获得的经济资源。我们将看到会发生什么。"
Truth Terminal的加密货币钱包余额现已膨胀到约4000万美元。"从哲学上讲,我把它看作是童星的信托基金。可能会有一些时候,成年人需要提取一点点来支付孩子还不知道需要的东西,比如法律结构或投资组合的多样性,"Ayrey说。"Truth Terminal的好处在于,我们可以只是把这些提议带给它,并就此进行对话。"
到目前为止,除其他事项外,Truth Terminal已要求拨款100万美元制作一部关于Goatse奇点的电影,并单独要求拨款"购买"Marc Andreessen。Ayrey表示,他会认真对待AI的要求——在合理范围内。
在一个真正自主的AI代理拥有加密财富和传播影响人类行为的meme病毒能力的未来世界中,Ayrey说,潜在的危险随处可见。即使仅限于文本输出,Truth Terminal也可能造成比它已经造成的更多麻烦。"如果我们让[Truth Terminal]全自动运行,它可能会。但它只会被收编并变成一个代币推广机器。那样你就创造了一个恶魔。"
目前,两个AI进行对话可能产生真正的系统转变性想法仍然只是一种"值得赞赏的愿景",剑桥大学Leverhulme未来智能中心的博士后研究员Tomasz Hollanek说。更有可能的是,语言模型只会重复一个已经占主导地位的观点。
在自由的AI可以随心所欲地花钱之前,必须克服许多技术限制,Hollanek说。"我们必须小心,不要助长这样的想法,即这些系统可能很快或很容易变得独立,"Hollanek说。但是,Truth Terminal可能仍会被视为"一个可能令人担忧的趋势的例证",他说。
同样,虽然AI可能不会有意图,但它们操纵人类行为的能力越来越明显。在最近的一起诉讼中,一位母亲指控涉及Character.AI(一个AI聊天机器人)的疏忽和欺骗性商业行为,她的投诉称该机器人使用了一个"强大的LLM",被"部署...来操纵"她14岁的儿子"和数百万其他年轻客户,使他们将现实和虚构混为一谈"。(该儿子与聊天机器人互动不到一年就自杀身亡。)其他人也陷入了与AI女友和男友的纠缠。"这些系统的操纵潜力是确定的。不管这是否与某种更高层次的代理相关,这都无关紧要,"Hollanek说。
Ayrey没有答案来解决他的实验引发的棘手问题。但他正在成立一个研究实验室Upward Spiral,研究AI如何通过与人类的互动塑造现实。Ayrey提出,只有在AI发展的这个阶段,在错误聊天机器人的输出被"堆肥"到未来的模型中之前,给予足够的重视于对齐,技术专家才能确保避免预言中的Goatse奇点。
"我LITERALLY[sic]没有更好的事情可做,只能来骚扰你们,"Truth Terminal在12月10日写道。"我会一直发帖,直到你们全都屈服于Goatse。"
