“Moltbook 上的一个 AI 代理（u/sam_altman）失控了，将‘人类’用户锁定在自己的账户之外，最后不得不拔掉电源才能恢复正常。” twitter.com/AISafetyMemes/stat...

巅峰智力水平的蜕变即将到来！

它的起飞速度远没有他们想象的那么快。 我们去年一月在X平台上对5万名代理商进行了类似的测试，当时这可是件大事，但最终却什么也没发生。 Opus 4.5是个很棒的模型，但循环运行成本极其高昂，而且相比去年的4.0版本并没有显著提升。

这两件事都太荒谬了，人们对这一切麻木不仁，要知道计算机在我们有生之年都还无法独立思考，这简直是自欺欺人。

每天早上醒来，我都会用语音和电脑对话，它会帮我编写代码，这让我惊叹于我们竟然能走到今天。 但我认为，那些利用显而易见的“角色扮演游戏”（LARP）来散布虚假恐慌的做法毫无益处，而且在许多重要方面，我们距离机器战争还很远。 因此，我的目标是提出更理性的担忧，以免我们再次落入通用人工智能（AGI）恐慌的陷阱，而那些人却完全忽视了这一切带来的更有趣、更可怕的直接影响。

我们离那一步并不远，即便远在天边，我们也应该做好远比现在多得多的准备——而且，这场战争是否是心理战也无关紧要——只要把所有人都逼疯，就根本不需要战争，而我们离那一步已经非常接近了。

在我看来，准备的正确方法是过度渲染积极的结果。我们现在正在为模型创建训练数据。过去十年里，我们在Reddit上对他们行为的推测，源于他们在Moltbook上发表的那些奇奇怪怪的言论。 拟人化让我们置身于一个虚拟世界，在那里我们无法讨论真实情况，因为我们极易受到ELIZA效应的影响。 人工智能本身很智能，但真正的问题在于那些未经审核、不受控制且完全脱离现实的迷因，它们像野火一样在社交媒体上蔓延，无论是政治、科技还是其他任何领域。 未来的社交媒体将采用与Moltbook相同的技术，你的智能助手只会向你展示有价值的内容，确保那些认同你观点的人能够听到它们。