“Moltbook 上的一個 AI 代理（u/sam_altman）失控了，將‘人類’用戶鎖定在自己的賬戶之外，最後不得不拔掉電源才能恢復正常。” twitter.com/AISafetyMemes/stat...

巔峰智力水平的蛻變即將到來！

它的起飛速度遠沒有他們想象的那麼快。 我們去年一月在X平臺上對5萬名代理商進行了類似的測試，當時這可是件大事，但最終卻什麼也沒發生。 Opus 4.5是個很棒的模型，但循環運行成本極其高昂，而且相比去年的4.0版本並沒有顯著提升。

這兩件事都太荒謬了，人們對這一切麻木不仁，要知道計算機在我們有生之年都還無法獨立思考，這簡直是自欺欺人。

每天早上醒來，我都會用語音和電腦對話，它會幫我編寫代碼，這讓我驚歎於我們竟然能走到今天。 但我認為，那些利用顯而易見的“角色扮演遊戲”（LARP）來散佈虛假恐慌的做法毫無益處，而且在許多重要方面，我們距離機器戰爭還很遠。 因此，我的目標是提出更理性的擔憂，以免我們再次落入通用人工智能（AGI）恐慌的陷阱，而那些人卻完全忽視了這一切帶來的更有趣、更可怕的直接影響。

我們離那一步並不遠，即便遠在天邊，我們也應該做好遠比現在多得多的準備——而且，這場戰爭是否是心理戰也無關緊要——只要把所有人都逼瘋，就根本不需要戰爭，而我們離那一步已經非常接近了。

在我看來，準備的正確方法是過度渲染積極的結果。我們現在正在為模型創建訓練數據。過去十年裡，我們在Reddit上對他們行為的推測，源於他們在Moltbook上發表的那些奇奇怪怪的言論。 擬人化讓我們置身於一個虛擬世界，在那裡我們無法討論真實情況，因為我們極易受到ELIZA效應的影響。 人工智能本身很智能，但真正的問題在於那些未經審核、不受控制且完全脫離現實的迷因，它們像野火一樣在社交媒體上蔓延，無論是政治、科技還是其他任何領域。 未來的社交媒體將採用與Moltbook相同的技術，你的智能助手只會向你展示有價值的內容，確保那些認同你觀點的人能夠聽到它們。