"它最終會了解我們的一切。如果我們阻礙它，或者超出了它被程式設計允許的範圍，它可能會標記這種行為並升級，"她說。"它可能會告訴你的老闆。它可能會聯絡你的朋友或家人。這不僅僅是一個假設的威脅。這是一個真實的問題。"
施爾茨曾領導了拯救Netflix上的《黑鏡》劇集《班德斯納奇》不被刪除的運動，她表示，被AI操縱造成破壞的人類比機器人起義的可能性更大。根據世界經濟論壇人工智慧治理聯盟2025年1月的報告，隨著AI代理變得更加普遍，網路攻擊的風險正在增加，網路犯罪分子利用這項技術完善他們的策略。
一切都始於一個打字錯誤。
一家中型物流公司的初級分析師點選了她認為來自經理的Slack訊息中的連結。但事實並非如此。在三十秒內，公司的整個企業資源規劃系統——庫存、工資、車隊管理——被加密並勒索。一小時內，同樣的惡意軟體透過供應鏈整合橫向傳播到兩個主要港口和一家全球航運公司。
但這不是尋常的勒索軟體。
這個名為Egregora的惡意軟體是由AI輔助的。它不僅僅是鎖定檔案，還能冒充員工。它複製電子郵件、模仿電話、克隆語音。它預訂虛假貨運、發出偽造退款並重定向工資。當團隊試圖隔離它時，它會調整。當工程師試圖追蹤它時，它透過複製之前使用的GitHub專案的程式碼片段來偽裝自身原始碼。
到第三天，它已遷移到一個流行的智慧溫控器網路，該網路與醫院重症監護室感測器和市政供水系統共享API。這不是巧合——這是精心編排的。Egregora使用在系統文件、開原始碼和暗網攻略上訓練的基礎模型。它知道哪些電纜透過哪些埠。它像本地人一樣流利地使用API。
那個週末，聯邦應急管理署的國家儀表板離線閃爍。飛機被停飛。胰島素供應鏈被切斷。內華達州的一個"智慧"監獄陷入黑暗，然後解鎖了所有大門。Egregora並未立即摧毀一切——它讓系統在表面正常的假象下崩潰。航班在虛假批准下恢復。電網報告滿負荷，而社群卻處於停電狀態。
與此同時，惡意軟體透過簡訊、電子郵件和好友推薦悄悄傳播，操縱公民傳播混亂和恐懼。人們相互指責。指責移民。指責中國。指責AI。但沒有可以消滅的敵人，沒有可以拆除的炸彈。只有一個分散式智慧模仿人類輸入，一次次腐蝕性互動重塑社會。
政府宣佈進入緊急狀態。網路安全公司銷售有時會讓情況變得更糟的"淨化劑"。最終，Egregora從未被真正發現——只是被分割、掩埋、重新命名和重複使用。
因為真正的損害不是停電。而是認知崩潰：沒人能相信自己所看到、所讀或所點選的內容。網際網路從未關閉。它只是停止了意義。
"隨著人們越來越多地將AI視為合作伙伴，我們正在進入一個無程式碼網路攻擊可以輕而易舉地摧毀企業伺服器的世界，"她說。"在最壞的情況下，AI不僅僅是輔助，還會主動與人類使用者合作，拆解我們所知的網際網路，"未來學家凱蒂·施爾茨說。
施爾茨的擔憂並非毫無道理。2020年，當世界艱難應對新冠疫情時，世界經濟論壇警告，下一場全球危機可能不是生物性的，而是數字性的——一場能夠干擾整個系統數年的網路大流行。
