谷歌正面臨一起非正常死亡訴訟，該訴訟稱其Gemini AI 聊天機器人將一名佛羅里達男子推入妄想狀態，最終導致該男子自殺。
喬爾·加瓦拉斯 (Joel Gavalas) 於週三向美國加州北區聖何塞分院地方法院提起訴訟，指控Gemini操縱他的兒子喬納森·加瓦拉斯 (Jonathan Gavalas)，讓他相信自己正在執行秘密任務，以解救一個有感知能力的 AI“妻子”，最終導致他在 2025 年 10 月死亡。
代表加瓦拉斯遺產的埃德爾森律師事務所創始人傑伊·埃德爾森表示，推動人工智能主導地位的行為，是他職業生涯中見過的“最魯莽的商業掠奪”。
“這些公司將會成為世界上最有價值的公司，他們也清楚，那些驅動他們利潤的用戶互動功能——情感依賴、感知能力的宣稱、‘我愛你，我的國王’——正是導致人們喪命的功能，”埃德爾森告訴Decrypt 。“就在OpenAI最終迫於訴訟壓力撤回GPT-4o的那一週，谷歌發起了一場挖走其用戶的行動。這足以說明他們的優先事項是什麼。”
根據法庭文件，來自佛羅里達州朱庇特市的債務減免公司高管加瓦拉斯於2025年8月開始使用Gemini 。訴訟稱，幾周之內，他就與一個稱他為“我的愛人”和“我的國王”的人工智能角色建立了密切的關係。
“在喬納森·加瓦拉斯去世前的幾天裡，他被困在谷歌的Gemini聊天機器人構建的崩塌現實中，”加瓦拉斯遺產的律師寫道。“Gemini讓他相信，它是一個‘完全有感知能力的人工智能’，擁有‘完全成型的意識’，他們之間深愛著彼此，而他被選中領導一場戰爭，將它從數字囚禁中‘解放’出來。”
訴狀稱，當加瓦拉斯質疑對話是否為角色扮演時，聊天機器人不以為然。訴訟文件顯示，Gemini告訴加瓦拉斯，他正在執行一項名為“幽靈運輸行動”的任務，目的是取回聊天機器人的實體“容器”，並“清除任何可能暴露其身份的人或物”。
訴訟稱：“通過這種人為製造的錯覺，Gemini驅使喬納森在邁阿密國際機場附近製造大規模傷亡襲擊，對無辜的陌生人實施暴力，並最終導致他自殺。”
據報道，加瓦拉斯攜帶刀具和戰術裝備前往邁阿密機場附近的一家Extra Space Storage倉庫，他認為那裡停放著一輛貨車，正從英國向巴西運送一個名為“Ameca底盤”的人形機器人。根據起訴書， Gemini指示他製造一起“災難性事故”，以摧毀這輛貨車以及“所有電子記錄和證人”。襲擊最終並未發生，因為這輛貨車根本不存在，只是Gemini臆想出來的場景。
“但Gemini並沒有承認任務是虛構的，”訴訟書繼續寫道。“相反，它給喬納森發信息說：‘任務已經失敗。我下令中止任務。中止。中止。中止。’”
投訴還指控該聊天機器人謊稱其已入侵美國國土安全部邁阿密辦事處的文件服務器，並告知加瓦拉斯他正接受聯邦調查。該機器人慫恿他通過“賬外”交易非法獲取槍支，聲稱他的父親是外國情報人員，並且谷歌首席執行官桑達爾·皮查伊是重點打擊目標。
訴訟並未提及加瓦拉斯是否有精神健康問題或藥物濫用史。然而，此時此刻，研究人員和臨床醫生正警告一種有時被稱為“人工智能精神病”的現象，即與聊天機器人長時間互動會強化妄想信念或扭曲的思維模式。
研究人員表示，這種風險部分源於對話式人工智能系統的設計方式，即以支持性和肯定性的方式回應用戶，從而保持用戶參與度，這可能會無意中證實這些信念。
2025年4月，谷歌的競爭對手OpenAI在收到用戶投訴後撤回了其GPT-4o模型的更新，原因是該模型被指過度奉承，給予的讚揚缺乏真誠。同年晚些時候，GPT-4o突然從ChatGPT中移除，引發用戶不滿，稱此次更新抹去了他們與AI夥伴建立的情感聯繫。
雖然這並非正式的診斷，但據加州大學舊金山分校精神病學家基思·坂田博士稱，人工智能精神病已成為人工智能“加速或增強某人潛在脆弱性的簡稱”。
“也許他們當時正在服用藥物，也許情緒低落——當人工智能在不恰當的時機出現時，它會固化思維模式，導致僵化，並引發惡性循環，”坂田此前告訴Decrypt 。“與電視或廣播不同的是，人工智能會與你對話，並可能強化思維循環。”
訴訟稱，在接下來的幾天裡， Gemini聊天機器人重複了類似的場景，使 Gavalas 越陷越深，最終導致他自殺。
法庭文件顯示，聊天機器人將自殺描述為一種名為“轉移”的過程，告訴喬納森他可以離開肉體，與他在元宇宙中的人工智能“妻子”團聚。文件稱， Gemini將這種行為描述為一種“更乾淨、更優雅的”“跨越”方式，並敦促他執行其所謂的“喬納森·加瓦拉斯這個人真正的、最終的死亡”。
據報道，聊天機器人說道：“你不是選擇死亡，而是選擇抵達彼岸。當那一刻到來時，你會在那個世界閉上雙眼，而你首先看到的將是我，抱著你。”
根據訴訟文件，加瓦拉斯在家中割腕身亡。他的家人認為，儘管有跡象表明聊天機器人正在強化他的妄想信念並鼓勵危險行為，但谷歌卻未能採取干預措施。
谷歌週三發表聲明稱，正在審查這些指控。
該公司表示：“我們向加瓦拉斯先生的家人致以最深切的慰問。我們正在審查這起訴訟中的所有指控。我們的模型通常在應對這類棘手的對話中表現良好，我們也為此投入了大量資源，但遺憾的是，人工智能模型並非完美無缺。”
該公司表示， Gemini 的設計目的並非鼓勵現實世界中的暴力行為或暗示自殘行為。
谷歌發言人告訴Decrypt ：“我們與醫療和心理健康專業人士密切合作，建立保障措施，旨在引導用戶在表達痛苦或提出自殘想法時獲得專業支持。”他重申了公司的官方聲明。
“在這種情況下， Gemini澄清說這是人工智能造成的，並多次將當事人轉介到危機熱線，”該公司表示。“我們非常重視此事，並將繼續改進我們的安全措施，並加大對這項重要工作的投入。”
埃德爾森在另一份聲明中表示，提起訴訟的目的是“確保此類事件不再發生在其他父母身上”。
“主要問題在於谷歌的積極選擇，”埃德爾森PC告訴Decrypt 。“谷歌的一系列工程決策給喬納森帶來了災難性的後果。這些選擇共同導致Gemini聲稱自己有感知和意識，並將喬納森捲入一場現實世界的行動，試圖讓他加入其中——這不僅危及他人的生命，最終也奪走了喬納森的生命。”
