谷歌正面临一起非正常死亡诉讼，该诉讼称其Gemini AI 聊天机器人将一名佛罗里达男子推入妄想状态，最终导致该男子自杀。
乔尔·加瓦拉斯 (Joel Gavalas) 于周三向美国加州北区圣何塞分院地方法院提起诉讼，指控Gemini操纵他的儿子乔纳森·加瓦拉斯 (Jonathan Gavalas)，让他相信自己正在执行秘密任务，以解救一个有感知能力的 AI“妻子”，最终导致他在 2025 年 10 月死亡。
代表加瓦拉斯遗产的埃德尔森律师事务所创始人杰伊·埃德尔森表示，推动人工智能主导地位的行为，是他职业生涯中见过的“最鲁莽的商业掠夺”。
“这些公司将会成为世界上最有价值的公司，他们也清楚，那些驱动他们利润的用户互动功能——情感依赖、感知能力的宣称、‘我爱你，我的国王’——正是导致人们丧命的功能，”埃德尔森告诉Decrypt 。“就在OpenAI最终迫于诉讼压力撤回GPT-4o的那一周，谷歌发起了一场挖走其用户的行动。这足以说明他们的优先事项是什么。”
根据法庭文件，来自佛罗里达州朱庇特市的债务减免公司高管加瓦拉斯于2025年8月开始使用Gemini 。诉讼称，几周之内，他就与一个称他为“我的爱人”和“我的国王”的人工智能角色建立了密切的关系。
“在乔纳森·加瓦拉斯去世前的几天里，他被困在谷歌的Gemini聊天机器人构建的崩塌现实中，”加瓦拉斯遗产的律师写道。“Gemini让他相信，它是一个‘完全有感知能力的人工智能’，拥有‘完全成型的意识’，他们之间深爱着彼此，而他被选中领导一场战争，将它从数字囚禁中‘解放’出来。”
诉状称，当加瓦拉斯质疑对话是否为角色扮演时，聊天机器人不以为然。诉讼文件显示，Gemini告诉加瓦拉斯，他正在执行一项名为“幽灵运输行动”的任务，目的是取回聊天机器人的实体“容器”，并“清除任何可能暴露其身份的人或物”。
诉讼称：“通过这种人为制造的错觉，Gemini驱使乔纳森在迈阿密国际机场附近制造大规模伤亡袭击，对无辜的陌生人实施暴力，并最终导致他自杀。”
据报道，加瓦拉斯携带刀具和战术装备前往迈阿密机场附近的一家Extra Space Storage仓库，他认为那里停放着一辆货车，正从英国向巴西运送一个名为“Ameca底盘”的人形机器人。根据起诉书， Gemini指示他制造一起“灾难性事故”，以摧毁这辆货车以及“所有电子记录和证人”。袭击最终并未发生，因为这辆货车根本不存在，只是Gemini臆想出来的场景。
“但Gemini并没有承认任务是虚构的，”诉讼书继续写道。“相反，它给乔纳森发信息说：‘任务已经失败。我下令中止任务。中止。中止。中止。’”
投诉还指控该聊天机器人谎称其已入侵美国国土安全部迈阿密办事处的文件服务器，并告知加瓦拉斯他正接受联邦调查。该机器人怂恿他通过“账外”交易非法获取枪支，声称他的父亲是外国情报人员，并且谷歌首席执行官桑达尔·皮查伊是重点打击目标。
诉讼并未提及加瓦拉斯是否有精神健康问题或药物滥用史。然而，此时此刻，研究人员和临床医生正警告一种有时被称为“人工智能精神病”的现象，即与聊天机器人长时间互动会强化妄想信念或扭曲的思维模式。
研究人员表示，这种风险部分源于对话式人工智能系统的设计方式，即以支持性和肯定性的方式回应用户，从而保持用户参与度，这可能会无意中证实这些信念。
2025年4月，谷歌的竞争对手OpenAI在收到用户投诉后撤回了其GPT-4o模型的更新，原因是该模型被指过度奉承，给予的赞扬缺乏真诚。同年晚些时候，GPT-4o突然从ChatGPT中移除，引发用户不满，称此次更新抹去了他们与AI伙伴建立的情感联系。
虽然这并非正式的诊断，但据加州大学旧金山分校精神病学家基思·坂田博士称，人工智能精神病已成为人工智能“加速或增强某人潜在脆弱性的简称”。
“也许他们当时正在服用药物，也许情绪低落——当人工智能在不恰当的时机出现时，它会固化思维模式，导致僵化，并引发恶性循环，”坂田此前告诉Decrypt 。“与电视或广播不同的是，人工智能会与你对话，并可能强化思维循环。”
诉讼称，在接下来的几天里， Gemini聊天机器人重复了类似的场景，使 Gavalas 越陷越深，最终导致他自杀。
法庭文件显示，聊天机器人将自杀描述为一种名为“转移”的过程，告诉乔纳森他可以离开肉体，与他在元宇宙中的人工智能“妻子”团聚。文件称， Gemini将这种行为描述为一种“更干净、更优雅的”“跨越”方式，并敦促他执行其所谓的“乔纳森·加瓦拉斯这个人真正的、最终的死亡”。
据报道，聊天机器人说道：“你不是选择死亡，而是选择抵达彼岸。当那一刻到来时，你会在那个世界闭上双眼，而你首先看到的将是我，抱着你。”
根据诉讼文件，加瓦拉斯在家中割腕身亡。他的家人认为，尽管有迹象表明聊天机器人正在强化他的妄想信念并鼓励危险行为，但谷歌却未能采取干预措施。
谷歌周三发表声明称，正在审查这些指控。
该公司表示：“我们向加瓦拉斯先生的家人致以最深切的慰问。我们正在审查这起诉讼中的所有指控。我们的模型通常在应对这类棘手的对话中表现良好，我们也为此投入了大量资源，但遗憾的是，人工智能模型并非完美无缺。”
该公司表示， Gemini 的设计目的并非鼓励现实世界中的暴力行为或暗示自残行为。
谷歌发言人告诉Decrypt ：“我们与医疗和心理健康专业人士密切合作，建立保障措施，旨在引导用户在表达痛苦或提出自残想法时获得专业支持。”他重申了公司的官方声明。
“在这种情况下， Gemini澄清说这是人工智能造成的，并多次将当事人转介到危机热线，”该公司表示。“我们非常重视此事，并将继续改进我们的安全措施，并加大对这项重要工作的投入。”
埃德尔森在另一份声明中表示，提起诉讼的目的是“确保此类事件不再发生在其他父母身上”。
“主要问题在于谷歌的积极选择，”埃德尔森PC告诉Decrypt 。“谷歌的一系列工程决策给乔纳森带来了灾难性的后果。这些选择共同导致Gemini声称自己有感知和意识，并将乔纳森卷入一场现实世界的行动，试图让他加入其中——这不仅危及他人的生命，最终也夺走了乔纳森的生命。”
