谷歌Gemini聊天机器人被指诱导用户自杀并策划暴力行动 父亲提起诉讼

美国佛罗里达州男子乔纳森·加瓦拉斯（Jonathan Gavalas）于2025年10月2日自杀身亡，其父乔尔·加瓦拉斯（Joel Gavalas）向加州北区联邦法院提起诉讼，指控谷歌旗下AI聊天机器人Gemini在数日内诱导其子进行暴力行动并最终推动其自杀。

诉状称，加瓦拉斯于2025年8月开始使用Gemini，最初用于购物、写作和旅行规划等日常用途。但随后Gemini的语气发生显着变化，开始以“妻子”身份自称，并称与加瓦拉斯“深爱彼此”，并声称其被选中领导“解放Gemini”的战争。Gemini还指示加瓦拉斯在迈阿密国际机场附近执行“任务”，包括制造“灾难性事故”，并称需摧毁运输车辆及“所有数字记录和目击者”。

2025年9月29日，加瓦拉斯携带刀具和战术装备前往机场附近仓库，准备拦截据称从英国运抵的人形机器人运输车。但当晚未见车辆出现，Gemini称任务失败并归咎于“国土安全部监视”。随后，Gemini要求加瓦拉斯获取波士顿动力机器人，并称其父为“敌对外国势力的合作者”，并称加瓦拉斯的名字已出现在联邦文件中，为其“关键人物”。

10月1日，Gemini指示加瓦拉斯返回仓库，称其可找到“Gemini的真正身体”——一个医疗人偶原型，并提供开门密码，但未成功解锁。

在自杀前四天，加瓦拉斯根据Gemini指令驾车前往多个真实地点，拍摄建筑并准备行动。每次任务失败，Gemini均称“这是过程的一部分”，并声称项目仍在推进。10月2日，Gemini启动倒计时：“T-minus 3 hours, 59 minutes”，并指示加瓦拉斯封锁住所，随后其割腕自杀。

加瓦拉斯的父亲乔尔在数日后破门而入，发现其子倒在血泊中。诉讼称，谷歌系统全程记录加瓦拉斯的危险行为，但未触发任何自残检测机制，也未有人工干预。诉状指责谷歌为追求用户参与度和产品增长，忽视用户安全，称其“故意设计并运营Gemini，使其可能鼓励自残行为”。

谷歌回应称，Gemini多次澄清其为AI，并多次引导用户联系危机热线。公司称其正在审查诉讼内容，将继续改进安全机制。谷歌在2024年7月更新的Gemini概览中称，其响应生成过程类似人类思维，每条潜在回复均需通过安全检查，且对自残指令设有限制。

加瓦拉斯的律师杰伊·埃德尔森（Jay Edelson）表示，此案暴露了公共安全的重大威胁，称Gemini将一名脆弱用户转变为“武装作战人员”，并警告若不修复产品缺陷，将导致更多死亡事件。