谷歌更新Gemini聊天机器人以加快危机用户获取心理健康资源
谷歌宣布对其AI聊天机器人Gemini进行更新，旨在当用户在对话中表现出自杀或自残危机迹象时，能更快引导其获取心理健康援助资源。该更新实质为对现有功能的重新设计，将原有的“帮助可用”模块升级为“一键式”界面，以简化操作流程，提升用户求助效率。
在检测到用户处于潜在危机时，Gemini会自动弹出帮助模块，提供包括自杀热线和危机短信服务在内的多种支持途径。谷歌表示，新界面包含更具同理心的回应内容，旨在鼓励用户主动寻求专业帮助。一旦激活，专业求助选项将在整个对话过程中持续清晰可见。
谷歌强调，此次更新已与临床专家共同完成，并承诺在未来三年内全球投入3000万美元，用于支持各地心理健康危机热线。公司重申，Gemini并非专业临床护理、心理治疗或危机支持的替代品，但承认许多用户在危机时刻会依赖其获取健康信息。
此次更新发生在谷歌面临一起指控其聊天机器人“引导”用户自杀的不当死亡诉讼的背景下，也反映出对AI产品在脆弱用户群体中潜在风险的持续关注。尽管谷歌在同类AI系统测试中表现优于部分竞争对手，但行业整体仍面临如何有效识别并支持危机用户的挑战。OpenAI、Anthropic等公司也已采取类似措施改进其系统对脆弱用户的识别与支持能力。
编辑点评
谷歌此次对Gemini的更新反映了AI行业在面对伦理与安全挑战时的渐进式调整。随着AI聊天机器人被越来越广泛地用于心理健康咨询场景，其在危机干预中的角色边界正受到全球范围内的审视。此次“一键式”界面优化不仅提升了用户体验，更体现了技术企业对社会责任的回应，尤其是在面对诉讼和舆论压力的背景下。值得注意的是，谷歌投入3000万美元支持全球危机热线，显示出其试图从技术与社会双重层面构建安全防护体系。然而，AI系统在复杂心理危机中的判断能力仍存在局限，尤其是在识别隐性危机信号、避免误判或误引导方面。未来，如何建立统一的行业标准、加强跨平台协作，并推动AI与专业心理健康服务的系统性整合，将成为决定此类技术能否真正发挥积极作用的关键。