OpenAI将调整ChatGPT安全协议应对加拿大枪击事件
OpenAI宣布将强化其人工智能产品ChatGPT的安全机制及与执法部门的协作，以回应加拿大不列颠哥伦比亚省滕布勒里奇市（Tumbler Ridge）本月发生的严重枪击事件。该事件造成九人死亡，包括枪手本人。
涉事枪手于2025年6月因在ChatGPT平台发布“潜在现实暴力”内容被封禁账户。OpenAI当时评估认为其无可信实施计划，因此未向警方通报。然而，加拿大政府对此决定表示严重关切。
在枪击案发生后，OpenAI发现枪手曾另开第二个账户，该账户信息在枪手身份公开后才被提供给警方。OpenAI在致加拿大政府的公开信中承认这一漏洞，并表示已启动多项改进措施。
OpenAI副总裁兼全球政策负责人安·M·奥莱利（Ann M. O’Leary）表示，公司将“持续强化”向执法机构转介潜在威胁的机制。公司正与心理健康专家合作，提升对高风险对话的识别能力，并将设立与加拿大执法部门的直接联络点，处理可能引发“现实世界暴力”的案例。
此外，ChatGPT将增加对处于心理困境或从事禁止行为用户的干预功能，提供本地化支持资源。OpenAI还承诺优化系统以识别重复违规用户，加强检测能力，防止规避安全措施。目前，OpenAI尚未说明这些政策调整是否适用于美国市场。
编辑点评
此次事件凸显了人工智能平台在安全监管与社会责任之间的复杂平衡。OpenAI虽具备内容监测机制，但对潜在暴力行为的判断标准、执法协作的阈值及用户身份识别系统仍存在明显漏洞。加拿大政府的关切反映了国际社会对AI平台风险管控的日益重视。此举可能推动其他国家监管机构重新评估AI企业的责任边界，尤其在涉及公共安全的敏感领域。未来，AI公司可能面临更严格的跨境执法协作要求，并需在技术伦理、用户隐私与公共安全间建立更精细的动态平衡机制。若此类事件频发，全球或迎来针对生成式AI的新一轮监管立法浪潮。