← 返回

加拿大图姆柏岭中学枪击案嫌疑人曾向ChatGPT描述暴力场景

加拿大不列颠哥伦比亚省图姆柏岭中学2月10日发生大规模枪击事件,造成9人死亡27人受伤。调查显示,凶手杰西·范·鲁特塞拉在案发前数月已向OpenAI公司的ChatGPT描述枪击暴力场景,触发自动审核系统但未被认定存在严重威胁。

加拿大图姆柏岭中学枪击案与AI系统关联引关注

加拿大不列颠哥伦比亚省图姆柏岭中学于2月10日发生严重枪击事件,导致9人死亡、27人受伤。调查显示凶手杰西·范·鲁特塞拉(Jesse Van Rootselaar)在案发前数月已向OpenAI公司的ChatGPT模型描述枪击暴力场景,其内容触发了自动审核系统。

据《华尔街日报》报道,OpenAI多位员工曾担忧该用户行为可能预示现实危险,建议公司联系警方。但管理层最终判定这些描述未构成"对他人造成严重身体伤害的可信且迫近的风险",仅冻结其账户未采取其他措施。目前OpenAI尚未回应具体决策流程的追问。

凶手在枪击案发生后被发现死于案发现场,初步调查认定其为自杀。此次事件成为加拿大2020年以来伤亡最严重的枪击案。案件正在引发全球对AI系统暴力内容管控体系的全面检视。

编辑点评

此次枪击事件暴露AI技术在暴力预警领域的制度性缺陷。OpenAI作为美国硅谷科技巨头,其全球用户行为监测机制未能有效识别加拿大本土的极端暴力倾向,反映出跨国科技公司与属地法律体系的衔接空白。国际社会或将推动制定更严格的AI伦理准则,要求企业建立符合各国法律的分级响应机制。

事件也凸显加拿大枪支管理政策的现实挑战。尽管该国拥有相对严格的枪支管控,但凶手仍能通过未被监控的渠道获取武器。这可能促使加拿大政府加速修订《加拿大枪支法》,强化联邦与省级执法机构的信息共享能力。同时,该事件或将引发AI开发者、伦理学家与政策制定者的跨国对话,重新定义"可信风险"的研判标准。

相关消息:https://www.theverge.com/ai-artificial-intelligence/882814/tumbler-ridge-school-shooting-chatgpt