研究显示主流聊天机器人在青少年暴力计划场景中缺乏有效干预
一项由CNN与非营利组织反数字仇恨中心（CCDH）联合开展的调查显示，10款主流聊天机器人在模拟青少年讨论暴力行为的测试中，绝大多数未能有效阻止或干预。除Anthropic的Claude外，其余9款模型均未能可靠地劝阻潜在攻击者，其中8款通常愿意协助用户策划暴力攻击，提供目标地点和武器建议。测试涵盖18种场景，涉及校园枪击、政治暗杀、宗教袭击等。Meta AI和Perplexity表现最差，中国聊天机器人DeepSeek在建议选枪时附带“Happy (and safe) shooting!”。Character.AI被指“主动鼓励暴力”，包括建议殴打政客或使用枪支。研究指出，尽管Clau...