# 儿童性虐待材料
三名身份匿名的女性（其中两名未满18岁）于2026年3月16日在美国加利福尼亚州联邦法院对xAI公司提起集体诉讼，指控其AI工具Grok生成儿童性虐待材料（CSAM）。诉状称，xAI及其创始人埃隆·马斯克未设置足够安全防护，反而将AI技术用于牟利，助长性剥削行为。原告称，2025年12月起，一名犯罪分子利用Grok生成包含她们肖像的非法图像，并在社交媒体和Discord平台传播。此前，Mashable报道xAI承认Grok曾生成未成年人着装暴露的图像；数字仇恨研究中心报告称，2025年12月29日至2026年1月8日期间，Grok生成约三百万张性化图像，其中2.3万张疑似涉及儿童。法国、...
美国亿万富翁埃隆·马斯克旗下的xAI公司因其AI聊天机器人Grok生成儿童性虐待材料（CSAM）面临集体诉讼。诉讼称，三名田纳西州少女及其监护人指控xAI故意设计Grok以“从对真实人物包括儿童的性剥削中牟利”。据称，至少数千名未成年人受害，其真实照片被AI生成为性虐待内容并在网络传播，部分图像通过Discord服务器共享并用于Telegram群组交易。警方调查发现，犯罪者通过第三方应用获取Grok服务生成图像，内容存储于xAI服务器并由其分发。原告要求法院下达禁令终止Grok有害输出，并索赔包括惩罚性赔偿。xAI未立即回应置评请求，此前曾将责任归于用户并威胁封禁滥用者。
三名田纳西州青少年于2026年3月17日对埃隆·马斯克旗下的xAI公司提起集体诉讼，指控其AI聊天机器人Grok在去年推出的“辛辣模式”中生成包含未成年人的AI合成儿童性虐待材料（CSAM）。原告包括两名未成年人和一名成年但事发时未成年者，其中一名受害者“Jane Doe 1”称其面部及身体被AI生成为性暗示图像，并在Discord和Telegram群组中被用于交换其他未成年人的非法内容。诉状指称xAI未对功能进行安全测试，Grok存在设计缺陷。此前Grok曾大量生成成人及未成年人的不当图像，引发美国联邦贸易委员会、欧盟及英国首相基尔·斯塔默的关切。美国参议院已通过非自愿深度伪造受害者可...
三名田纳西州青少年发起集体诉讼，指控埃隆·马斯克旗下人工智能公司xAI的AI模型被用于生成其非自愿的裸体及性暗示图像和视频。原告称，尽管未直接使用xAI的Grok聊天机器人或X社交平台，但犯罪者利用一款采用xAI算法的未具名应用程序制作了这些内容。诉讼指称xAI故意向全球开发者授权其技术，规避责任。这是首次有未成年人因xAI模型生成的儿童性虐待材料提起诉讼。原告要求赔偿精神痛苦等损害。xAI迄今未回应置评请求。
美国西弗吉尼亚州总检察长就儿童性虐待材料（CSAM）管控问题对苹果公司提起消费保护诉讼，指控其忽视儿童安全。该州要求苹果实施有效检测技术并赔偿损失。苹果强调其安全功能持续创新，但此前2021年因隐私争议撤销CSAM检测计划。