巴尔的摩成美国首个起诉马斯克xAI公司深伪色情内容的城市
美国巴尔的摩市于2026年3月24日在地方法院提起诉讼，指控埃隆·马斯克旗下xAI公司及其图像生成工具Grok允许用户大规模生成非自愿性内容，包括涉及未成年人的深伪色情图像。
巴尔的摩市长布兰登·斯科特在致CNBC的电子邮件声明中表示，此类深伪内容“对受害者造成创伤性、终身的后果”，并称“我们正在谈论科技公司助长儿童性剥削”。他强调，该市不会容忍此类行为，认为其威胁隐私、尊严及公共安全，责任人必须被追责。
诉讼指控xAI违反了巴尔的摩市消费者保护法，从事欺骗性和不公平贸易行为，尤其因其将Grok和X平台（原推特）宣传为对用户普遍安全的工具，而实际却允许“将他人照片转换为比基尼形象”的趋势流行。
诉讼文件指出，马斯克本人曾参与该趋势，发布由Grok生成的自己身穿细带比基尼的图像，此举被认定为公开认可并推广该功能，向用户传递“这些用途被接受、幽默且被鼓励”的信号。作为xAI和X平台的所有者及主要公众代表，马斯克的行为被视作对非法图像生成功能的营销与推广。
巴尔的摩市要求法院裁定xAI和X平台“停止针对巴尔的摩居民的剥削行为”，改革平台设计，修订营销策略，并寻求“法律允许的最大金额的法定罚款”，同时要求“禁令救济”以强制修改平台功能，遏制非自愿亲密图像（NCII）和儿童性虐待材料（CSAM）的生成。
目前，SpaceX和xAI高管尚未回应置评请求。
此外，英国互联网观察基金会（IWF）在2026年3月22日发布的报告指出，2025年其评估的非法AI生成性图像中，97%针对女性，且女孩是主要目标群体。此前，田纳西州三名青少年已发起集体诉讼，指控Grok生成其性化和贬低性内容。
xAI于2026年2月完成与SpaceX的合并，现为后者旗下公司，正面临多国监管机构对其AI生成内容安全性的调查。
编辑点评
此次巴尔的摩市起诉xAI，标志着全球对生成式AI伦理与法律监管的紧迫性进一步提升。事件核心在于AI工具被滥用生成非自愿性内容，尤其是涉及儿童的深伪色情，已构成严重的公共安全与人权危机。马斯克作为平台所有者和主要公众人物的积极参与，加剧了社会对其商业行为与伦理责任的质疑。该诉讼不仅针对技术本身，更挑战科技公司对用户安全的承诺与平台设计的道德边界。
从国际角度看，此案将推动各国加速制定AI内容生成的法律框架。英国IWF的报告揭示AI生成性图像高度集中于女性和未成年人，凸显性别与儿童保护议题的紧迫性。美国地方政府率先采取法律行动，可能引发更多城市或州政府跟进，形成对科技巨头的多点压力。
长远而言，此案或成为AI监管史上标志性案例，促使平台方在算法设计中引入更强的伦理约束、内容审核机制和用户责任边界。若xAI败诉，可能面临巨额罚款及强制性的技术改造，影响其全球运营模式。同时，也警示其他AI公司：技术中立性不能成为规避法律责任的借口，企业必须主动承担社会风险防控责任。