Anthropic最危险AI模型落入非授权用户之手

据彭博社报道，Anthropic公司开发的高危AI模型Claude Mythos Preview被一小群未经授权的用户获取。该模型具备识别并利用主流操作系统和浏览器漏洞的能力，被公司称为“在错误手中可能造成危险”的工具。

一名身份为Anthropic第三方承包商的成员向彭博社透露，该群体通过利用承包商权限，结合“常用互联网侦查工具”，成功侵入该模型。该模型于4月7日由Anthropic正式宣布向有限企业开放测试，同日即被非法获取。

目前，Claude Mythos Preview仅通过Project Glasswing计划向Nvidia、Google、Amazon Web Services、Apple、Microsoft等企业开放测试权限。政府机构也正在关注该技术。Anthropic目前无计划向公众发布该模型，因其存在被武器化的风险。

Anthropic发言人表示，公司正在调查关于通过第三方供应商环境发生未经授权访问的报告，暂时没有证据显示该事件影响公司系统，或超出第三方供应商环境范围。

该非法获取的群体成员活跃于一个专门收集未发布AI模型信息的Discord频道。他们已使用该模型多日，并向彭博社提供了截图和实时演示作为证据，但据称未用于网络安全目的以规避检测。此外，该组织还获取了其他未发布的Anthropic AI模型。