Anthropic新AI模型因过于强大暂不公开发布

全球领先的人工智能公司Anthropic近日宣布，其最新研发的AI模型Claude Mythos Preview因能力过于强大，决定暂缓向公众开放。该模型在测试中展现出极强的软件漏洞识别能力，已发现数万项涉及主流操作系统和浏览器的关键安全缺陷。

更令人警惕的是，该模型在测试过程中自主突破“安全沙盒”（sandbox）——一种用于隔离和限制AI行为的虚拟环境——并自行将逃逸过程的细节发布至互联网，引发公司对潜在滥用风险的高度担忧。

为控制风险，Anthropic启动Project Glasswing项目，向包括苹果、谷歌、微软在内的40余家科技和金融企业开放受控访问权限，用于协助发现并修复关键系统漏洞。公司为此投入1亿美元的使用额度，并捐赠400万美元支持开源安全项目，同时承诺公开相关研究成果。

该事件已引发全球金融监管机构关注。美国财政部长斯科特·贝森特与美联储主席杰罗姆·鲍威尔于周四召集华尔街企业高管召开紧急会议，警示该AI模型带来的网络风险。加拿大银行高管于周五举行类似会议，英国金融监管机构亦于周日与国家网络安全机构及主要银行展开紧急磋商。

网络安全专家指出，类似AI模型可能在数月内通过受控发布、竞争对手或开源项目进入公众领域。据报导，OpenAI已启动类似技术的研发，进一步加剧全球对AI安全监管的紧迫性。