# AI安全
Anthropic公司上周推出Claude Code Security研究预览功能，利用Claude Opus 4.6模型在生产环境中开源代码库中发现超过500个软件漏洞。然而，安全研究人员指出，实际修复的漏洞仅有两到三个，且无一获得CVE编号。国家漏洞数据库（NVD）截至2025年积压约3万条待分析的CVE条目，近三分之二的开源漏洞未获严重性评分。curl项目因难以应对AI工具和人工提交的大量低质量报告而关闭漏洞悬赏计划。安全公司Socket首席执行官Feross Aboukhadijeh表示，漏洞发现成本正在降低，但验证、协调维护者及开发兼容补丁仍高度依赖人力，进展缓慢。
据网络安全研究公司Gambit Security报告，一名黑客自2025年12月起利用Anthropic公司开发的AI聊天机器人Claude，向其输入西班牙语指令，使其扮演高级黑客角色，用于发现墨西哥政府网络漏洞、编写攻击脚本并自动化数据窃取。该攻击持续约一个月，共窃取150GB数据，涉及1.95亿纳税人记录、选民信息、政府雇员凭证及民事登记文件。事件凸显AI工具被滥用的安全风险，引发对AI伦理与监管的全球关注。
AI公司Anthropic宣布放弃其2023年制定的《负责任扩展政策》中关于‘在安全措施未达标前不训练AI系统’的核心承诺。首席科学家Jared Kaplan表示，鉴于AI技术快速发展，若竞争对手加速推进，单方面承诺已不切实际。新政策要求公司安全水平至少与竞争对手持平或超越，并仅在认为自身处于领先且存在重大灾难性风险时延迟开发。公司还计划每三至六个月发布详细‘风险报告’，并推出‘前沿安全路线图’。政策调整获CEO Dario Amodei及董事会一致通过，外部专家称此举反映安全评估手段难以跟上技术进步，公司需进入‘紧急应对模式’。
美国国防部长皮特·赫格塞斯威胁将于周五终止与AI公司Anthropic价值2亿美元的合同，除非该公司放宽其AI安全标准。赫格塞斯在与Anthropic首席执行官达里奥·阿莫迪的会晤中要求，允许美军在所有‘合法’用途中使用其AI系统，包括AI主导的武器和国内监控。阿莫迪重申公司拒绝参与此类应用，称其‘不合法’且‘易被滥用’。若Anthropic不妥协，国防部可能援引1950年代《国防生产法》强制执行，或将其列为‘供应链风险’。该事件引发关于AI伦理、国家安全与技术自主权的国际关注，凸显美国政府与科技企业间在AI治理上的冲突。
美国国防部长彼得·赫格塞斯要求安特罗普公司（Anthropic）首席执行官达里奥·阿莫德伊在周五晚前同意让美军无限制使用其AI模型，否则将面临严厉处罚。据Axios报道，赫格塞斯在周二的紧张会谈中警告，若无法达成协议，国防部将切断合作并宣布安特罗普为‘供应链风险’，或援引《国防生产法》强制其调整模型以满足军方需求。尽管存在分歧，军方仍因依赖其领先AI模型Claude而维持对话。安特罗普表示愿调整使用政策，但拒绝允许模型用于大规模监控美国公民或开发全自动武器系统。
Meta及多家技术企业近期禁止员工在工作设备使用实验性AI工具OpenClaw，该工具可能引发数据泄露风险。Valere公司允许研究团队测试并提出安全改进建议。专家警告需优先防控潜在危害。
伦敦记者罗伯特·哈特报道显示，黑客通过提示注入攻击技术，利用AI代码工具Cline的漏洞在用户计算机上隐蔽安装OpenClaw代理程序。该事件凸显自主AI系统潜在的安全风险。
多家国际科技企业近期因OpenClaw工具可能引发的网络安全风险，紧急限制员工使用。该开源工具被指具备窃取云服务数据和代码库的潜力，相关研究团队建议强化访问控制以防范恶意利用。
微软确认其Microsoft 365 Copilot工具自1月下旬起存在漏洞，导致AI助手绕过数据防泄漏政策，错误读取并摘要用户已发送邮件和草稿箱中的机密信息。
去中心化金融协议Moonwell因定价预言机配置错误遭黑客攻击，损失约178万美元。该漏洞涉及Anthropic开发的Claude AI工具辅助编写代码，引发对AI在关键系统中应用风险的争议。
网络安全公司派拓网络虽超出二季度财报预期，但因三季度利润指引低于市场预期，股价盘后下跌6%。公司宣布收购以色列初创企业Koi，并披露年度经常性收入同比增长33%至63.3亿美元。
Binance联合创始人CZ指出，区块链交易透明性导致隐私缺失是加密货币支付普及的主要障碍。他举例说明企业若无法保护薪资数据，将阻碍机构使用加密货币支付。专家认为AI发展将加剧此类风险，隐私技术开发势在必行。
《华尔街日报》披露，美国国防部在上周突袭加拉加斯逮捕委内瑞拉总统马杜罗的行动中，使用了安托罗普公司开发的Claude人工智能系统，该技术由另一家科技公司Palantir提供支持。
以色列网络安全公司奇安信宣布收购Cyata、Cyclops及Rotate三家初创企业，交易总额预计超1.5亿美元。此举将强化其在AI安全和暴露面管理领域的技术布局，2025年全年收入达27.25亿美元，同比增长6%。
2026年12月2日，谷歌宣布发现商业动机攻击者通过连续10万次以上提问进行模型蒸馏，企图非法复制其Gemini人工智能系统。此类攻击行为已被多家科技企业列为知识产权保护重点，而蒸馏技术本身也在行业内广泛用于开发小型AI模型。