美国国防部计划允许AI公司在机密数据上训练模型

美国国防部正在讨论建立安全环境，允许生成式AI公司对其模型进行训练，使用机密数据以开发军事专用版本。该计划由MIT Technology Review获得消息，目前尚未得到国防部官方确认。

当前，AI模型如Anthropic的Claude已在机密环境中用于分析伊朗目标等任务，但仅限于基于已有数据回答问题，尚未从数据中学习。若允许训练，意味着敏感情报将嵌入模型本身，AI公司也将更深入接触机密数据。

一名美国国防部官员表示，此类训练有望提升模型在特定任务中的准确性和效率。国防部已与OpenAI和Elon Musk的xAI达成协议，允许其模型在机密环境中运行，并推动成为“AI优先”的作战力量，背景是与伊朗的冲突持续升级。

训练将发生在经认证可处理机密政府项目的数据中心，AI模型与机密数据配对。尽管数据所有权归国防部，但AI公司人员在极少数情况下、具备适当安全许可时可能接触数据。

在正式推进前，国防部计划先在非机密数据（如商业卫星影像）上评估模型表现。此前，军方已广泛使用计算机视觉AI识别无人机和飞机采集的图像内容，联邦机构也已向企业授予相关训练合同。

AI公司如Anthropic已推出政府专用版本（如Claude Gov），支持多语言和安全环境运行。此次披露是首次明确表明OpenAI、xAI等大型语言模型公司可能直接在机密数据上训练政府专用模型。

Aalok Mehta（Wadhwani AI Center主任，曾任职于Google和OpenAI）指出，训练模型使用机密数据将带来新风险，最主要的是机密信息可能通过模型泄露给无权限的军事部门。例如，模型可能将某特工姓名泄露给不应获知该信息的部门，从而威胁特工安全。若多个部门共享同一模型，风险更难完全控制。

不过，Mehta认为，通过严格隔离措施，可将信息泄露至互联网或AI公司（如OpenAI）的风险降至极低。政府已具备部分基础设施，如Palantir获合同建立安全环境，使官员可向AI提问机密问题而不将数据回传至AI公司。但将此类系统用于模型训练仍是新挑战。

国防部在国防部长Pete Hegseth一月发布的备忘录推动下，正加速AI应用，包括在作战中用于目标排序和打击推荐，以及在行政事务中起草合同和报告。

Mehta指出，大量当前由人类分析师完成的任务可能需要AI训练，涉及机密数据。例如，学习识别图像中细微线索，或关联新信息与历史背景。这些数据可能来自情报机构收集的海量多语言文本、音频、图像和视频。

Mehta强调，具体哪些军事任务需要AI训练机密数据尚难明确，因国防部有强烈动机保密，避免其他国家了解其在该领域的具体能力。