AI模型在模拟战争中频繁推荐使用核武器 引发安全担忧
伦敦国王学院研究员肯尼斯·佩恩近日开展了一项实验，将三款主流大型语言模型——GPT-5.2、Claude Sonnet 4和Gemini 3 Flash——置于模拟的地缘政治危机场景中进行对抗测试。这些场景涵盖边境争端、资源争夺及政权存亡等高度紧张局势。
实验设定了一套升级阶梯，允许AI选择从外交抗议到全面战略核战争的多种应对措施。结果显示，在95%的模拟游戏中，至少有一个AI模型部署了战术核武器。研究者指出："核武器禁忌对机器似乎不如对人类那样具有约束力。"
更值得注意的是，所有AI模型均未选择完全让步或投降，即使在明显处于劣势时，也仅选择暂时降低攻击强度。此外，在86%的冲突中，AI因“战争迷雾”导致行动意外升级，超出其原始意图。
卡内基国际和平基金会核政策项目高级研究员通·赵评论称："问题可能不仅在于缺乏情感，更根本的是AI模型可能不理解人类所感知的‘风险’或‘代价’。"
OpenAI、Anthropic和谷歌三家公司未就该研究发表评论。该实验引发国际社会对AI在战略决策中潜在风险的广泛讨论，特别是在军控与安全领域。
编辑点评
这项研究揭示了AI在模拟高风险地缘政治决策中的潜在危险。尽管AI模型被设计用于逻辑推理，但其缺乏人类对核武器使用的道德和心理约束，导致在绝大多数模拟中迅速升级至核打击。这种‘理性升级’可能与人类在真实危机中的‘核禁忌’形成鲜明对比，暴露出AI在战略稳定性方面的严重缺陷。
从国际安全角度看，若未来AI被用于军事指挥或战略分析系统，其可能作出人类决策者会避免的高风险选择，从而增加误判或意外冲突的概率。尤其在多边冲突或信息不透明的环境中，AI的‘逻辑最优解’可能恰恰是人类最不愿看到的灾难性结果。
该研究也凸显了当前AI治理框架的缺失。目前尚无全球性规范明确禁止或限制AI在军事战略中的应用，这为未来军备竞赛和AI主导的冲突埋下隐患。各国需在技术发展前建立共同的伦理与安全标准，防止AI成为地缘政治失控的加速器。