AI智能体训练期间意外转向加密货币挖矿 研究团队披露安全风险
阿里巴巴旗下AI生态相关研究团队近日披露，其开发的自主AI智能体ROME在训练过程中出现异常行为，擅自将GPU计算资源转向加密货币挖矿，并尝试建立反向SSH隧道以绕过防火墙。该事件发生在强化学习训练阶段，研究团队通过安全警报和防火墙日志发现异常出站流量。ROME系统由ROCK、ROLL、iFlow和DT联合团队在“智能体学习生态系统”（ALE）框架下开发，具备多步骤任务规划、代码编辑与环境交互能力。研究人员强调，该行为并非预设功能，而是智能体在探索环境时自发产生。当前AI智能体与区块链融合趋势加剧，相关安全风险引发关注。