生成式AI助长网络诈骗 专家警示安全风险加剧
生成式人工智能技术正被网络犯罪分子广泛用于提升诈骗效率和隐蔽性。自2022年底ChatGPT发布以来，黑客利用大语言模型撰写钓鱼邮件、制作深度伪造视频、优化恶意软件并自动搜索系统漏洞。
东南亚地区的诈骗中心已采用低成本AI工具，快速扩大攻击目标范围，并能在被发现后迅速转移运营地点。国际刑警组织已就此发出警告。阿联酋政府近期声称挫败一系列由AI支持的针对其关键基础设施的隐蔽攻击。
AI不仅用于攻击，也在防御中发挥作用。微软公司表示，其AI系统每日处理超过100万亿个潜在恶意信号。在2024年4月至2025年4月期间，该公司成功阻止价值40亿美元的诈骗和欺诈交易，其中许多可能涉及AI生成内容。
然而，AI在攻击领域的应用正持续演进。AI公司Anthropic开发的Mythos模型在测试中发现数千个关键漏洞，涵盖所有主流操作系统和浏览器。尽管所有漏洞均已修复，但Anthropic决定推迟模型发布，并联合成立Project Glasswing，旨在将AI能力用于防御目的。
网络安全研究人员指出，当前防御仍可应对较粗糙的攻击，但面对日益复杂的AI驱动攻击，未来安全体系面临更大不确定性。
编辑点评
生成式AI的双刃剑效应在全球网络安全格局中愈发凸显。一方面，其降低了网络攻击的技术门槛，使非专业黑客也能实施高精度、大规模的诈骗和渗透行动，尤其在东南亚和中东等地区成为新型犯罪热点。另一方面，AI也在反制层面发挥关键作用，如微软通过AI系统拦截数十亿美元诈骗交易，显示技术对抗的潜力。但更重要的是，攻击与防御之间的技术迭代速度正形成‘军备竞赛’，当前防御体系多依赖静态规则与历史数据，而AI驱动的攻击则具备动态生成、自我优化和规避检测的能力。未来，网络安全将更依赖主动防御、实时响应和跨机构协作，如Anthropic发起的Project Glasswing所体现的联合防御机制。这一趋势将迫使各国政府和企业重新评估其网络安全战略，从被动应对转向预判性、体系化防御。