← 返回

谷歌AI摘要可能欺诈用户:如何防范风险

谷歌AI搜索摘要功能近期被曝存在诈骗电话植入问题。研究人员发现不法分子通过在低权重网页发布虚假联系信息,AI系统将其整合为看似权威的摘要,导致用户误拨诈骗电话。该功能已触发多国金融机构警示,谷歌正通过技术升级加强防护。

谷歌AI摘要存在安全漏洞

谷歌最新推出的AI搜索摘要功能(AI Overviews)被证实存在被诈骗分子利用的风险。研究表明,不法分子通过在非权威平台发布虚假联系方式,AI系统在抓取数据时未进行有效验证,导致诈骗电话被包装成官方客服信息展示。

诈骗机制解析

华盛顿邮报和数字趋势网分别发现,用户通过AI摘要获取的公司联系电话可能指向伪装者。具体流程为:1. 用户搜索企业联系方式;2. AI摘要抓取包含欺诈号码的网页信息;3. 用户误拨虚假电话后被套取支付或个人信息。此类诈骗号码通常通过多渠道铺垫植入网络数据层,利用AI信息整合特性实现隐蔽传播。

防护建议与技术应对

网络安全专家建议采取三重验证法:首先通过AI摘要获取信息后,二次检索企业官网确认联系方式;涉及支付等敏感操作时,务必通过官方渠道直接验证。谷歌在声明中表示已部署反垃圾算法升级,但承认生成式AI的特性决定了其需持续优化信息甄别机制。现阶段用户无法关闭该功能,可手动跳过或切换搜索引擎以规避风险。

编辑点评

AI信息整合技术的滥用揭示了数字时代的信任危机。谷歌等科技巨头正面临算法透明度的全球拷问,其技术迭代速度已落后于犯罪手段的进化。此次事件凸显生成式AI的固有缺陷——在提升信息获取效率的同时,也放大了网络虚假信息的危害性。国际社会需建立跨平台的AI数据溯源标准,特别是金融、医疗等敏感领域,技术中立性已无法替代人工审核的重要性。中国在AI治理方面的先行立法经验或将为全球提供参考框架,但跨国协作仍是解决技术安全问题的关键路径。

相关消息:https://www.wired.com/story/googles-ai-overviews-can-scam-you-heres-how-to-stay-safe/