本质新闻

谷歌研究团队于2026年3月25日发布新型AI内存压缩算法TurboQuant，该技术通过向量量化方法压缩AI推理过程中的KV缓存，可将运行时工作内存减少至少6倍，同时保持模型性能不变。该技术计划于下月在ICLR 2026会议上发布，包含PolarQuant量化方法和QJL训练优化技术。尽管尚未广泛部署，但其效率提升引发科技界关注，被部分人比喻为谷歌的‘DeepSeek时刻’，也因与HBO剧集《硅谷》中虚构公司‘Pied Piper’的压缩技术相似而引发网络热议。

谷歌研究团队近日发布TurboQuant AI压缩算法，可将大型语言模型（LLM）的内存占用减少6倍，同时提升运行速度达8倍，且保持模型准确率不变。该算法主要优化关键值缓存（key-value cache）的存储效率，通过PolarQuant系统将高维向量转换为极坐标表示，仅保留半径和方向两个参数，从而实现高效压缩。该技术有望降低大模型部署成本，推动AI在边缘设备和资源受限环境的应用。