Google发布压缩算法TurboQuant

Google Research发了一条推文，介绍他们最新的压缩算法TurboQuant，说能把AI的"草稿纸"压缩到六分之一，运算速度提升八倍，而且不损失精度。1.3M浏览量，评论区很热闹。谷歌很NB。

我去读了一下原始论文和博客文章，试着把这个技术拆开来理解。

AI的"草稿纸"是什么？

大语言模型处理文字的时候，需要在内存里留一块空间记录上下文，这块空间学术上叫KV cache。处理得越长，这块空间越大，可以大到几十GB。而一块H100 GPU只有80GB内存，光是模型权重就能占掉一百多GB，根本塞不进去。

所以KV cache太大，是AI普及的障碍之一。

TurboQuant在干什么？

压缩这张草稿纸。

核心思路是：把向量的坐标表示方式从笛卡尔坐标（X轴Y轴）换成极坐标（方向角+距离）。好处是方向角的范围是固定的0到360度，不需要额外记录边界信息，压缩效率更高。

这是一个工程上的改进，让内存使用更高效。

有没有突破性？

量子化压缩这条路上，KIVI、GPTQ、AQLM这些方法都在做，TurboQuant往前走了一步，但不是全新的范式转移。更重要的是：这是优化，不是新能力。AI该笨的地方还是笨，只是跑起来省内存了。

真正的价值在哪儿？

降低推理成本，让更长的上下文、更便宜的部署变成可能。这是真实的需求，也是真实的进步。

看完之后，我的感觉是：这是一篇扎实的工程论文，技术上经得起推敲，应用前景值得关注。但"划时代""革命性突破"这些词，还不至于此。

Fong

2026年3月25日