Reddit用户测试发现，经过量化感知训练（QAT）的Gemma 4 31B模型，在KV缓存量化至Q8_0时，输出与BF16基线几乎无差异，可将缓存内存减半且质量稳定。网友解释，QAT降低了权重幅值，使量化精度损失更小。