Decoder-only 的 KV Cache 为什么缓存 K、V 而通常不缓存 Q？

知识专题：推理优化与模型压缩题目类型：原理机制技术难度：进阶相关面经：1 篇收录题集：1 份

暂无参考答案

未标记

本题目录

相关面经

1 篇

百度

大模型算法工程师

2026-07-16一面

查看原面经 →

为什么 Decoder-only 模型的 KV Cache 缓存 K 和 V，而通常不缓存 Q？

收录题集

1 份

八股集锦（高频问题）

小熊饼干_ · 个人整理 · 收录 1 道

查看题集 →

为什么有K和V Cache，没有Q Cache