GQA 的原理是什么，如何在效果、速度和显存之间折中？

知识专题：Transformer 与注意力题目类型：原理机制技术难度：进阶相关面经：1 篇收录题集：1 份

暂无参考答案

未标记

本题目录

相关面经

1 篇

阿里巴巴

大模型算法工程师

2026-07-17

查看原面经 →

GQA、MLA原理

收录题集

1 份

大模型工程面试题

小林 Coding · 个人整理 · 收录 1 道

查看题集 →

多头注意力（MHA）有哪些局限？MQA、GQA、Flash Attention 怎么解决？