大模型工程面试题
什么是大语言模型？和传统 NLP 模型有什么区别？
原题讲讲 Transformer 架构基本原理？Encoder 和 Decoder 是什么？
原题多头注意力（MHA）有哪些局限？MQA、GQA、Flash Attention 怎么解决？
原题大模型的位置编码是干什么用的？sin/cos、RoPE、ALiBi 有什么区别？
原题什么是大模型项目的分词器？原理是什么？
原题大模型是怎么训练出来的？
原题什么是 Scaling Law？大模型的「涌现能力」是怎么回事？
原题大模型微调的方案有哪些？
原题请讲一下 LoRA 技术，除了减少参数量，它还有哪些优点？
原题SFT 之后还有哪些 Post-Training？RLHF、DPO、GRPO、拒绝采样什么关系？
原题大模型的 DPO 和 PPO 的区别是什么？
原题大模型生成文本时的解码策略有哪些？贪心、Beam Search、采样分别什么时候用？
原题大模型的参数：温度值、Top-P、Top-K 分别是什么？各个场景下的最佳设置是什么？
原题KV Cache 是什么？Prompt Caching 的原理是什么？
原题大模型量化是什么？INT8/INT4/AWQ/GPTQ 怎么选？
原题如何写好 Prompt？分享下 Prompt 工程实践经验？
原题什么是 CoT？为啥效果好？它有什么缺点或局限性？
原题大模型为什么会出现幻觉？怎么缓解？
原题MoE 混合专家模型是什么？DeepSeek V3、Qwen 为什么用 MoE？
原题大模型部署有哪些主流方案？vLLM、TGI、llama.cpp、SGLang 实际项目里怎么选？
原题大模型能力评测指标有哪些？
原题对比使用过哪些主流大模型？你们项目中最终选用了哪个模型？为什么？
原题为什么长上下文会出现 Lost in the Middle？上下文窗口越大越好吗？
原题
暂无题目