模型基础与推理

8 个专题 · 179 道题

已筛选

179 道题

排序:

3705
MoE 模型有哪些优势和局限?
模型基础与推理模型架构与表示
比较选型
进阶
3706
为什么越来越多的大模型采用 MoE 架构?
模型基础与推理模型架构与表示
技术决策
进阶
3711
大模型推理解码中的 Prefill 和 Decode 阶段分别做什么?
模型基础与推理推理与解码
原理机制
进阶
3712
大模型推理为什么需要 Prefill 阶段?
模型基础与推理推理与解码
原理机制
基础
3713
KV Cache 为什么容易造成显存利用率低?
模型基础与推理推理优化与模型压缩
故障排查
进阶
3714
DeepSeek 模型系列的架构与训练路线如何演进?
模型基础与推理模型架构与表示
原理机制
进阶
3715
DeepSeek 的 MTP 机制如何实现?
模型基础与推理模型架构与表示
原理机制
进阶
3753
LLM 的输入本质是什么?模型如何处理上下文?
模型基础与推理模型架构与表示
原理机制
进阶
3754
为什么 Attention 能建模长距离依赖?
模型基础与推理Transformer 与注意力
原理机制
进阶