模型基础与推理

8 个专题 · 179 道题

已筛选

179 道题

排序:

3650
RoPE 是什么,解决什么问题?
模型基础与推理Tokenizer 与位置编码
原理机制
基础
3683
大语言模型与传统 NLP 模型有什么区别?
模型基础与推理模型架构与表示
比较选型面前必看
基础
3685
Tokenizer 的原理是什么,如何影响大模型训练与推理?
模型基础与推理Tokenizer 与位置编码
原理机制面前必看
进阶
3686
大模型常见解码策略有哪些,贪心、Beam Search 与采样如何选择?
模型基础与推理推理与解码
比较选型
进阶
3699
为什么主流大语言模型多采用 Decoder-only 架构?
模型基础与推理模型架构与表示
原理机制
进阶
3700
Decoder-only 模型在训练和推理阶段的输入形式有什么不同?
模型基础与推理推理与解码
原理机制
进阶
3701
Transformer 编码器与解码器中的注意力机制有什么区别?
模型基础与推理Transformer 与注意力
比较选型
基础
3702
Decoder 自注意力为什么需要因果掩码,具体如何实现?
模型基础与推理Transformer 与注意力
原理机制
进阶
3703
多头注意力为什么要降低每个 Head 的维度?
模型基础与推理Transformer 与注意力
原理机制
进阶
3704
交叉注意力与自注意力有什么区别?
模型基础与推理Transformer 与注意力
比较选型
基础