模型基础与推理

8 个专题 · 179 道题

1973

能否在关键推理步骤用更强模型，为什么实验不直接选择最强基座模型？

模型基础与推理模型选型与能力边界

比较选型

进阶

2143

多模态 Agent 中视觉编码器的信息如何与语言模型连接和融合？

模型基础与推理多模态与生成模型

原理机制

进阶

2153

大模型如何逐步生成 Token？

模型基础与推理推理优化与模型压缩

原理机制

进阶

2154

大模型本身是否具备记忆能力？

模型基础与推理模型选型与能力边界

概念解释

基础

2279

为什么 Temperature 为 0 时模型输出仍可能有差异？

模型基础与推理推理与解码

原理机制

进阶

2356

如何实现关键帧场景检测？

模型基础与推理多模态与生成模型

项目深挖

进阶

2375

最喜欢使用哪个大模型？

模型基础与推理模型选型与能力边界

经历介绍

—

2465

Lost in the Middle 现象是什么原理？

模型基础与推理推理优化与模型压缩

原理机制

进阶

1 篇面经 1 份题集

2467

交叉注意力如何工作？

模型基础与推理Transformer 与注意力

原理机制

进阶

2775

如何用 KV Cache 和稀疏注意力节省计算与存储？

模型基础与推理推理优化与模型压缩

比较选型

进阶