Agent 开发工程师一面面经
完整信息
本篇目录
发点面经攒攒人品~
1.实习拷打
2.项目拷打
3.RLHF中奖励模型(RM)的训练数据如何构建?
4.推理加速技术
5.模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)
6.如何优化大模型在长文本生成中的显存占用?
7.微调方法对比
8.设计一个ai爬取字节视频,如何设计?
9.Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案
10.如何解决大模型API服务的响应延迟问题?
本篇目录
- 01
RLHF中奖励模型(RM)的训练数据如何构建?
- 02
推理加速技术
- 03
模型剪枝/量化(GPTQ、AWQ)、服务化框架(FastAPI+vLLM)
- 04
如何优化大模型在长文本生成中的显存占用?
- 05
微调方法对比
- 06
设计一个ai爬取字节视频,如何设计?
- 07
Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案
- 08
如何解决大模型API服务的响应延迟问题?
