大模型应用算法工程师一面、二面面经
完整信息
本篇目录
一面(偏基础和简历深挖):
1. LoRA 原理、常见超参、一般加在 Transformer 哪些模块
2. Self-Attention 公式,Q/K/V 分别是什么。
3. PPO/RLHF 里 Actor、Critic、Reward Model、Reference Model 分别做什么,为什么要 KL 约束
4. 有没有做过分布式训练,常见模型并行方式有哪些,ZeRO-1/2/3 区别。
5. RAG 原理,项目里有哪些相关经验,向量数据库、相似度计算、chunk 切片策略。
6. Git \AI Coding\ python 基础
7. 基础手撕
反问:
岗位实际业务:偏大模型应用落地、RAG、Agent 框架和知识问答产品
是否支持论文/专利:业务为主,但鼓励研究产出
算力:资源充足,但当前更多是agent和应用开发
二面(偏多 Agent、多模态和开放系统设计,面试官主要是针对我简历的实习工作进行开放的系统架构设计):
固定的“感知-推理-校验”流程和动态多 Agent 最大区别是什么。
如果拆成感知\推理\校验 Agent,哪些能并行,哪些要顺序,什么时候需要反向通信。
校验 Agent 和推理 Agent 结论冲突时怎么处理
多模型如何动态路由,比如不同模型适合不同视频场景时,怎么根据视频特征、任务特征、成本、延迟和效果选模型
所有模型超时或故障时怎么兜底,什么时候规则引擎,什么时候人工,服务恢复后怎么回切
能不能让系统自动发现问题、尝试策略、验证效果,并自动生效和回滚
开放设计题:设计智能家庭安防管家,识别入侵、火灾、老人跌倒、宠物破坏等事件,并路由到报警、通知、开灯、联系家属等流程。还要考虑视频、声音、传感器时效不同下的渐进式响应,以及用户用自然语言配置规则,比如外卖员放门口不报警
工作是否一定要涉及后训练,能不能接受 Agent 工程、Prompt、RAG、Workflow、评估体系。
反问:
团队是否和多模态多 Agent 有关:主要做多 Agent 协作、多模态问答和办公场景应用。
办公场景有哪些:PPT 生成、文档撰写、论文写作/审核、财务报表处理等
用闭源还是开源模型:前期用闭源做 PoC/MVP,后续可能做开源、垂类后训和性能优化
本篇目录
- 01
LoRA 原理、常见超参、一般加在 Transformer 哪些模块
- 02
Self-Attention 公式,Q/K/V 分别是什么。
- 03
PPO/RLHF 里 Actor、Critic、Reward Model、Reference Model 分别做什么,为什么要 KL 约束
- 04
有没有做过分布式训练,常见模型并行方式有哪些,ZeRO-1/2/3 区别。
- 05
RAG 原理,项目里有哪些相关经验,向量数据库、相似度计算、chunk 切片策略。
- 06
岗位实际业务:偏大模型应用落地、RAG、Agent 框架和知识问答产品
- 07
是否支持论文/专利:业务为主,但鼓励研究产出
- 08
算力:资源充足,但当前更多是agent和应用开发
- 09
固定的“感知-推理-校验”流程和动态多 Agent 最大区别是什么。
- 10
如果拆成感知\推理\校验 Agent,哪些能并行,哪些要顺序,什么时候需要反向通信。
- 11
校验 Agent 和推理 Agent 结论冲突时怎么处理
- 12
多模型如何动态路由,比如不同模型适合不同视频场景时,怎么根据视频特征、任务特征、成本、延迟和效果选模型
- 13
所有模型超时或故障时怎么兜底,什么时候规则引擎,什么时候人工,服务恢复后怎么回切
- 14
能不能让系统自动发现问题、尝试策略、验证效果,并自动生效和回滚
- 15
开放设计题:设计智能家庭安防管家,识别入侵、火灾、老人跌倒、宠物破坏等事件,并路由到报警、通知、开灯、联系家属等流程。还要考虑视频、声音、传感器时效不同下的渐进式响应,以及用户用自然语言配置规则,比如外卖员放门口不报警
- 16
工作是否一定要涉及后训练,能不能接受 Agent 工程、Prompt、RAG、Workflow、评估体系。
- 17
团队是否和多模态多 Agent 有关:主要做多 Agent 协作、多模态问答和办公场景应用。
- 18
办公场景有哪些:PPT 生成、文档撰写、论文写作/审核、财务报表处理等
- 19
用闭源还是开源模型:前期用闭源做 PoC/MVP,后续可能做开源、垂类后训和性能优化
- 20
有没有做过分布式训练,常见模型并行方式有哪些,ZeRO-1/2/3 区别。
