← 返回全部题目← 上一题2 / 11下一题 →题库/模型训练与对齐/Q-0275如何从 KL 约束的强化学习目标推导 DPO 目标?知识专题:偏好对齐题目类型:原理机制技术难度:深入相关面经:1 篇暂无参考答案未标记未标记待复习已掌握收藏本题目录相关面经相关题目相关面经1 篇百度大模型算法工程师2026-07-16一面查看原面经 →DPO 的目标函数是如何从 KL 约束的强化学习目标推导出来的?相关题目4 题0273SFT 与偏好数据如何构建,如何控制数据污染和分布偏移?同一知识专题题目类型:方案设计技术难度:进阶相关面经:1 篇0604DPO 中好坏样例生成概率都下降的问题如何理解?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇0605DPOP 的全称是什么?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇0737DPO 是否需要额外加入 KL 约束?同一知识专题题目类型:原理机制技术难度:进阶相关面经:1 篇← 上一题已到最后一题← 上一题SFT 与偏好数据如何构建,如何控制数据污染和分布偏移?下一题 →DPO 中好坏样例生成概率都下降的问题如何理解?