AI 应用工程与治理

10 个专题 · 567 道题

已筛选

567 道题

排序:

3787
Agent 输出涉及法律、医疗、金融等高风险领域时,如何设计免责和降级机制?
AI 应用工程与治理安全、权限与人工介入
原理机制
进阶
3788
如何记录 Agent 的决策链路以满足合规审计要求(可解释性)?
AI 应用工程与治理安全、权限与人工介入
方案设计
深入
3789
如何防止 Agent 被用于生成有害内容或被恶意用户滥用?
AI 应用工程与治理安全、权限与人工介入
方案设计
进阶
3790
Braintrust / LangSmith / Weave / PromptFoo 这类 eval 平台解决了什么核心问题?选型时如何权衡?
AI 应用工程与治理评测体系与实验设计
比较选型
进阶
3791
Eval dataset 的构建策略有哪些?如何从生产流量中自动挖掘高价值测试用例?
AI 应用工程与治理评测体系与实验设计
方案设计
进阶
3792
如何设计 regression test suite,确保每次 Prompt 修改或模型升级不引入退化?
AI 应用工程与治理评测体系与实验设计
方案设计
进阶
3793
Benchmark 过拟合问题(Benchmark contamination / Goodhart's Law)在 Agent eval 中如何规避?
AI 应用工程与治理评测体系与实验设计
方案设计
深入