安全、权限与人工介入

10 个专题 · 567 道题

0949

下单幂等 key 如何生成，为什么不让大模型生成？

AI 应用工程与治理安全、权限与人工介入

方案设计

进阶

1080

设计 AI 判定违规评论并删除的功能，如何定义输入输出、人工介入、边缘情况和兜底？

AI 应用工程与治理安全、权限与人工介入

系统设计

深入

1375

提示词注入根因是什么，防御有哪些局限？

AI 应用工程与治理安全、权限与人工介入

原理机制

进阶

1376

框架新增特殊标签后如何继续防御提示词注入？

AI 应用工程与治理安全、权限与人工介入

方案设计

进阶

1634

Coding Agent 的沙箱机制如何工作？

AI 应用工程与治理安全、权限与人工介入

原理机制

进阶

1652

兼容性测试工作流何时需要人工介入，有什么规范？

AI 应用工程与治理安全、权限与人工介入

方案设计

进阶

1725

如何为云端 Agent 的输出设计安全校验方案？

AI 应用工程与治理安全、权限与人工介入

方案设计

进阶

1801

使用 Skill 时如何防止向用户泄露业务数据和核心脚本？

AI 应用工程与治理安全、权限与人工介入

方案设计

深入

1812

发送邮件等写操作经用户确认后，如何保证执行内容和对象与确认时完全一致？

AI 应用工程与治理安全、权限与人工介入

方案设计

深入

1813

用户确认写操作后，是否应该再次调用大模型，为什么？

AI 应用工程与治理安全、权限与人工介入

比较选型

进阶