性能、时延与成本

10 个专题 · 567 道题

2896

如何核算硬件、算力和人工等完整方案成本？

AI 应用工程与治理性能、时延与成本

效果评估

进阶

2969

100 人同时请求打满模型 API 限速时如何处理？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

3084

原 Agent 项目 Token 用量统计有哪些问题，子 Agent 和工具统计为何缺失？

AI 应用工程与治理性能、时延与成本

项目深挖

进阶

3085

用户断连或主 Agent 提前关闭、子 Agent 延迟退出时，如何补偿 Token 统计？

AI 应用工程与治理性能、时延与成本

方案设计

深入

3102

超长录播视频除了关键帧筛选，还能如何分层优化 Token，权衡精度、性能和成本？

AI 应用工程与治理性能、时延与成本

方案设计

深入

3116

剪辑系统从百级扩到千级并发，服务、存储、队列和模型如何扩容？

AI 应用工程与治理性能、时延与成本

系统设计

深入

3119

模型调用如何缓存，缓存键和失效策略怎样设计？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

3156

Cron 任务整点集中拉取导致过载时怎么办？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

3352

Agent 推理链路中有多个串行工具时，如何优化响应延迟？

AI 应用工程与治理性能、时延与成本

方案设计

进阶

3358

日常 AI 编程的 Token 消耗量是多少？

AI 应用工程与治理性能、时延与成本

经历介绍

—