如何发现、定位并处理大模型 API 调用失败?

暂无参考答案

未标记

本题目录

相关面经

2

拼多多

Agent 应用开发工程师
秋招一面
查看原面经 →
为什么模型调用会不成功,你是怎么知道不成功的
追问
详细讲讲怎么定位解决这个问题
追问
llm的api除了限流,你还有没有遇到别的问题

网易

大模型应用开发工程师(RAG 方向)
查看原面经 →
接入DeepSeek API的超时控制和异常捕获,针对限流和宕机如何设计降级方案?

相关题目

4