如何对 Agent 接口限流,并按轻重模型和成本实施差异化限流?

暂无参考答案

未标记

本题目录

相关面经

1

阿里巴巴

AI 应用开发工程师
暑期实习二面
查看原面经 →
如果要控制成本,对不同的大模型,也需要做一个差异化限流(比如轻量模型和重量模型的切换等),你有怎么样考虑思路

相关题目

4