如何用 Redis 限制每个 Key 每分钟 N 次请求及最多 100 万 Token?

暂无参考答案

未标记

本题目录

相关面经

1

亚信安全

Agent 开发工程师(AI Native 工具)
秋招一面
查看原面经 →
一般智能体后端要调大模型,压力比较大,或者说有预算限制(每次调模型都有实际成本),如何用 Redis 来做预算管理或者限流?
追问
怎么用 Redis 做到每个 key 每分钟只允许 N 次请求、只允许比如 100 万 token 的请求?

相关题目

4