流式输出到一半预算归零,应继续输出还是截断?

暂无参考答案

未标记

本题目录

相关面经

1

亚信安全

Agent 开发工程师(AI Native 工具)
秋招一面
查看原面经 →
追问
模型的输入会算钱,输出也会算钱。那输出到一半了,结果预算到零了,这个时候你是选择继续让它输出完,还是直接截断掉?

相关题目

4