词元与计费 / TOKEN WIKI
输出 Token
一句话理解
输出 Token 是模型生成的结果用量。不同服务还可能把推理过程中产生的特定用量单独列出。
为什么与业务相关？
输出单价和生成长度会显著影响任务成本，长回答并不总能带来更高业务价值。
应用时如何判断？
设定合理的输出长度上限，记录完整任务的成功率，并核对供应商对推理用量的计量方式。
常见问题
限制输出长度能降低成本吗？
可以限制生成用量上限，但还需兼顾答案完整性和重试成本。
输出 Token 是模型生成的结果用量。不同服务还可能把推理过程中产生的特定用量单独列出。
输出单价和生成长度会显著影响任务成本，长回答并不总能带来更高业务价值。
设定合理的输出长度上限，记录完整任务的成功率，并核对供应商对推理用量的计量方式。
可以限制生成用量上限，但还需兼顾答案完整性和重试成本。
一起出海 ↗