模型 API 预算怎么估算?从输入和输出用量算起

用请求量、平均输入和输出 Token 估算文本模型月用量,并把结果与平台账单中对应的计费项目核对。

先记录一个典型请求

把系统说明、用户问题、对话历史和检索资料一起计入输入。输出按实际生成的答案估算。可从业务允许记录的用量统计取样,无需为估算保留客户原文。

试算一个月的用量

假设每天 200 次请求,每次平均输入 1,500 Token、输出 400 Token,按 30 天计算,每月约需 900 万输入 Token 和 240 万输出 Token。若单价按每百万 Token 列示,文本费用约为 9 × 输入单价 + 2.4 × 输出单价。这里的用量用于示范计算。

区分不同计费项

工具、图像、音频、缓存读取和额外的模型调用可能按不同规则计价。同一个客户问题如果触发两次模型调用,应该记录两次。以实际账户的分组和计费规则为准。

上线后用账单校正

按项目或令牌对比实际请求数与用量分布。如果长对话使输入持续增加,可先检查看哪些历史消息需要保留。调整前后使用同一批样例同时比较费用和回答质量。