做AI产品的人，应该都有过这种经历：
月初看账单，API费用比服务器还高。然后开始怀疑是不是哪里写了个死循环。
这不是段子。我见过一个做AI客服的项目，上线第三个月API账单冲到8000美元。查了一圈，发现80%的token都浪费在处理无关消息上了。
先说一个结论：AI API费用是可以预测的，前提是你搞清楚自己的成本模型。
API定价的隐藏结构
大多数人对API成本的理解停留在”输入token × 单价 + 输出token × 单价”。这个公式没错，但它漏掉了几个关键变量。
输入和输出的成本差距
OpenAI的GPT-4o，输入$2.50/百万token，输出$10.00/百万token。差了4倍。
Claude 3.5 Sonnet，输入$3.00/百万token，输出$15.00/百万token。差了5倍。
Gemini 1.5 Pro，输入$1.25/百万token（低于128K），输出$5.00/百万token。差了4倍。
一个简单的判断方法：如果你的应用输出/输入比例大于1:5，成本结构就是输出主导型。
缓存——API厂商不想让你忽略的省钱点
OpenAI在2024年底推出了Prompt Caching。如果你的prompt有大量重复前缀，命中的部分打五折。
Claude也有类似机制，缓存命中后输入成本降到$0.30/百万token，只有正常价格的十分之一。
Gemini的上下文缓存更夸张，命中的话费用降幅约75%。
一个真实的成本模型
假设做一个AI聊天产品，月活用户5000，每个用户平均每天20轮对话。每轮对话：输入800 tokens，输出300 tokens。
月API总成本 = $15,000。做了缓存优化后，输入费用降到$3,600。省了40%。
真正被忽视的成本黑洞
1. 不必要的重试 — 区分可重试和不可重试错误
2. 过长的system prompt — 控制在500 tokens以内
3. 没用的流式输出 — 不需要实时展示就别用stream
4. 模型选型过度 — 混合路由策略能把成本降低40%-60%
具体怎么省
1. 按任务分级
2. 对话窗口裁剪
3. 结果缓存
4. 输入压缩
核心就三件事：看清你的成本结构、利用缓存、按需分级。
参考：OpenAI API Pricing、Anthropic Claude API Pricing、Cloudflare Workers AI Docs
