Token 经济学——为什么 API 调用这么贵

我做了 2 个 AI 项目，第一个月底账单超预算 3 倍。问题不是”模型贵”——是我不懂 Token 经济学。

先搞清楚 Token 是什么

1 个汉字 ≈ 1.5 个 Token

这是 GPT 系列的中文 Token 化规则。意思是:

一句话”今天天气不错”= 6 字 = 约 9 Token
一篇 1000 字的文章 = 约 1500 Token

GPT-4o 当前定价(2026 年 7 月):

输入:$2.50 / 1M Token
输出:$10.00 / 1M Token

换算中文:

输入 1000 字 ≈ $0.00375
输出 1000 字 ≈ $0.015

1 张图片 = 1000+ Token

GPT-4o 处理一张图片,按图片尺寸算 Token:

低分辨率:85 Token
高分辨率:170 Token(每 512×512 块)

所以 OCR 一份扫描件,比让模型读文字贵几十倍。

为什么”输入便宜,输出贵”

这是几乎所有 LLM API 的定价规律——输出比输入贵 3-5 倍。

原因是:

输入:模型只需要”读”
输出:模型需要”逐字生成”

GPU 计算成本上,生成比读取贵得多。

省钱的核心原则:压输入,挤输出。

我踩过的 3 个坑

坑 1:Prompt 越写越长

我第一个项目,Prompt 写了 2000 字(系统提示词 + 业务规则 + 输出格式)。

每次调用:输入 2000 字 + 输出 500 字 = $0.025。

看似不贵,但一天调用 1 万次 = $250/天 = $7500/月。

优化:Prompt 精简到 800 字,效果几乎不变,成本降 60%。

坑 2:多轮对话不清理上下文

Agent 多轮对话时,每次调用都把历史塞进去。

调用 10 轮后:输入 Token = 10000+,每次都按这个算钱。

优化:用对话摘要压缩历史,只保留关键信息。

坑 3:输出没限制

我写 Prompt 时没说”输出不超过 200 字”,模型会”贴心”地输出 500-800 字。

优化:

Prompt 明确说”输出 3 段,每段 50 字以内”
用 max_tokens 参数硬限制
输出后做 length check,超长的截断

Token 计算的几个实战技巧

1. 用 tiktoken 提前算

OpenAI 的 tiktoken 库可以精确算 Token 数:

import tiktoken
enc = tiktoken.encoding_for_model("gpt-4o")
text = "今天天气不错"
print(len(enc.encode(text)))  # 输出 6

每次调用前算一下成本——别等月底账单来吓自己。

2. 用 Prompt Caching 降本

GPT-4o、Claude、Gemini 都支持 Prompt Caching——相同前缀的输入,第二次起按 10% 价格算。

如果你有大量相同系统提示词的场景——一定要开 Caching。

实际效果:系统提示词 1000 Token,调用 1 万次

不开缓存:$0.025 × 10000 = $250
开缓存:$25(首次) + $22.5(后续 9%) = $47.5

省 80%。

3. 选小模型处理简单任务

不是所有任务都需要 GPT-4o。

任务分级建议:

任务	推荐模型	单价/M Token
简单分类、提取	GPT-4o-mini / Claude Haiku	$0.15 / $1
通用生成	GPT-4o / Claude Sonnet	$2.5 / $3
复杂推理	o1 / Claude Opus	$15+

一个项目里混用模型——简单任务用便宜的,复杂任务用贵的。

4. 用 Batch API 降 50%

OpenAI、Anthropic 都提供 Batch API——批量异步处理,价格降 50%。

代价:延迟从秒级变成小时级——但成本敏感场景非常划算。

我的 AI 项目成本表

我第二个 AI 项目,做完 Token 优化后:

模块	优化前月成本	优化后月成本	节省
Prompt 精简	$3000	$1200	60%
Caching	$2000	$400	80%
小模型分流	$1500	$300	80%
Batch API	$800	$400	50%
总计	$7300	$2300	68%

68% 的成本优化——靠的不是”砍需求”,而是”懂 Token 经济学”。

写在最后

AI 项目的成本,不是”模型决定的”——是”用法决定的”。

同样的任务,有人做 $200/月,有人做 $5000/月——区别不在模型,在细节。

省钱的能力,也是 AI 工程师的核心能力。