一、什么是 Token？你的“输入输出”单位

在接触大模型 API 时，你最先遇到的计价单位几乎必然是 Token。它并非一个完整的单词，也不是一个字符，而是模型用来理解和生成文本的基本片段单位。

简单来说，你可以把 Token 想象成模型的“思维词汇”。英文中，一个常见的单词（如 “hello”）通常是一个 Token，而较长的单词或不常见的词（如 “transformers”）可能会被拆分成两个或更多 Token（如 ['transform', 'ers']）。中文则更复杂，一个汉字可能是一个 Token，也可能根据上下文被拆分或与标点合并（如 “，” 和前面的字合并成一个 Token）。模型的处理流程是：接收一串 Token 序列 -> 进行推理 -> 输出一串新的 Token 序列。因此，你发送给模型的提示词（Prompt）和模型返回的回复（Completion）都是由 Token 构成的。

提示：不同的模型（如 GPT 系列、Claude、LLaMA）使用不同的分词器（Tokenizer），因此同一段文本在不同模型下计算出的 Token 数可能不同。

二、为什么按 Token 计费？成本的直接体现

大模型按 Token 计费，本质上是为了精确匹配其底层计算资源的消耗。模型的一次推理，可以近似看作一次大规模的矩阵运算。运算量的大小直接与输入输出序列的长度（Token 数）相关，因为序列越长，需要处理的数据和注意力计算的复杂度就越高。

从 API 提供商（如 OpenAI）的角度看，Token 数是衡量请求“重量”的最直接指标。一次消耗 1000 Token 的请求，其服务器计算成本远高于一次消耗 10 Token 的请求。因此，按 Token 计费是一种公平且可预测的收费模式，让用户为自己实际消耗的计算资源付费，而非为一次简单的“调用”支付固定高昂费用。它也激励开发者设计更精炼、高效的提示词。

三、Token 的“翻译”过程：代码实例

要精确控制成本，你需要知道如何计算自己请求的 Token 数。虽然 API 在返回结果时会明确告诉你消耗了多少 Token（在 usage 字段中），但提前估算也很重要。我们可以使用官方提供的 tiktoken 等库来计算。

以下是一个使用 OpenAI 的 tiktoken 库计算中文和英文文本 Token 数的 Python 示例：

import tiktoken

# 选择针对GPT-3.5/GPT-4的编码器
enc = tiktoken.encoding_for_model("gpt-3.5-turbo")

# 英文文本
text_en = "Hello, how are you doing today?"
tokens_en = enc.encode(text_en)
print(f"英文文本: '{text_en}'")
print(f"Token 数量: {len(tokens_en)}")  # 输出大约是 7-8
print(f"Token 列表: {tokens_en}")  # 输出数字ID列表

# 中文文本
text_cn = "大模型正在改变世界。"
tokens_cn = enc.encode(text_cn)
print(f"\n中文文本: '{text_cn}'")
print(f"Token 数量: {len(tokens_cn)}")  # 输出大约是 6-7
print(f"Token 列表: {tokens_cn}")

# 注意：标点符号和空格也会被编码为Token

运行这段代码，你会看到同样的内容，中文和英文的 Token 数不同，而且空格、标点都计入了 Token。这解释了为什么中文的“单价”（每千Token价格）通常比英文更高。

四、不同模型的“汇率”：定价策略剖析

了解了 Token 这个单位后，我们来看看“汇率”，即不同模型的定价。定价通常分为 输入（Prompt）Token 价格和输出（Completion）Token 价格，且输出价格通常高于输入价格（约为2-4倍）。

例如，对比 OpenAI 的模型（价格可能随时间变化）：

提示：选择模型时，不能只看单次 API 调用价格。对于简单任务，使用 gpt-3.5-turbo 可能只需消耗少量 Token 即可完成，综合成本远低于虽然单价高但可能需要更复杂提示词的 gpt-4。效率（单位任务所需Token数）比单价更重要。

五、Token 的“高速公路”：上下文窗口

与 Token 数紧密相关的另一个概念是 上下文窗口。它定义了模型单次对话能够“记住”和处理的最大 Token 总数，这个总数包括了你的输入提示和模型生成的回复。

例如，一个模型拥有 128K Token 的上下文窗口，意味着你当前对话的所有历史消息（你的提问和AI的回答）加起来不能超过 128K Token。一旦超过，最早的消息可能会被截断或导致 API 错误。这就像一条高速公路，上下文窗口是它的总长度（车道容量），而每次对话的 Token 数是正在行驶的车辆。车流总长不能超过路长。

在实际应用中，如果你在做一个多轮对话的应用（如客服机器人），你需要小心管理上下文，及时总结和清理历史消息，以避免超过窗口限制并控制累积的 Token 消耗成本。

六、优化成本的实用建议

理解原理后，如何在实际项目中优化成本？这里有一些关键策略：

  1. 精炼你的提示词：避免冗长、重复的指令。使用清晰、结构化的语言。一个好的 System Prompt 设定可以大幅减少后续交互中需要的解释性文字。
  2. 控制生成长度：使用 max_tokens 参数明确限制模型回复的最大长度，防止它产生不必要的冗长内容。
  3. 合理利用缓存：对于完全相同的请求（尤其是长上下文的），一些提供商（如 OpenAI）会提供自动的提示缓存，第二次请求的输入价格会大幅下降。
  4. 选择合适的模型：对于分类、提取、格式化等“理解型”任务，优先尝试 gpt-3.5-turbo 或更小的专用模型，只在需要复杂推理时调用 gpt-4。

最终，Token 与计费原理的核心是：将智能服务的消耗，转化为一个可量化、可优化的技术指标。掌握它，你就能在利用大模型强大能力的同时，做一个精明的“成本管家”。