温度是什么：随机性与创造力的开关

一、温度是什么：随机性与创造力的开关

在调用大语言模型（LLM）API时，温度是一个至关重要的采样参数，你可以把它理解为控制模型输出“创意”或“随机”程度的旋钮。它的值域通常在0到2之间（尽管OpenAI等平台会将其上限设为2，其他模型可能不同）。

想象一下模型预测下一个词时，它会给所有可能的词都计算一个概率。温度这个参数会通过一个数学公式来“锐化”或“平滑”这些概率分布。低温（如0.2）会让概率分布更尖锐，模型会非常自信地选择它认为最可能的那个词，输出因此变得确定、保守且可预测。高温（如1.0或更高）则会平滑概率分布，让那些原本概率较小的词也有机会被选中，从而增加输出的多样性和创造性，但也可能带来更多的随机性和潜在的不合逻辑的词。

二、不仅仅是温度：采样参数“全家桶”

要精准控制模型输出，光靠温度是不够的，我们通常需要组合使用一组采样参数。它们共同作用，从模型原始的概率分布中“挑选”出最终的下一个词。

0：这是一个最简单的“候选池”大小控制。比如设置 top_k=50，模型就只从概率最高的前50个词中进行选择。这能有效过滤掉那些极其不可能、不相关的词。
0 (nucleus sampling)：这是比 top_k 更智能的筛选方法。它会按概率从高到低累加词的概率，当累加概率首次达到或超过 p 值（例如0.9）时，就停止累加，剩下的词全部被丢弃。top_p 能动态地适应不同情况下的概率分布，通常比固定的 top_k 效果更好。
0：用于惩罚重复出现的词或短语，鼓励模型生成更多样化的内容，是解决“车轱辘话”问题的利器。

重要的一点是，这些参数需要协同调整。 高温配合较大的 top_k 或 top_p 值，会带来最大的随机性；而低温则通常意味着你可以关小 top_k 或 top_p 的“阀门”，因为模型的选择已经非常集中了。

三、调参实战：不同场景下的参数组合策略

理解了参数的含义，接下来就是如何根据具体任务来调优。没有一套万能的参数，但有一些经验法则可以分享。

追求事实与精确（如知识问答、代码生成、摘要）：优先使用 低温（0.1 ~ 0.4） 和 低 0（如0.1~0.3）。这能最大程度地保证模型沿着它认为最“正确”的路径生成，减少跑偏和胡言乱语的风险。
需要创意与多样性（如故事创作、营销文案、头脑风暴）：调高 温度（0.7 ~ 1.0） 并配合 适中的 0（0.7 ~ 0.9）。这给了模型一定的“放飞自我”的空间，同时 top_p 又确保了它的输出不至于完全离谱。
平衡质量与创造性（通用对话）：这是一个常见的中间地带。温度设置在0.5~0.7，0 在0.5~0.8 是一个不错的起点。它能在保证连贯性和逻辑性的基础上，增添一些有趣的表达。

提示：top_p 和 top_k 通常二选一进行设置，不建议同时设置极端值。OpenAI官方推荐使用 top_p。在小米MiMo API中，请查阅其具体文档，看它支持哪些参数及其推荐用法。

四、代码示例：观察温度的影响

让我们通过一个简单的代码示例，直观感受温度带来的变化。假设我们有一个函数用于调用API并返回结果。

import openai # 假设使用兼容OpenAI的接口，如MiMo

def generate_text(prompt, temperature=0.7, top_p=0.9):
    response = openai.ChatCompletion.create(
        model="mimo-chat", # 使用MiMo模型
        messages=[{"role": "user", "content": prompt}],
        temperature=temperature,
        top_p=top_p,
        max_tokens=200
    )
    return response.choices[0].message.content

# 实验不同温度
prompt = "写一个关于人工智能的短故事开头。"

print("低温(0.2)输出：")
print(generate_text(prompt, temperature=0.2))
# 可能输出一个结构严谨、但略显平淡的开头。

print("\n高温(1.2)输出：")
print(generate_text(prompt, temperature=1.2))
# 可能输出一个更具想象力、但可能有些跳跃或奇怪的开头。

五、参数调优的实践步骤与心法

参数调优不应是盲目试错，而应是一个有意识的过程。这里分享一个实用的步骤：

从保守开始：首先使用官方推荐的默认值，或一个较低的值（如 temperature=0.3, top_p=0.5），查看基线输出。
单一变量测试：每次只调整一个参数（比如只调温度），观察输出变化，感受它的影响。记录下参数值和输出质量。
结合评估指标：你的“感觉”很重要，但对于关键应用，建立一些简单的评估规则（如是否包含特定关键词、逻辑是否连贯、格式是否正确）会更有帮助。
利用好 0：避免因为生成长度不足而误判质量。确保给模型足够的输出空间。

核心心法：温度影响“用词的大胆程度”，0 影响“考虑的范围”。理解这一点，你就能像厨师调味一样，有的放矢地调配你的模型。

六、总结：构建你自己的参数配方

MiMo API的采样参数是你与大模型对话时的重要“调节器”。温度、0、1 等参数共同塑造了模型输出的风格和质量。理解它们的原理和相互作用，能让你从被动的API调用者，转变为主动的AI交互设计师。

最终，最佳的参数组合永远来自你自己的实践。建议为你的不同应用场景（如代码助手、创意写作、客服问答）保存几套常用的“参数配方”，并随着模型迭代和使用反馈持续优化。调参的过程，本身就是加深对大模型理解的过程。