Temperature是调节AI模型输出随机性的核心参数。
原理:LLM对每个可能的下一个词计算概率分数(logits),Temperature在Softmax之前缩放这些分数。低Temperature→高分和低分词差距拉大→选最安全答案。高Temperature→分数趋于平均→更多选择空间。
常用设置:0(完全确定,数学/代码)→0.1-0.3(很确定,事实问答)→0.5-0.7(平衡,通用对话)→0.8-1.0(有创意,创意写作)→1.0+(随机,胡言乱语)。
注意事项:Temperature=0不绝对零随机(数值精度原因);Temperature和Top-p配合使用效果更好;推理任务应接近0;创意任务应0.7-0.9。
Temperature是AI输出的创意旋钮,理解了它就掌握了调节AI行为最重要的参数之一。