大语言模型为什么每次输出不一样？温度和top-k是什么鬼？

使用大语言模型时，你可能会发现同一个问题每次得到的答案都不一样。这背后的关键参数是temperature（温度）和top-k/top-p采样。Temperature控制输出的随机性——温度越高，输出越多样但有风险；温度越低，输出越确定但可能缺乏创意。Top-k和top-p则控制AI在生成下一个词时考虑的范围。本视频用通俗语言解释这些核心概念，帮你更好地控制和调教AI的输出风格。