做模型训练久了，likelihood 这个词几乎天天见。最大似然估计、对数似然损失、负对数似然、MLE、MAP、贝叶斯后验，表面上看都是公式，但真正想清楚“似然到底是什么”的人，其实不算多。
我自己也一度把它简单理解成“概率”。后来越想越觉得不对：似然和概率虽然常常长得很像，但它们回答的问题完全不同。
似然不是参数的概率，而是“参数像不像真的”
假设我们抛硬币 10 次，观察到 7 次正面。现在要估计正面概率 (p)。
很自然地会写出：
[ L(p) = \binom{10}{7} p^7 (1-p)^3 ]
这个表达式看起来像概率，事实上它确实来自二项分布的概率。但当我们已经把数据观测到了，也就是“10 次里 7 次正面”已经固定之后，这个式子的角色就变了。
它不再是在问：
如果参数是 (p)，未来数据会怎样？
而是在问：
既然数据已经长这样了，那么哪个参数值看起来最像真的？
这就是 likelihood，似然。
英文里，likely 本身就有“像的、可能的、似乎合理的”意思，后缀 -hood 表示一种状态或性质，所以 likelihood 字面上就是“像的程度”。中文翻译成“似然”，其实非常精准：似，就是像；然，就是如此。似然，就是“看起来像是这么回事”。
所以我现在更愿意把它理解成：
在给定当前观测数据后，不同参数值对这份数据的解释力。
它不是直接说“参数等于某个值的概率”，而是说“如果参数是这个值，那么当前数据出现得有多合理”。
似然是一个函数，而且主角是参数
很多人会问：似然到底是不是一个函数？
答案是肯定的。
给定数据 (x) 之后，似然通常被写成：
[ L(\theta \mid x) ]
这里的数据 (x) 已经固定，变量是参数 (\theta)。也就是说，似然是关于参数的函数。
同一个表达式，视角不同，意义就不同。
如果参数固定，看不同数据出现的可能性，那是概率：
[ P(x \mid \theta) ]
如果数据固定，看不同参数对数据的解释程度，那是似然：
[ L(\theta \mid x) ]
这也是为什么最大似然估计 MLE，Maximum Likelihood Estimation 会那么自然：既然数据已经出现了，那就找那个让这份数据看起来最“像真”的参数。
公式上就是：
[ \hat{\theta}{\text{MLE}} = \arg\max\theta L(\theta \mid x) ]
深度学习里常见的交叉熵损失、语言模型的 next-token prediction，本质上很多都可以看成某种负对数似然优化。只是工程里我们更习惯叫它 loss，反而忘了它背后其实站着 likelihood。
似然的值不一定是 0 到 1
另一个常见误解是：似然看起来像概率，所以值域应该是 0 到 1。
这个说法只对一部分情况成立。
如果模型是离散概率模型，比如抛硬币、分类分布，似然来自某个事件概率，那么它的值确实可能落在 0 到 1 之间。
但如果模型是连续密度模型，比如正态分布：
[ \mathcal{N}(x;\mu,\sigma^2) ]
这里的似然来自概率密度函数。概率密度本身是可以大于 1 的，尤其是在方差很小的时候，密度峰值可以非常高。
所以连续模型下的似然完全可能大于 1。
更进一步说，似然的绝对值往往也没那么重要，真正重要的是相对大小。我们关心的是：
[ L(\theta_1 \mid x) > L(\theta_2 \mid x) ]
这意味着在当前数据下，(\theta_1) 比 (\theta_2) 更能解释观测结果。
这也是为什么实践中大家喜欢用对数似然：
[ \ell(\theta) = \log L(\theta) ]
一方面连乘容易导致数值下溢，另一方面取对数之后，乘积变求和，优化更稳定。对数似然可以是负数，而且经常是负数，这一点在训练语言模型时尤其常见。
频率学派当然有似然，而且它是核心武器
有些人会误以为似然是贝叶斯学派的概念，频率学派不谈似然。这个误解挺深。
实际上，频率学派不仅有似然，而且非常依赖似然。
Ronald A. Fisher 是现代频率学派统计的重要奠基人之一，也正是他极大地推广了 likelihood 这个概念。Fisher 特别强调一点：likelihood 不是 probability。似然不是参数的概率，而是基于观测数据对不同参数值进行评价的工具。
频率学派里的很多经典方法都建立在似然之上，比如最大似然估计、似然比检验、Fisher 信息、参数估计的渐近理论等等。
只是频率学派对参数的理解和贝叶斯学派不同。
频率学派通常认为参数是固定未知常数。参数不是随机变量，所以不能说“参数等于某个值的概率”。因此频率学派看：
[ L(\theta \mid x) ]
不是说参数 (\theta) 的概率有多大，而是说：在当前数据下，(\theta) 这个值对数据的拟合程度有多高，或者说数据对 (\theta) 的支持程度有多强。
这个区别非常关键。
频率学派和贝叶斯学派的本质区别
如果把两派压缩成一句话，我会这么概括：
频率学派相信参数是固定的，数据是随机的；贝叶斯学派把参数也当成不确定的，用分布来表达这种不确定性。
频率学派关心的是长期重复实验下的行为。比如一个估计方法如果反复采样很多次，它是否无偏、是否一致、置信区间是否真的覆盖真值。它的客观性来自“可重复性”。
贝叶斯学派则更关心在已经观察到当前数据之后，我们应该如何更新对参数的信念。于是有贝叶斯公式：
[ P(\theta \mid x) \propto P(x \mid \theta)P(\theta) ]
也就是：
[ \text{后验} \propto \text{似然} \times \text{先验} ]
这里 prior 是先验，表示在看到数据之前我们对参数的看法；posterior 是后验，表示看到数据之后我们对参数的更新结果；likelihood 则负责把数据证据带入进来。
所以两派并不是一个有似然、一个没有似然，而是对似然的使用方式不同。
频率学派拿似然去估计参数、做检验、比较模型拟合程度；贝叶斯学派拿似然去更新参数的后验分布。
它们并不是水火不容
以前读统计史的时候，会感觉频率学派和贝叶斯学派像两个阵营。但做工程久了，我越来越觉得，真实世界里的问题并不关心理论门派，只关心什么方法更稳、更可解释、更容易落地。
这两派在很多场景下是可以相互转化，甚至彼此等价的。
最典型的是最大后验估计 MAP，Maximum A Posteriori。MAP 是贝叶斯框架里的常用估计方式：
[ \hat{\theta}{\text{MAP}} = \arg\max\theta P(\theta \mid x) ]
根据贝叶斯公式，它可以写成：
[ \hat{\theta}{\text{MAP}} = \arg\max\theta P(x \mid \theta)P(\theta) ]
如果先验 (P(\theta)) 是均匀分布，也就是我们认为所有参数值一开始差不多，那么先验项近似是常数，MAP 就退化成：
[ \arg\max_\theta P(x \mid \theta) ]
这不就是 MLE 吗？
也就是说，当贝叶斯学派使用一个非常“平淡”的先验时，MAP 和 MLE 会走到一起。
另一个更有名的结果是大样本下的收敛。统计学里有个 Bernstein-von Mises theorem，中文常译作伯恩斯坦-冯·米塞斯定理。它直观上说：当数据量足够大时，先验的影响会被数据淹没，贝叶斯后验分布会越来越集中在 MLE 附近，并且趋近于一个正态分布。
这意味着在大数据场景下，频率学派和贝叶斯学派的很多结论会越来越接近。
所以很多现代机器学习方法其实同时带有两派基因。比如 L2 正则化，从频率学派看是惩罚项，从贝叶斯角度看就是高斯先验；L1 正则化则常对应拉普拉斯先验。工程上我们叫 regularization，理论上它可以被解释成 prior。名字不同，但干的是类似的事。
哪个更客观真实？
这个问题我觉得没有绝对答案。
频率学派更强调客观性，因为它不要求你提供主观先验。它的结论建立在数据本身和长期频率性质上。对于 A/B 测试、临床试验、科学实验这类需要严谨控制错误率的场景，频率学派仍然非常强势。
贝叶斯学派更符合人类决策直觉，因为它允许你把已有知识放进来，然后随着新证据不断更新判断。尤其当数据很少、实验不可重复、或者你需要明确表达不确定性时，贝叶斯框架非常自然。
比如我们说“参数落在某区间的概率”，这种表达其实更符合日常直觉。频率学派的置信区间严格来说不能直接这么解释，而贝叶斯的可信区间反而更贴近这种说法。
但贝叶斯也有自己的麻烦：先验从哪来？如果先验太强，会不会把模型带偏？如果先验太弱，计算上又是否稳定？这些问题在工程里都很现实。
所以我现在的看法是：频率学派提供纪律，贝叶斯学派提供表达不确定性的语言。
放到 AI 和大模型里看更有意思
在大模型预训练里，我们表面上在做 next-token prediction，实际上大量优化目标都可以理解为某种最大似然。模型参数被海量数据推着走，先验几乎被数据淹没。这时候频率学派的 MLE 视角非常自然。
但到了对齐、校准、幻觉治理、不确定性估计这些阶段，纯 MLE 就不够了。模型不仅要知道“最可能输出什么”，还需要知道“自己有多确定”。这时贝叶斯思想就回来了：我们开始关心后验、分布、置信度、模型是否知道自己不知道。
这也是为什么我越来越不倾向于把频率学派和贝叶斯学派看成对立阵营。它们更像是两种不同的建模世界观：一个强调长期可重复的客观频率，一个强调基于证据不断更新的主观信念。
真正成熟的做法，不是站队，而是知道什么时候该用哪一套解释。
最后浓缩成几句
似然是给定数据后关于参数的函数，衡量的是参数值对当前数据的解释力，而不是参数本身的概率。
频率学派当然使用似然，MLE 就是其核心方法之一；只是它不把似然当成参数的概率。
贝叶斯学派把似然和先验结合起来，得到后验，用来表达对参数的更新信念。
两派并非水火不容。在小数据、强先验、不确定性建模上，贝叶斯更自然；在大数据、可重复实验、客观误差控制上，频率学派更有优势。
如果只让我用一句话总结，我会说：
似然不是答案本身，而是数据对参数的一次提问。