[!info] related notes

• 所属 MOC: logic-moc
• 前置概念:
• 并列概念:
• 易混淆概念:
• 关系笔记:

贝叶斯更新

一句话定义

贝叶斯更新（Bayesian updating）是：先有一个关于假设 H 的初始可信度，再根据新证据 E 在 H 成立和不成立时分别有多容易出现，更新对 H 的可信度。

它回答：

我在看到证据 E 之后，应该把对 H 的相信程度改多少？

贝叶斯公式

P(H|E) = P(E|H) P(H) / P(E)

其中：

• P(H)：先验概率 prior；
• P(E|H)：似然 likelihood；
• P(E)：证据的总体概率；
• P(H|E)：后验概率 posterior。

最重要的直觉

先验
×
证据对 H 的区分力
↓
后验

所以一个“看起来非常像 H”的证据，如果 H 本身极罕见，最终后验仍可能没有直觉想象得那么高。

医学检测例子

假设：

患病率 P(D) = 1%
灵敏度 P(+|D) = 90%
假阳性率 P(+|¬D) = 5%

用 10,000 人理解：

100 人患病
→ 90 人阳性

9900 人未患病
→ 495 人阳性

总阳性约：

90 + 495 = 585

其中真正患病：

90 / 585 ≈ 15.4%

所以：

P(+|D)=90%

绝不等于：

P(D|+)=90%

似然比：证据到底把你往哪个方向推

对二元假设，可以关注：

Likelihood Ratio = P(E|H) / P(E|¬H)

如果：

LR > 1

E 更支持 H。

如果：

LR < 1

E 更支持 ¬H。

如果接近 1，说明 E 在两边都差不多常见，区分力很弱。

一个很有用的观念

证据不是因为“和 H 一致”就有力。

如果：

P(E|H) = 0.9
P(E|¬H) = 0.85

E 虽然在 H 成立时很常见，但在 H 不成立时也几乎同样常见，所以并没有多大诊断价值。

Debug 场景

候选根因：

H1：数据库连接池耗尽
H2：上游供应商超时
H3：代码死锁

历史基础率：

H1 20%
H2 60%
H3 20%

新证据：

同一故障窗口内 active DB connections 长时间贴着上限。

你应该问：

这个现象在 H1 下多常见？
在 H2/H3 下又多常见？

如果它对 H1 很特异，就应显著提高 H1 的后验概率。

这比：

“看起来很像数据库问题。”

更精确。

贝叶斯推理不是要求每次都有精确数字

现实中经常不知道：

P(E|H) = 0.73

但贝叶斯框架仍然有用，因为可以进行定性更新：

强烈支持 H
中等支持 H
基本无区分力
中等反对 H
强烈反对 H

重点是保持结构：

基础率 + 新证据的区分力

而不是每次都假装有精确统计数据。

多个证据如何更新

如果先观察 E1，再观察 E2，可以依次：

Prior
→ P(H|E1)
→ 把它作为新 prior
→ P(H|E1,E2)

但要小心 E1、E2 是否独立。

例如：

三篇新闻都报道同一匿名消息。

不能简单当成三条独立证据连续乘三次，因为它们可能来自同一个原始来源。

先验不是“主观瞎猜”

先验可以来自：

• 历史频率；
• 领域统计；
• 以前相似案例；
• 机制知识；
• 明确的模型假设。

在信息不足时，先验也可能比较宽或不确定。

关键不是“永远找到唯一正确先验”，而是：

不要假装在看到新证据之前，所有假设天然等概率。

与基础率忽视的关系

基础率忽视就是在判断：

P(H|E)

时，把 E 的鲜明程度看得很重，却几乎忘掉 P(H)。

贝叶斯公式把基础率直接写进结构里，因此是纠正这一偏差的数学工具。

与肯定后件的关系

演绎上：

H → E
E
∴ H

是无效的肯定后件。

但概率上可以合理问：

E 出现后，H 是否比以前更可能？

如果 E 在 H 下远比非 H 下常见，答案可以是“是”。

所以：

演绎逻辑禁止你从结果必然倒推出原因；贝叶斯推理允许你根据结果调整不同原因的概率。

这两者并不矛盾。

与可证伪性的关系

可证伪性强调理论应产生可能失败的预测。

贝叶斯视角进一步说：

不是所有“失败”都必须让理论概率立刻变成 0；证据应根据测量误差、替代解释和似然逐步更新可信度。

这更接近很多现实科学实践。

什么时候新证据几乎不该改变判断

如果证据在各种假设下都很常见：

P(E|H1) ≈ P(E|H2)

那么 E 只是在制造“有新信息的感觉”，却没有真正区分假设。

例如：

“出故障时 CPU 有波动。”

几乎所有类型的系统事故都可能伴随 CPU 波动，所以这个证据可能很弱。

决策不等于后验概率

知道：

P(H|E)=5%

还不能直接告诉你“要不要行动”。

如果 H 是一个后果极严重的安全风险，5% 也可能足以触发措施。

决策还需要：

概率
×
损失 / 收益
×
行动成本

因此概率判断和决策规则应分开。

一个简单更新模板

Hypothesis：H
Prior：原本多常见？
Evidence：E
P(E|H)：如果 H 真，E 多容易出现？
P(E|¬H)：如果 H 假，E 多容易出现？
Direction：这条证据支持还是反对 H？
Posterior：更新后应提高 / 降低多少信心？
Next evidence：什么证据最能继续区分？

一句记忆

证据不是从零开始说话：它总是在一个原本就有概率结构的世界里，把你的信念往前推或往后拉。