目录
这份笔记把「概率是什么」和「大脑/心智是不是贝叶斯机器」拉回地基做一次红队审计。核心发现:概率的数学骨架(Kolmogorov 公理)是解释中立的,但「概率」这个词在不同语境里至少承担五种不相容的本体论角色;Bayes 规则在数学上是条件概率的定理、在认识论上是信念更新规则、在决策上是期望效用引擎,但这三种身份不能互相替换;贝叶斯脑在感知-动作层面有扎实的「as if」证据,一旦进入神经实现和预测编码的精度概念,隐喻和混用就大量增加;先验问题、无免费午餐和计算复杂性为「贝叶斯解释一切」划了硬边界;而量子概率在事件结构和更新规则上与经典概率存在结构性断裂,不是经典贝叶斯主义的小修小补。结论是分层的:概率演算稳健,解释多元;贝叶斯模型作为计算水平描述强,作为机制解释弱;FEP/主动推断作为数学框架真、作为经验理论空;量子概率则提示:把贝叶斯主义当成世界底层语言会撞墙。
〇 母裁决
| 维度 | 裁决 | 硬度 |
|---|---|---|
| 概率演算(Kolmogorov 公理 + Bayes 规则) | ① 数学定理,解释中立 | 稳健 |
| 概率解释(频率/主观/逻辑/倾向/最佳系统) | ② 多元并存,无统一本体论 | 有争议 |
| 贝叶斯脑(感知-动作 as if) | ② 行为与模型拟合强,机制证据中等 | 有真有隐喻 |
| 预测编码/自由能原理(FEP)作为统一理论 | ③ 数学上普适,经验上近恒真 | 近恒真/空 |
| 量子概率 = 经典概率 + 更新规则 | ④ 事件结构与更新规则均不同 | 结构性断裂 |
母裁决三句:概率的数学是共享骨架,意义却各说各话;贝叶斯脑在「行为像」层面成立,在「神经真正计算后验」层面仍悬而未决;把贝叶斯主义外推到生命、意识、量子底层,每一步都在增加隐喻比例。
一、问题
我们在这条主线里反复调用「概率」「先验」「后验」「精度加权」「预测误差」「自由能最小化」「Bayes 最优」。但这些词的地基足够稳吗?
- 「概率」到底指长期频率、理性信念度、逻辑支持度,还是物理倾向?
- Bayes 规则是数学恒等式,还是科学推理的规范?
- 说「大脑做贝叶斯推断」是说神经活动真的在计算后验,还是行为/神经数据可以用贝叶斯模型拟合?
- 预测编码里的 precision(精度)到底是逆方差、突触增益、神经调质,还是注意力?
- 先验从哪里来?任意先验会不会让模型成为 just-so story?
- 频率主义与贝叶斯主义在科学哲学上谁更配得上「客观性」?
- 量子概率是不是另一种概率?量子贝叶斯主义(QBism)能解决测量问题吗?
这些问题不是咬文嚼字:它们决定我们把贝叶斯主义当成工具、隐喻,还是世界语法。
二、简短结论
- [文献较稳] 概率的形式理论由 Kolmogorov 公理化, Bayes 规则是其定理;这套演算本身对解释保持中立。
- [有争议] 概率解释没有赢家:频率主义、主观贝叶斯主义、逻辑/客观贝叶斯主义、倾向论各有适用域和硬伤,最佳系统解释试图调和,但未能终结争论。
- [有真有隐喻] 贝叶斯脑在感知整合、决策、运动控制等行为层面有大量「Bayes 最优/近最优」证据;神经层面有概率群码(probabilistic population codes)和预测编码等机制假设,但直接证明大脑按 Bayes 规则计算后验的证据仍然稀缺。
- [有争议] 预测编码/自由能原理把感知、行动、学习、生命统一在一个变分框架里,数学上漂亮,但经验内容随适用范围扩大而稀薄;最抽象的 FEP 接近不可证伪的组织原则,具体主动推断模型只有在给出生成模型、策略空间、精度参数和可测指标后才有经验内容。
- [文献较稳] 无免费午餐定理和计算复杂性结果为「通用贝叶斯学习者」划了硬边界:没有无偏见的通用归纳;任何成功都意味着对问题空间的先验承诺。
- [有争议] 量子概率不能被整体还原为经典概率:在单个固定测量语境中,结果概率仍可表现为普通概率分布;真正断裂发生在把多个不相容测量放入同一事件空间时,其事件结构是非布尔、非交换的投影格,投影测量下的更新是 Lüders 条件化,更一般测量还需 POVM/Kraus/量子操作框架。
- [我们的断言] 最稳健的用法是把贝叶斯主义当作计算水平的建模语言和模型比较/不确定性量化的统计工具;最危险的用法是把它提升为生命、意识、物理底层的万用语法。
三、可信度
- Overall:中-高。数学部分(Kolmogorov、Bayes、NFL、Gleason)是定理;神经/认知部分处于「模型拟合强、机制证据中等」的状态;FEP 作为统一理论的边界是开放问题;量子概率部分较稳。
- 稳健部分:概率公理、Bayes 规则、无免费午餐、量子概率的非交换结构、Tegmark 对宏观认知相关量子相干模型的强约束。
- 理论整合:把频率主义 vs 贝叶斯主义、贝叶斯脑批评、量子概率放在同一张成熟度光谱里,属于本项目的整合判断,不是单一文献结论。
- 待核对:Bowers & Davis 2012 原文全文未获取,部分引语来自摘要与评论;Hohwy 2016 原文仅核对摘要;部分量子概率文献为 arXiv 预印本,已标注。
四、关键结论
4.1 概率解释:共享骨架,分立灵魂
概率论的形式骨架由 Andrey Kolmogorov 在 1933 年奠定:非负性、规范性、可数可加性。 Kolmogorov 框架 via Hájek SEP 但同样骨架可以承载不同解释:
- 频率主义:概率是无限序列中极限相对频率, von Mises 提出两条公理——收敛性(频率稳定)和随机性(无赌博系统能打败它)。 von Mises 频率理论概述
- 逻辑/客观贝叶斯主义:概率是部分信息下的理性可信度;Jaynes 把概率论视为「扩展的逻辑」,Cox 定理从一致性条件推出概率规则。 Jaynes 2003 镜像 Cox 1946 DOI
- 主观贝叶斯主义:概率是个人信念度, de Finetti 的名言是「概率不存在」(作为客观物), betting rates 是测量手段;Ramsey 和 Savage 用 Dutch book/偏好公理导出概率。 de Finetti 英译节选 Ramsey via IEP
- 倾向论:概率是实验装置的单例物理倾向;Popper 把它比作 Newton 力。 Popper 1959 DOI
- 最佳系统解释:概率是描述世界规律系统的最佳概括,常用于 Lewis 式哲学。
Hájek 在 SEP 里给出的判断是:广义上有三个主要概念——认识论的、主体信念的、物理的。 Hájek SEP 这意味着「概率是什么」没有唯一答案;不同解释在科学实践中混用,却常常被误当成同一概念。
4.2 Bayes 规则的三重身份
Bayes 规则 P(H|D) ∝ P(D|H)P(H) 是条件概率定义的直接推论,因此:
- 数学身份:它是概率演算的定理,与解释无关。 Bayes’ Theorem SEP
- 认识论身份:作为信念更新规则,它把先验信念与似然结合成后验信念。这里的前提是:信念度可以用概率表示,且更新规则是条件化。
- 决策身份:结合期望效用理论,贝叶斯决策者在不确定下最大化主观期望效用;Savage 从偏好公理推出唯一主观概率与效用。 Savage 综述 via Agresti
这三重身份常被打包,但它们是可分的。Gelman & Shalizi 2013 批评「贝叶斯推断只是信念更新」这一流行图像,认为实际贝叶斯数据分析更像假设-演绎模型检验:先验、似然、模型检查都是建模选择,而非单纯的「更新信念」。 Gelman & Shalizi 2013 arXiv
4.3 贝叶斯脑:as if vs 真的在算
Knill & Pouget 2004 综述提出「贝叶斯编码假说」:大脑以概率分布形式表征感觉信息。但他们明确指出,直接的神经生理证据「几乎不存在」。 Knill & Pouget 2004 DOI
Ma et al. 2006 进一步论证:如果皮层变异是「类泊松」的,神经元群可以隐式表示概率分布,并通过线性组合实现一类贝叶斯推断。 Ma et al. 2006 DOI
Ernst & Banks 2002 的视觉-触觉整合实验显示人类以最大似然方式(按感觉可靠性加权)组合线索,这是行为层面「Bayes 最优」的经典范例。 Ernst & Banks 2002 DOI
Beck et al. 2008 提出 LIP 神经元可能编码后验概率分布以支持决策,但也承认假设「在体内不一定精确成立」。 Beck et al. 2008 PMC
因此,「贝叶斯脑」的最强版本——大脑实际执行 Bayes 规则——仍有争议;较弱版本——神经/行为数据与贝叶斯模型一致——证据较强。Aitchison & Lengyel 2017 明确区分:预测编码是一种算法/表征主题,贝叶斯推断是一种最优计算;二者可分离,实验证据「尚无定论」。 Aitchison & Lengyel 2017 PMC
4.4 精度(precision)的四重混用
在预测编码/自由能框架里,precision 至少被用来指称:
- 统计意义上的逆方差(Bayesian 精度);
- 预测误差单元的突触增益(神经实现);
- 神经调质(乙酰胆碱、多巴胺)对增益的调控;
- 注意力对感觉可靠性的加权。
Friston 2010 写道:「精度调制预测误差的幅度……精度对应预测误差单元的突触增益」,而「最明显的控制增益的候选者是经典神经调质物」。 Friston 2010 DOI Feldman & Friston 2010 的模拟进一步把注意理解为优化精度。 Feldman & Friston 2010 PMC
但 Clark 2013 在回应评论时承认 precision 有「many faces」。这种多义性让「精度加权失调导致精神病/幻觉」这类临床推论变得难以直接检验:当实验者操纵一个变量时,很难确定它改变的是四个意义中的哪一个。 Clark 2013 reply DOI
4.5 批评:just-so stories、可计算性与解释力
Bowers & Davis 2012 批评贝叶斯模型通过灵活设定先验和似然来讲「just-so stories」,从而难以被证伪。 Bowers & Davis 2012 DOI Griffiths 等 2012 的回应认为批评者误述了贝叶斯建模的动机与用法,但承认模型需要与具体替代方案比较。 Griffiths et al. 2012 DOI
Jones & Love 2011 指出许多贝叶斯模型的环境假设缺乏经验测量,且「Bayes 规则本身在概念上是平凡的」——真正的工作由模型结构和先验完成。 Jones & Love 2011 DOI
Gelman & Shalizi 2013 则从统计实践角度指出,贝叶斯分析同样需要模型检查、伪证和与外部数据的对照,不是简单的「先验+数据=信念」。 Gelman & Shalizi 2013 DOI
Marcus & Davis 2013 展示概率模型对高阶认知(诗歌、电影收益)的拟合可能依赖事后选择,缺乏系统性的先验约束。 Marcus & Davis 2013 DOI
Kwisthout & van Rooij 2020 从计算复杂性角度证明,预测加工中的核心计算(如最小化自由能)是 NP-hard;低预测误差不足以保证可计算性。 Kwisthout & van Rooij 2020 DOI
Colombo & Seriès 2012 结论:当前贝叶斯模型不提供机制解释,而是预测和系统化观察陈述的有用工具。 Colombo & Seriès 2012 DOI
Gershman 2019 评论 FEP:其最一般形式与贝叶斯推断不可区分,因而缺乏独特经验主张。 Gershman 2019 arXiv
4.6 先验、归纳与无免费午餐
贝叶斯推断需要一个先验 P(H)。Jaynes 的客观贝叶斯主义试图用最大熵和群不变性从已知信息唯一确定先验。 Jaynes 2003 镜像 但 de Finetti 的主观传统认为任何相干(coherent)的信念度都合法。 de Finetti 英译节选
Gelman 等人在实践中推荐「弱信息先验」:既足够正则化以避免荒唐结果,又让数据主导。 Gelman 2008 DOI
无免费午餐定理(Wolpert 1996; Wolpert & Macready 1997)说:在所有可能问题上的平均表现,任何学习/优化算法都相同;任何优势都以在其余问题上的劣势为代价。 Wolpert 1996 DOI Wolpert & Macready 1997 DOI
这意味着通用归纳不可能;贝叶斯学习者的成功依赖于其先验/结构对真实问题空间的适配。Solomonoff 归纳用通用先验提供了一个形式理想,但它是不可计算的,且对通用图灵机的选择敏感。 Solomonoff 196490162-4) Li & Vitányi 2019 DOI
在语言习得争论中,Perfors et al. 2011 声称 domain-general 贝叶斯学习者能从儿童导向语料中推断出层级短语结构,无需先天语言特异性偏向。 Perfors et al. 2011 DOI 但 Berwick et al. 2011 回应:推断层级结构不等于习得结构依赖性转换规则,原始贫困刺激问题未被触及。 Berwick et al. 2011 DOI
Lake et al. 2017 强调人类式学习需要因果模型、组合性和学习-学习能力,而非纯模式识别。 Lake et al. 2017 arXiv Marcus 2018 进一步批评深度学习缺乏系统组合性,不能作为通用学习机制。 Marcus 2018 arXiv
4.7 频率主义 vs 贝叶斯主义:科学哲学之争
Deborah Mayo 的「严重检验」(severe testing)框架为频率主义推断提供哲学基础:数据支持假设,当且仅当该假设通过了严重检验——即若假设为假,则很难得到这么好的拟合。 Mayo 2018 Cambridge
Larry Wasserman 则主张「Frequentist Bayes is objective」,认为好的贝叶斯分析应保证频率主义覆盖性质。 Wasserman 2006 PDF
这一争论没有简单胜负。实践中,现代统计往往是混合的:贝叶斯用于正则化和不确定性量化,频率主义用于模型检验和误差控制。
4.8 量子概率:经典贝叶斯主义的断裂
Born 规则在标准教科书里被作为量子力学公设引入,但 Gleason 定理表明:在维度 ≥3 的 Hilbert 空间上,非上下文性的投影格概率测度必然具有 Tr(ρP) 的 Born 形式。 Gleason 1957 DOI Auffèves & Grangier 2015 arXiv
关键差异在于事件结构。Wilce 在 SEP 中总结:量子概率把经典概率的布尔事件代数替换为 Hilbert 空间投影的非布尔格;两个可观测量可同时对易才可共同测量,格对非对易投影不满足分配律。 Wilce SEP Accardi 也指出:实验迫使人们超越 Kolmogorov 模型。 Accardi PDF
这里要加一个限定:若只固定一个测量基或只处理一组彼此对易的可观测量,量子测量结果依然可以形成普通概率分布,普通 Bayes 条件化也可在经典化子代数中使用。结构性断裂不是「每个单次概率都不是经典概率」,而是「不同、不相容测量不能被同时嵌入同一个经典布尔事件空间」。
在更新规则上,经典 Bayes 更新通常被理解为非侵入的信息更新;量子测量则常伴随状态改变。Schack, Brun & Caves 2001 提出「量子 Bayes 规则」,但强调它必须同时包含信息获取和测量扰动。 Schack et al. 2001 arXiv Lüders 规则 ρ → PρP / Tr(PρP) 是投影测量下的量子条件化;更一般的量子测量需要 POVM、Kraus 算子和量子操作/量子仪器描述,不能把 Lüders 规则误当成所有量子更新的唯一形式。 Nielsen & Chuang 2010 Cambridge
Caves, Fuchs & Schack 2002 论证量子概率可以是贝叶斯信念度,但经典与量子的区别不在于概率定义,而在于「最大信息是否完备」。 Caves et al. 2002 arXiv
关于量子心智:Tegmark 2000 估算神经退相干时间(10⁻¹³–10⁻²⁰ 秒)远快于神经动态时间尺度(10⁻³–10⁻¹ 秒),因此强烈削弱 Penrose-Hameroff 式宏观、长寿命、认知相关量子相干模型。这个结论不等于「大脑没有任何量子效应」;大脑当然依赖量子化学,问题只是这些效应是否以长寿命相干态参与认知计算。 Tegmark 2000 arXiv
五、概率解释的五种面孔与共享骨架
5.1 频率主义:概率是长期频率
Richard von Mises 在 1928 年的《概率、统计与真理》中把概率定义为数列(collective)中属性的极限相对频率。 von Mises 概述 这种解释与统计实践(大数定律、置信区间)天然契合,但难以处理单例概率(「这次手术成功的概率是多少?」)和有限数据。
5.2 逻辑/客观贝叶斯主义:概率是扩展逻辑
E. T. Jaynes 的《概率论:科学的逻辑》把 P(H|D) 理解为在给定信息 D 下对 H 的理性可信度。 Jaynes 2003 镜像 Cox 1946 从一致性公理推导出概率规则,试图把概率从「主观信念」提升为「客观逻辑」。 Cox 1946 DOI 最大熵原则则被用来在信息不完全时唯一确定先验。 Jaynes 1957 PhysRev
5.3 主观贝叶斯主义:概率是个人信念度
Bruno de Finetti 1937 年说:「一个人赋予某事件的概率程度,由他在何种条件下愿意为此事件下注来揭示。」 de Finetti 英译节选 他在 1974 年更激进地宣称「概率不存在」(作为外部客观物)。 Nau 2001 PDF
Ramsey 1926 用 Dutch book 论证:若信念度违反概率公理,则精明的博彩者可以构造一套赌注让你必然亏损。 Ramsey via IEP Savage 1954 则用偏好公理同时导出主观概率和效用。 Savage 综述
5.4 倾向论:概率是物理装置的倾向
Karl Popper 1959 提出:概率不是频率,而是实验装置(chance setup)产生某种结果的客观倾向,类似于 Newton 力。 Popper 1959 DOI 这种解释适合量子力学中单例衰变概率,但倾向本身不可观察,因而被批评为形而上学。
5.5 共享骨架:Kolmogorov 公理
不论解释如何,概率论的形式演算共享 Kolmogorov 公理:
P(A) ≥ 0P(Ω) = 1- 对互斥事件可数可加
Hájek SEP 把这三种主要概念区分为:认识论的、主体信念的、物理的。这种区分意味着:当科学家说「概率」时,他们可能在说不同东西,而争论往往源于概念混用。
六、Bayes 规则的三重身份
6.1 数学定理
从条件概率定义 P(A|B)=P(A∧B)/P(B) 直接推出 Bayes 规则。 Bayes’ Theorem SEP 它本身不承诺任何解释。
6.2 认识论更新规则
在贝叶斯认识论中,先验 P(H) 遇到证据 D 后更新为后验 P(H|D)。这要求:
- 信念度可用概率度量;
- 更新方式是条件化;
- 似然
P(D|H)可计算。
在科学研究中,似然往往来自模型假设;如果模型错误,后验再漂亮也无意义。Gelman & Shalizi 2013 因此强调模型检查的重要性。 Gelman & Shalizi 2013 DOI
6.3 决策引擎
Savage 的期望效用理论把概率与效用结合:理性行动者选择使 Σ P(outcome) × U(outcome) 最大的行动。 Savage 综述 这解释了为什么贝叶斯主义在经济学、AI 决策和医学中如此有用:它不仅给出信念,还给出行动。
6.4 三种身份不能混用
常见错误:
- 因为 Bayes 规则是数学定理,就推出科学家必须用它更新信念;
- 因为贝叶斯决策在工程中好用,就推出大脑一定按 Bayes 规则计算;
- 因为贝叶斯模型能拟合行为,就推出它给出了机制解释。
这些都是范畴错误。
七、贝叶斯脑:支持证据与限制
7.1 行为层的「Bayes 最优」
人类在视觉-触觉整合、多线索估计、感知-动作控制中表现出近最优的统计整合。Ernst & Banks 2002 是经典:当视觉线索更可靠时,视觉主导整合结果。 Ernst & Banks 2002 DOI
Drugowitsch et al. 2016 发现人类选择类似贝叶斯推断,但次优;多数次优性来自神经计算精度有限,而非系统性偏离 Bayes 规则。 Drugowitsch 2016 DOI
7.2 神经实现假设
Ma et al. 2006 的概率群码提出:神经元群的泊松样变异可以隐式编码概率分布,并通过线性操作实现贝叶斯积分。 Ma et al. 2006 DOI Beck et al. 2008 把这一思路用于 LIP 决策神经元。 Beck et al. 2008 PMC
但 Poisson-like 假设、线性组合、概率分布的显式编码都受到了质疑。Aitchison & Lengyel 2017 的结论是:预测编码与贝叶斯推断的证据都「尚无定论」。 Aitchison & Lengyel 2017 PMC
7.3 预测编码与精度
Rao & Ballard 1999 提出预测编码解释视觉皮层的额外经典感受野效应。 Rao & Ballard 1999 DOI Friston 2005 把它纳入自由能框架。 Friston 2005 DOI
精度(precision)是连接贝叶斯不确定性与神经增益的关键概念。Friston 2010:「精度调制预测误差幅度……精度对应预测误差单元的突触增益。」 Friston 2010 DOI
Feldman & Friston 2010 把注意重新定义为对精度的优化。 Feldman & Friston 2010 PMC
7.4 限制
- 隐喻膨胀:precision 的四种含义被混用,导致临床推论难以检验。
- 神经证据稀缺:Knill & Pouget 2004 明确说直接神经生理证据「几乎不存在」。 Knill & Pouget 2004 DOI
- 可计算性:Kwisthout & van Rooij 2020 证明核心计算 NP-hard。 Kwisthout & van Rooij 2020 DOI
- 解释力:Colombo & Seriès 2012 认为当前贝叶斯模型是预测工具,而非机制解释。 Colombo & Seriès 2012 DOI
八、批评武器库:过拟合、可计算性与解释力
8.1 Just-so stories 与参数灵活性
Bowers & Davis 2012 批评贝叶斯模型可以通过调整先验和似然拟合几乎任何数据,从而沦为 just-so stories。 Bowers & Davis 2012 DOI Griffiths 等 2012 回应称批评者误述了贝叶斯建模实践,但承认需要与具体替代模型比较。 Griffiths et al. 2012 DOI
8.2 贝叶斯基本主义 vs 启蒙
Jones & Love 2011 区分「贝叶斯基本主义」(把 Bayes 当作终极解释)和「贝叶斯启蒙」(用 Bayes 作为约束认知理论的数学语言)。他们认为许多研究更接近前者,缺乏对环境和神经机制的实证约束。 Jones & Love 2011 DOI
8.3 统计实践中的伪证
Gelman & Shalizi 2013 认为贝叶斯数据分析应被理解为假设-演绎模型检验,而非单纯的主观信念更新。模型检查、后验预测、与外部数据对照都是必要步骤。 Gelman & Shalizi 2013 arXiv
8.4 高阶认知与系统组合性
Marcus & Davis 2013 展示概率模型在诗歌、电影收益等高阶任务中的拟合可能依赖事后选择。 Marcus & Davis 2013 DOI Lake et al. 2017 和 Marcus 2018 进一步强调:人类认知的组合性、因果推理和学习-学习能力不能由纯统计模式识别解释。 Lake et al. 2017 arXiv Marcus 2018 arXiv
8.5 自由能原理的「空」问题
Gershman 2019 指出 FEP 的最一般形式与贝叶斯推断不可区分,缺乏独特经验主张;要把 FEP 变成可检验理论,必须附加具体结构和测量。 Gershman 2019 arXiv
九、先验、归纳与无免费午餐
9.1 先验从哪里来
- 客观贝叶斯:Jaynes 用最大熵和群不变性从信息推导先验。 Jaynes 2003 镜像
- 主观贝叶斯:de Finetti 认为先验是个人信念,只要求相干。 de Finetti 英译节选
- 实践贝叶斯:Gelman 等推荐弱信息先验,强调先验预测检查和与似然的互动。 Gelman 2008 DOI
没有先验就没有推断;但先验也引入主观性或模型选择风险。
9.2 无免费午餐
Wolpert 1996 证明:对所有学习问题均匀平均,任何算法的期望离训练集误差相同。 Wolpert 1996 DOI Wolpert & Macready 1997 把结论推广到优化:任何算法在某些问题上的优势必须由在其余问题上的劣势补偿。 Wolpert & Macready 1997 DOI
NFL 的直接推论:不存在无偏见的通用学习者;贝叶斯学习者的成功必须依赖其先验/结构对真实问题分布的匹配。
9.3 先天结构与学习偏见
Spelke & Kinzler 2007 综述「核心知识」:人类婴儿拥有对象、行动、数量、空间等核心系统,这些系统有深厚演化根源。 Spelke & Kinzler 2007 DOI 这意味着人类学习并非从零开始,而是带有强先验约束。
在语言习得争论中,Perfors et al. 2011 的贝叶斯模型声称无需先天语言特异性知识即可推断层级语法。 Perfors et al. 2011 DOI Berwick et al. 2011 反驳:推断层级结构不等于习得结构依赖性规则,贫困刺激问题未被解决。 Berwick et al. 2011 DOI
Lake et al. 2017 因此呼吁:真正像人的学习系统需要因果模型、组合性和学习-学习能力。 Lake et al. 2017 arXiv
十、频率主义与贝叶斯主义:科学哲学之争
10.1 严重检验
Deborah Mayo 的「严重检验」框架认为:数据为假设提供证据,不仅因为假设拟合数据,还因为若假设为假,很难得到如此好的拟合。 Mayo 2018 Cambridge 这为频率主义假设检验(Neyman-Pearson)提供了哲学基础,并强调错误概率的控制。
10.2 客观性与覆盖
Larry Wasserman 主张好的贝叶斯方法应保持频率主义覆盖性质,称之为「Frequentist Bayes is objective」。 Wasserman 2006 PDF
10.3 实际融合
现代统计实践很少是纯粹派别:
- 贝叶斯用于正则化、层次模型、不确定性量化;
- 频率主义用于模型选择、交叉验证、错误率控制和可重复性审计。
争论在哲学层面更尖锐,在工程层面更融合。
十一、量子概率:经典贝叶斯主义的断裂
11.1 Born 规则与 Gleason 定理
Born 规则通常作为量子力学公设:测量结果概率为 |⟨ψ|φ⟩|²。 Born Nobel Lecture Gleason 1957 证明:在维度 ≥3 的 Hilbert 空间上,对投影格的非上下文概率测度必然具有 Born 形式。 Gleason 1957 DOI Auffèves & Grangier 2015 进一步讨论从投影假设出发无需再假设 Born 规则。 Auffèves & Grangier 2015 arXiv
11.2 非布尔事件结构
Wilce 在 SEP 中总结:量子概率用 Hilbert 空间闭子空间的投影格取代经典概率的布尔 σ-代数;对易性对应可同时测量;非对易投影不满足分配律。 Wilce SEP Accardi 也指出 Kolmogorov 模型是复 Hilbert 空间模型的真子集。 Accardi PDF
但「真子集」这句话不能反向误读为「单个量子测量语境下完全没有经典概率」。对一组固定、互相兼容的测量结果,概率仍满足普通归一化与加和规则;量子概率的非经典性主要显现在跨语境拼接时:不同测量基之间不一定有共同样本空间,测量次序和相容性会进入问题本身。
11.3 贝叶斯诠释的量子版本
Caves, Fuchs & Schack 2002 提出量子概率可以理解为贝叶斯信念度,但区别不在于概率定义,而在于「最大信息是否完备」。 Caves et al. 2002 arXiv Pitowsky 2003 从赌博规则重构量子概率,证明在无限测量极限下规则迫使 Born 规则。 Pitowsky 2003 arXiv Bub & Pitowsky 2010 认为量子态是一种 credence function,服从 Hilbert 空间的结构约束。 Bub & Pitowsky 2010 arXiv
11.4 更新规则:从 Bayes 到 Lüders
经典 Bayes 更新通常假设测量只改变观察者信息、不改变被测系统;量子测量则常常同时改变状态。Schack et al. 2001 的「量子 Bayes 规则」必须同时处理信息获取和测量扰动。 Schack et al. 2001 arXiv Lüders 规则 ρ → PρP / Tr(PρP) 是投影测量下的量子条件化。 Bub & Pitowsky 2010 arXiv 但它不是所有量子更新的通式;现代量子信息通常用 POVM、Kraus 算子和完全正映射/量子操作描述更一般的测量与噪声过程。 Nielsen & Chuang 2010 Cambridge
11.5 量子心智:宏观相干版本高度不可信
Tegmark 2000 估算脑内量子退相干时间远快于神经动态时间尺度,因此 Penrose-Hameroff 等量子心智假说所依赖的宏观、长寿命脑内量子相干高度不可信。 Tegmark 2000 arXiv 这里的红线是:反对「量子相干解释意识」不等于反对大脑底层化学过程服从量子力学。
十二、整合判断与成熟度光谱
| 声明 | 成熟度 | 关键证据 | 主要风险 |
|---|---|---|---|
| 概率论是解释中立的数学演算 | ① 稳健 | Kolmogorov 公理化、Bayes 规则为定理 | 无 |
| 概率解释多元,无统一答案 | ② 文献共识 | Hájek SEP、Gillies 2000、Hacking 1975 | 概念混用 |
| 贝叶斯模型能拟合感知-动作行为 | ② 强 | Ernst & Banks 2002、Ma et al. 2006 | 过拟合 |
| 大脑实际执行 Bayes 规则 | ③ 中等/悬而未决 | Knill & Pouget 2004 警告证据稀缺、Aitchison & Lengyel 2017 | 隐喻替代机制 |
| 预测编码的 precision 有清晰神经对应 | ③ 中等 | Friston 2010、Feldman & Friston 2010 | 多义混用 |
| 抽象 FEP 是统一的生命/脑/AI 理论 | ④ 近恒真/经验内容稀薄 | Friston 自承不可证伪、Gershman 2019 | 不可证伪 |
| 具体主动推断模型可给出可测预测 | ③ 有条件可检验 | 需指定生成模型、策略空间、精度参数与行为/神经指标 | 容易退回框架性解释 |
| 无免费午餐限制通用贝叶斯学习 | ① 定理 | Wolpert 1996、1997 | 无 |
| 量子概率结构与经典概率不同 | ① 稳健 | Gleason、Wilce SEP、Lüders 规则 | 概念抽象 |
总判断:贝叶斯主义是一把锋利的建模刀,但不是世界底层语法。最安全的用法是:
- 把概率当作形式演算 + 语境解释;
- 把 Bayes 规则当作模型比较、不确定性量化和决策的工具;
- 把贝叶斯脑当作计算水平描述,而非已证实的神经机制;
- 把抽象 FEP 当作数学/启发框架,而非可证伪的单一理论;把具体主动推断模型当作可检验的过程模型;
- 把量子概率当作独立主题,不强行纳入经典贝叶斯主义;同时承认单个固定测量语境下仍有普通概率分布。
十三、Codex 审查与修正(2026-06-26 追加)
本轮审查结论:报告主裁决保留,评分维持 8.0/10。它最强的部分是把「概率演算」「概率解释」「贝叶斯脑」「FEP」「量子概率」分层,避免把贝叶斯主义神化成世界底层语法。但若作为后续主线的地基报告,必须补上以下限定。
13.1 量子概率:整体非经典,不等于局部没有经典概率
原文「量子概率不是经典概率的特例」方向正确,但表述过硬。更准确的版本是:对单个固定测量语境,测量结果仍可形成普通概率分布;真正非经典的是跨不相容测量时的事件结构。也就是说,断裂点不是「每个概率数值都不经典」,而是「不同测量基不能总被合并进一个共同的布尔样本空间」。
这条修正避免两个错误:一是把量子概率说得像完全脱离普通概率;二是把经典 Bayes 误以为只要改个状态更新规则就能覆盖全部量子现象。量子概率的核心差异在事件代数、相容性、测量次序和状态扰动。
13.2 Lüders 规则:投影测量特例,不是全部量子更新
原文把「更新规则是 Lüders 规则而非 Bayes 规则」写得太一刀切。Lüders 规则适用于投影测量,是量子条件化的重要特例;但一般量子测量还需要 POVM、Kraus 算子、完全正映射和量子仪器来描述。 Nielsen & Chuang 2010 Cambridge
修正后的判断是:经典 Bayes 更新在对易/经典化语境中仍可用;非对易测量、状态扰动和一般量子操作则需要量子条件化框架。这比「Bayes vs Lüders」的二分更稳。
13.3 FEP:抽象原则近恒真,具体主动推断模型可检验
原文说 FEP「数学上普适、经验上近恒真」,总体成立,但需要把三层拆开:
- FEP 最抽象版本:像最小作用量原则一样是组织原则,极难被直接证伪。
- 主动推断具体模型:只要明确生成模型、策略空间、精度参数、行为/神经读数,就可以产生可错的经验预测。
- 预测编码神经机制:是更具体的过程假说,不能自动等同于 FEP。
因此,批评对象应是「把抽象 FEP 当成已证实经验理论」,而不是否认所有主动推断模型的实验价值。
13.4 贝叶斯脑:低层感知-动作强,高阶认知外推弱
原文说贝叶斯脑在感知-动作层面有扎实 as-if 证据,这一判断保留。但要加范围限定:视觉-触觉整合、多线索估计、运动控制和部分决策任务证据较强;高级认知、社会推理、精神病学和意识理论中的贝叶斯化解释更容易滑入事后拟合。
修正后的使用纪律是:可以把贝叶斯模型当作 Marr 计算水平描述;不能把行为拟合直接升级成神经机制证明。
13.5 Precision:应拆成信号可靠性、增益、显著性与学习率
原文指出 precision 有四重混用,这是亮点。进一步修正是:项目后续使用时应把 precision 至少拆成六类:
- 感觉证据的统计精度;
- 先验的置信强度;
- 预测误差通道的增益;
- 注意/显著性分配;
- 神经调质状态;
- 波动率估计与学习率。
这条对本项目很重要:内观、疼痛、痒、焦虑、估计器退化和抗衰调度都可能涉及 precision,但不能把所有现象都塞进一个词里。
13.6 量子心智:反宏观相干,不反量子化学
原文「量子心智不成立」需要降级为:宏观、长寿命、认知相关量子相干版本高度不可信。Tegmark 的退相干估算强烈约束 Penrose-Hameroff 式量子意识模型,但它不排除大脑底层化学过程服从量子力学,也不排除局部量子生物效应。
这条修正防止把「不支持量子意识」误写成「大脑没有任何量子过程」。
13.7 文献纪律与归档建议
本报告适合保留为概率/贝叶斯/FEP/量子概率主线的基础定位篇,但建议后续引用时遵守三条纪律:
- 讲概率时先说明解释语境:频率、信念、逻辑支持度、物理倾向,不能混用。
- 讲贝叶斯脑时先说明层级:行为 as-if、算法表示、神经机制,不能越级。
- 讲 FEP/主动推断时先说明可检验性:抽象原则、过程模型、具体实验预测,不能混用。
最终修正裁决:贝叶斯主义是高质量建模语言,不是世界本体论;FEP 是强组织框架,不是天然可证伪经验理论;量子概率显示经典概率有适用边界,但不是把普通概率整体废除。
关键来源
概率解释
- Alan Hájek, Interpretations of Probability, Stanford Encyclopedia of Philosophy, 2019/2023.
- Richard von Mises, Probability, Statistics, and Truth, 1928/1957. EBSCO 概述
- E. T. Jaynes, Probability Theory: The Logic of Science, 2003. 镜像
- Richard T. Cox, Probability, Frequency, and Reasonable Expectation, American Journal of Physics, 1946.
- Bruno de Finetti, Foresight: Its Logical Laws, Its Subjective Sources (1937; English translation in Kyburg & Smokler 1964).
- Leonard J. Savage, The Foundations of Statistics, 1954. Agresti 综述
- Frank P. Ramsey, Truth and Probability (1926; 1931).
- Karl R. Popper, The Propensity Interpretation of Probability, BJPS, 1959.
- Donald Gillies, Philosophical Theories of Probability, Routledge, 2000. 预览
Bayes 规则与统计哲学
- Bayes’ Theorem, SEP.
- Andrew Gelman & Cosma Rohilla Shalizi, Philosophy and the practice of Bayesian statistics, British Journal of Mathematical and Statistical Psychology, 2013. arXiv 预印本
- Deborah G. Mayo, Statistical Inference as Severe Testing, Cambridge University Press, 2018. Cambridge 页面
- Larry Wasserman, Frequentist Bayes is objective, Bayesian Analysis, 2006.
贝叶斯脑与预测编码
- David C. Knill & Alexandre Pouget, The Bayesian brain: the role of uncertainty in neural coding and computation, Trends in Neurosciences, 2004.
- Wei Ji Ma et al., Bayesian inference with probabilistic population codes, Nature Neuroscience, 2006.
- Jeffrey M. Beck et al., Probabilistic population codes for Bayesian decision making, Neuron, 2008.
- Marc O. Ernst & Martin S. Banks, Humans integrate visual and haptic information in a statistically optimal fashion, Nature, 2002.
- Karl Friston, The free-energy principle: a unified brain theory?, Nature Reviews Neuroscience, 2010.
- Harriet Feldman & Karl Friston, Attention, uncertainty, and free-energy, Frontiers in Human Neuroscience, 2010.
- Laurence Aitchison & Máté Lengyel, With or without you: predictive coding and Bayesian inference in the brain, Current Opinion in Neurobiology, 2017.
- Jan Drugowitsch et al., Computational precision of mental inference as critical source of human choice suboptimality, Neuron, 2016.
批评
- Jeffrey S. Bowers & Colin J. Davis, Bayesian just-so stories in psychology and neuroscience, Psychological Bulletin, 2012.
- Thomas L. Griffiths et al., How the Bayesians got their beliefs (and what those beliefs actually are), Psychological Bulletin, 2012.
- Matt Jones & Bradley C. Love, Bayesian fundamentalism or enlightenment?, Behavioral and Brain Sciences, 2011.
- Gary F. Marcus & Ernest Davis, How robust are probabilistic models of higher-level cognition?, Psychological Science, 2013.
- Samuel J. Gershman, What does the free energy principle tell us about the brain?, arXiv:1901.07945, 2019.
- Johan Kwisthout & Iris van Rooij, Predictive processing and the nature of consciousness, Cognitive Neurodynamics, 2020.
- Matteo Colombo & Peggy Seriès, Bayes in the brain—on Bayesian modelling in neuroscience, BJPS, 2012.
- Andy Clark, The many faces of precision, Frontiers in Psychology, 2013.
先验、归纳与 NFL
- E. T. Jaynes, Information Theory and Statistical Mechanics, Physical Review, 1957.
- Andrew Gelman, Prior distributions for variance parameters in hierarchical models, Bayesian Analysis, 2006.
- Andrew Gelman et al., A weakly informative default prior distribution for logistic and other regression models, Annals of Applied Statistics, 2008.
- David H. Wolpert, The Lack of A Priori Distinctions Between Learning Algorithms, Neural Computation, 1996.
- David H. Wolpert & William G. Macready, No Free Lunch Theorems for Optimization, IEEE Trans. Evol. Comput., 1997.
- Ray J. Solomonoff, A Formal Theory of Inductive Inference90162-4), Information and Control, 1964.
- Ming Li & Paul Vitányi, An Introduction to Kolmogorov Complexity and Its Applications, Springer, 2019. DOI
- Amy Perfors, Joshua B. Tenenbaum & Terry Regier, The Learnability of Abstract Syntactic Principles, Cognition, 2011.
- Robert C. Berwick et al., Poverty of the Stimulus Revisited, Cognitive Science, 2011.
- Brenden M. Lake et al., Building Machines That Learn and Think Like People, BBS, 2017.
- Gary F. Marcus, Deep Learning: A Critical Appraisal, arXiv:1801.00631, 2018.
- Elizabeth S. Spelke & Katherine D. Kinzler, Core Knowledge, Developmental Science, 2007.
量子概率
- Alexia Auffèves & Philippe Grangier, A simple derivation of Born’s rule with and without Gleason’s theorem, arXiv:1505.01369, 2015.
- Andrew M. Gleason, Measures on the closed subspaces of a Hilbert space, Indiana Univ. Math. J., 1957.
- Max Born, The Statistical Interpretations of Quantum Mechanics, Nobel Lecture, 1954.
- Alexander Wilce, Quantum Logic and Probability Theory, SEP.
- Luigi Accardi, Axioms for Quantum Probability, Banach Center Publications, 2006.
- Carlton M. Caves, Christopher A. Fuchs & Rüdiger Schack, Quantum probabilities as Bayesian probabilities, Phys. Rev. A, 2002.
- Itamar Pitowsky, Betting on the Outcomes of Measurements, Studies in History and Philosophy of Modern Physics, 2003.
- Jeffrey Bub & Itamar Pitowsky, Two Dogmas About Quantum Mechanics, in Many Worlds?, OUP, 2010.
- Rüdiger Schack, Todd A. Brun & Carlton M. Caves, Quantum Bayes rule, Phys. Rev. A, 2001.
- Michael A. Nielsen & Isaac L. Chuang, Quantum Computation and Quantum Information, 10th Anniversary Edition, Cambridge University Press, 2010.
- Max Tegmark, The Importance of Quantum Decoherence in Brain Processes, Phys. Rev. E, 2000.
不确定点
- Bowers & Davis 2012 与 Hohwy 2016 的原文全文未完全核对,部分引语来自摘要与二手评论。
- 预测编码中 precision 的神经对应是否能在实验中被单独操控,仍缺乏决定性实验。
- FEP/主动推断在精神病学和神经病学中的预测价值正在被检验,但尚不能给出统一判断。
- 量子贝叶斯主义(QBism)与客观量子概率解释之间的争论仍在持续;本笔记采用的是「结构断裂」视角,而非 QBist 视角。
- 频率主义与贝叶斯主义的科学哲学之争没有终审判决;本笔记把二者定位为互补工具。
后续问题
- 能否设计实验直接区分「大脑编码概率分布」与「大脑参数被贝叶斯模型良好近似」?
- precision 的四种含义能否被神经影像学或光遗传学实验解耦?
- FEP 在计算精神病学中的具体可证伪预测是什么?
- 贝叶斯模型与深度学习模型在高阶认知任务上的系统对比需要哪些新基准?
- 量子概率的非交换结构对认知建模中「上下文效应」是否有可借鉴的形式工具?