跳至正文

计算收敛论的边界：大脑与深度网络的同构、类比与断裂

目录

问题

一篇流传较广的文章声称：矩阵乘法与神经元的加权求和在数学上”完全同构”，深度网络在做物理学重整化操作，Friston 自由能原理统一了大脑和大模型，信息是宇宙底层基质，因此智能必然收敛——”两条路径在物理学同一座山顶相遇，山顶的名字叫信息”。

本调研的核心问题：这篇文章的推理链——”功能相似 → 数学同构 → 物理等价 → 收敛必然”——每一步成立到什么程度？断裂在哪里？

简短结论

文章抓住了一个真实的现象（大脑和深度网络在某些任务的表征层面确实存在可测量的相似性），但系统性地把”功能类比”升格为”数学同构”，把”启发性框架”升格为”物理必然”。具体来说：

  1. 神经元 ≈ 感知机：类比方向正确但严重低估了生物神经元的计算复杂度。一个生物神经元更接近一个两层网络，而非单个感知机。
  2. 深度 ≈ 重整化群：在特定架构（RBM）和特定模型（Ising）上有精确映射，但不是一般性结论。对现代 Transformer 几乎不适用。
  3. 自由能原理统一大脑和AI：FEP 本身是数学恒真式（给定公理的推论），不是可证伪的经验理论。说大脑和大模型”在信息论意义上做同一件事”是过度简化。
  4. 信息是底层基质：全息原理在 AdS/CFT 框架内已建立，但”宇宙是信息处理机”是形而上学纲领，不是物理定律。”质能守恒可改写为信息守恒”技术上不准确。
  5. 智能必然收敛：表征对齐在感觉皮层前馈层级上成立，但在失败模式上两个系统存在系统性差异。收敛论本身可能是对表面相似性的过拟合。

一句话：文章说对了”两套系统在某些山坡上走着相似的路”，但跳过了”它们不一定在同一座山上”的关键限定。

可信度

  • Overall: 中到高
  • 稳健部分: 万能逼近定理、树突计算实验、DNN-大脑视觉表征对齐、失败模式差异（均有实验复现）
  • 理论整合: FEP 与交叉熵的技术关系、RG-DL 类比的边界分析、NFL 定理对收敛论的约束
  • 待核对: 时序编码的不可约计算贡献、具身认知对计算主义的约束强度、预测编码作为 BP 近似的在体验证

关键结论

1. 神经元 vs 感知机：类比的边界

结论：类比方向正确，但”完全同构”是错误的。

文章说”一个神经元接收上万突触输入，每个输入有一个突触权重，树突把加权信号累积，胞体决定是否越过阈值发放尖峰——这就是’权重向量内积加非线性’，与Transformer前馈层在数学上完全同构。”

实际证据状态：

(a) 树突计算远超加权求和

Gidon et al. (2020, Science) 证明人类皮层神经元的单个树突可以执行 XOR 等非线性运算——这是感知机做不到的。单个生物神经元更接近一个两层神经网络这一概念最早由 Poirazi, Brannon & Mel (2003, Neuron) 提出，树突分支作为独立的非线性计算子单元，胞体进行整合。Poirazi & Papoutsi (2020, Nature Reviews Neuroscience, “Illuminating dendritic function with computational models”) 的综述系统回顾并扩展了这一框架。

这不否定 ANN 的有效性，但意味着”一个 ANN 节点 = 一个生物神经元”的映射是错误的。需要整个小型网络才能对应一个生物神经元。

(b) 时序编码承载额外信息

标准 ANN 使用连续激活值和同步批处理，无法自然表示脉冲的精确时序、相位关系和同步性。脉冲神经网络（SNN）理论上表达效率可能超过标准 ReLU ANN（Maass 1997），核心区别不在”能算什么”，而在”如何高效地算”。SNN 的事件驱动特性使其在能效和实时处理上有结构性优势。

(c) 神经调质系统没有结构性对应物

Doya (2002) 的框架中，多巴胺信号奖赏预测误差、血清素控制时间折扣、乙酰胆碱调节学习速率、去甲肾上腺素调节探索-利用权衡。Marder (2012) 进一步证明：神经调质可以重新配置神经回路的内在特性——同一硬件回路在不同调质状态下产生完全不同的行为输出。

当前 AI 中的自适应学习率、门控机制等只是功能上的初步对应。生物调质是持续的、弥散的化学过程，同时影响数十个突触和细胞属性——这在 ANN 中没有真正的结构性对应物。

(d) 大脑不做精确反向传播

反向传播在生物学上面临三个问题：权重传输问题（反馈连接需要前馈权重的精确转置）、全局误差信号、前向/后向的时间分离。

当前最佳候选是预测编码（Whittington & Bogacz 2017）：层级预测编码网络的权重更新在特定参数下收敛到 BP 的更新，且仅使用局部 Hebbian 可塑性。共识是：大脑几乎可以肯定实现了某种近似信用分配机制，但不是精确 BP。

(e) 持续可塑性 vs 冻结参数是架构差异

这不是纯工程实现细节。大脑使用互补学习系统（McClelland, McNaughton & O’Reilly 1995：海马体快速学习 + 新皮质慢速巩固），实现了多时间尺度的记忆整合。ANN 的灾难性遗忘是这一架构差异的直接后果。

Q1 判断：文章把一个方向正确但粗粒度的类比（加权求和 + 非线性）包装成了”数学上完全同构”。实际上，类比在至少五个维度上是不完整的：树突非线性、时序编码、神经调质、学习算法、可塑性架构。

2. 深度 vs 重整化：物理直觉的限度

结论：启发性类比，不是一般性结论。对 Transformer 几乎不适用。

(a) Mehta & Schwab (2014) 的精确映射范围受限

原始论文建立了变分重整化群和堆叠 RBM 之间的精确映射，但仅限于 RBM 架构 + Ising 模型。在 1D Ising 上有解析实现，2D Ising 上有数值验证。这不是通用深度网络的结果。

(b) 批评者已指出形式类比 ≠ 物理等价

de Mello Koch et al. (2020, IEEE Access) 证明：

  • RBM 在长程相互作用系统上不能收敛到正确的物理标度维度
  • 堆叠 RBM 的”流动”方向常与标准 RG 流不同
  • 可以构造满足映射方程但明显不是 RG 流也不来自神经网络的系统

根本区分：RG 中的耦合常数由物理定律固定；DL 中的权重通过训练（SGD）学习——”学习”这个过程在标准 RG 中没有对应物。

(c) 信息瓶颈的”压缩阶段”已被大幅削弱

Shwartz-Ziv & Tishby (2017) 声称的”压缩阶段”依赖于激活函数：使用 tanh 时观察到，使用 ReLU（现代标准）时通常不出现（Saxe et al. 2018, ICLR）。测量方法（binning）对 bin 大小高度敏感。原始的简单”两阶段”假说不再被接受为深度学习的普遍规律。

(d) Transformer 的信息组织与 RG 粗粒化根本不同

Elhage et al. (2021, 2022, Anthropic) 的机制可解释性工作揭示：

  • Transformer 的核心是残差流——一个共享的加性记忆通道，每层通过线性投影读取/写回
  • 信息通过写入残差流的不同子空间来通信
  • 当特征多于可用维度时使用叠加（Superposition）——非正交向量存储

关键差异：

  • Transformer 不做空间粗粒化。RG 的核心是空间上的块自旋；Transformer 的注意力是全局的，不减少 token 数量
  • 叠加 ≠ 层级粗粒化。叠加更像压缩感知而非 RG 的尺度分离
  • Transformer 的”层级”更像迭代精化而非尺度分离。残差流中的信息被逐层精化，而不是在每步丢弃短程自由度

Q2 判断：文章说”深层网络不是在做矩阵乘法，而是在做受控的尺度变换”——这个说法对 CNN/RBM 有启发性，但对 Transformer 基本不成立。Lin, Tegmark & Rolnick (2017) 关于物理世界的对称性、局域性和层级结构使深度学习高效的论点更有说服力，但这是关于”为什么深度学习能工作”，不是”深度学习等于重整化”。

3. 自由能原理：统一的代价

结论：FEP 更接近数学恒真式而非实质性科学理论。

(a) FEP 与交叉熵不是”同一件事”

变分自由能 = 交叉熵（准确度项）+ KL 散度（复杂度项）。标准神经网络最小化交叉熵时，相当于最小化 F 的一个分量（假设平坦先验）。只有 VAE 的 ELBO 损失才是完整的变分自由能最小化。文章说”在信息论意义上是同一件事”是过度简化。

(b) FEP 本身不可证伪

FEP 在其最一般形式下是从数学公理推导出来的（马尔可夫毯 + 非平衡稳态），对”任何维持完整性的系统”成立——因此是数学恒真式。支持者的辩护是将其类比为最小作用量原理——本身不可证伪，但可推导出可检验的过程理论（主动推断）。

问题在于：如果过程理论（主动推断）在灵活的”精度加权”等辅助参数调整下能解释任何实验结果，那整个程序的经验内容就被严重稀释。

(c) 主动推断尚未在实践中超越标准方法

在大规模基准（Go、LLM 等）上，Active Inference 未能替代标准方法。在机器人控制、分布式多智能体等特定场景有初步优势，但无碾压式突破。

Q3 判断：FEP 是一个有洞察力的数学框架，但文章把它当作”大脑和大模型做同一件事”的证据来使用，忽略了它是给定公理的数学推论而非经验发现这一事实。

4. 信息一元论：纲领 vs 科学

结论：需要区分三个层次——操作性物理陈述、形而上学纲领、AI 激励口号。

(a) “质能守恒可改写为信息守恒”——技术上不准确

能量守恒来自 Noether 定理（时间平移对称性），信息守恒来自量子力学的幺正性。这是两个不同的物理原理，在标准 QFT 中通常共存但不等价。可以有幺正但不能量守恒的理论（含时哈密顿量）。

(b) Wheeler “It from Bit” 始终是形而上学纲领

35 年来从未被当作可直接检验的物理定律。其影响力在于启发方向（→ 量子信息科学、”It from Qubit” 研究纲领），而非提供答案。

(c) 全息原理在理想化模型中已建立

AdS/CFT 对偶中空间体积的自由度可编码在其边界上（Maldacena 1997, Ryu-Takayanagi 2006）。Page 曲线的推导（岛公式，2019）是近年最重要的理论突破之一。但这些结果在理想化引力模型中成立，对真实宇宙尚无直接实验验证。

(d) Hassabis 的 P vs NP 声称是纲领性推测

Hassabis 在 2024 年诺贝尔讲座中猜想”任何能在自然界中生成或发现的模式，都能被经典学习算法高效地发现和建模”。AlphaFold 是一个实证数据点，但蛋白折叠的特殊性（进化提供的共进化信号、PDB 大量高质量数据）使其不能推广为一般性命题。理论计算机科学界视此为挑衅性的高度投机假说。

Q4 判断：文章把三个不同层次混在一起——(a) 操作性物理陈述（全息原理，已建立但范围有限），(b) 形而上学纲领（It from Bit，启发性但不可证伪），(c) AI 激励口号（自然问题有低维结构，部分有据但过度推广）。

5. 收敛论：山顶有多挤？

结论：收敛是真实但被严重高估的。

(a) 表征对齐在视觉前馈层级上成立

Yamins et al. (2014, PNAS) 首次实验证明：为物体识别任务优化的深度 CNN，其中间层激活可以定量预测灵长类 V4/IT 区的神经记录。Yamins & DiCarlo (2016, Nature Neuroscience) 的综述进一步阐述了”目标驱动”建模范式。Schrimpf et al. (2020, Neuron) 的 Brain-Score 平台统一了跨实验室的神经+行为基准测试，发现任务优化的 CNN 在 V1→V2→V4→IT 层级上依次对齐猴脑神经记录。现代 Transformer 在预测 fMRI 响应上超过早期 CNN。这是实验证据，多次复现。

(b) 但对齐受混淆变量严重影响

Bowers et al. (2023, Behavioral and Brain Sciences, “Deep problems with neural network models of human vision”) 指出：DNN 有强纹理偏好，人类有强形状偏好（Geirhos et al. 2019, ICLR），二者在自然图像中高度相关，所以 RSA 分数虚高。在对抗攻击、形状-纹理冲突等”严格行为测试”中，DNN 与人类显著不同。

(c) 失败模式系统性不同

失败模式 DNN/LLM 大脑 收敛？
对抗样本 极度脆弱 极度鲁棒 ❌
灾难性遗忘 学新覆盖旧 终生学习、渐进退化 ❌
分布外泛化 急剧下降 轻松适应新环境 ❌
组合性泛化 标准训练下失败（Lake & Baroni 2018） 即时理解新组合 ❌（但 meta-learning 可部分修补）
小样本学习 需海量数据 单次/少次即可 ❌

(d) LLM 幻觉 vs 人类虚构：表面相似，深层不同

人类 confabulation 有功能性——服务于自我模型维护、叙事连贯性和心理稳定（连接我们内观标记笔记中”叙事两面性”的讨论）。LLM 幻觉是概率完成过程的固有副产品，没有功能目的，不服务于任何内在需要。这不是”工程细节”差异，而是架构层差异：一个系统有需要维护的自我（内稳态 + 自我模型），另一个没有。

(e) 大脑有而 LLM 没有的不是”工程细节”

内稳态、内感受、情感、在线学习、自我模型、能动性——这些共同构成了生物智能的计算目标函数和架构约束。从 Seth (2021) 的 Beast Machine 理论看，大脑的首要计算任务不是”处理信息”或”预测下一个 token”，而是预测和调节身体内部状态以维持存活。LLM 的优化目标是 minimize cross-entropy on token prediction——完全不同的目标函数。

(f) No Free Lunch 定理的约束

NFL 支持收敛论的弱版本（同一宇宙中针对类似统计问题的系统可能部分收敛），但严格限制了收敛范围：收敛只能在共享问题结构的子集上发生。大脑的”问题分布”包含内稳态维护、社会导航、具身行动等 LLM 根本不接触的领域。

Q5 判断：DNN 和大脑在共享环境统计结构上表现出可测量的表征相似性，但这种相似性更像是同一套考试题上的高分——换题、换环境、换失败模式时，两者暴露出系统性的深层差异。

6. 综合判断：类比的价值和类比的陷阱

文章说对了什么

  1. 万能逼近定理确实说明足够的加权求和 + 非线性可以逼近任何连续函数。
  2. 深度网络的层级结构确实与物理世界的层级组合性有关（Lin, Tegmark & Rolnick 2017）。
  3. 大脑和深度网络在视觉表征层面确实有可测量的统计相似性。
  4. 信息论视角确实为跨领域比较提供了有用的共同语言。

文章过度推广了什么

  1. “完全同构”：一个生物神经元 ≠ 一个感知机节点。类比方向正确但精度错误。
  2. “重整化操作”：仅在 RBM+Ising 上有精确映射，对 Transformer 不适用。
  3. “在信息论意义上是同一件事”：变分自由能 ≠ 交叉熵；FEP 是数学恒真式不是经验发现。
  4. “质能守恒可改写为信息守恒”：两个不同的物理原理。
  5. “差异属于工程实现层面”：失败模式的系统性差异表明底层计算架构不同。
  6. “最终都会收敛到形态相近的解”：NFL 定理约束了收敛只能在共享问题结构上发生。

被遗漏的关键差异

  1. 树突计算的非线性——一个神经元远比一个感知机复杂。
  2. 神经调质的全局状态重配——同一硬件可产生完全不同的计算行为。
  3. 内稳态约束——大脑的首要任务是维持身体存活，不是处理信息。
  4. 失败模式的系统性差异——对抗脆弱性、灾难性遗忘、分布外泛化。
  5. 大脑的独特退化模式——复杂性丧失、预测先验固化，在 LLM 中无对应物。
  6. 具身性——大脑嵌入在身体和环境中，认知”泄漏”到身体。

与我们已有调研框架的互检

已有主题 互检结论
涌现 文章的”平凡动作叠层产生智能”就是涌现。但按我们的标准，”涌现”不能替代机制解释——说”矩阵乘法涌现出智能”和说”相互作用涌现出意识”一样，不提供信息。
过拟合 收敛论本身可能是对表面相似性的过拟合。 RSA 对齐就像”12个点完美穿过”——在训练分布的统计结构上模型和大脑看起来相似，但换测试条件（第13个点 = 对抗样本、OOD 泛化），差异立刻暴露。
升维/降维 文章的”逐层压缩到语义流形”与我们的”展开→滤波→压缩”框架方向一致，但 Transformer 的实际机制（残差流+叠加）更像迭代精化的共享工作记忆，而非单向压缩。
预测加工 文章引用 Friston 的方式忽略了 FEP 的可证伪性争议。我们第一篇调研的核心——”清理信号环境 ≠ 直接增强调控器”——在这里同样适用：功能类比 ≠ 机制等同。
神经-内稳态固化 文章完全忽略了大脑的独特退化模式。大脑老化不是灾难性遗忘，而是渐进的预测系统固化（HRV 下降、SCN 衰减、HPA 紊乱）——这在 LLM 中无类比，进一步证明底层架构不同。

证据与来源

实验证据（已复现/已证明）

  • Gidon et al. (2020) Science — 人类皮层神经元树突的 XOR 计算
  • Poirazi, Brannon & Mel (2003) Neuron — 单个神经元作为两层网络的原始论文
  • Poirazi & Papoutsi (2020) Nature Reviews Neuroscience — “Illuminating dendritic function with computational models”（树突计算综述）
  • London & Häusser (2005) Annual Review of Neuroscience — 树突计算经典综述
  • Yamins et al. (2014) PNAS — DNN-大脑视觉表征对齐（原始实验）
  • Yamins & DiCarlo (2016) Nature Neuroscience — 目标驱动建模综述
  • Schrimpf et al. (2020) Neuron — Brain-Score 基准
  • Bowers et al. (2023) Behavioral and Brain Sciences — 对 DNN-大脑对齐的系统性批评（”Deep problems with neural network models of human vision”）
  • Geirhos et al. (2019) ICLR — CNN 纹理偏好 vs 人类形状偏好
  • Saxe et al. (2018) ICLR — 信息瓶颈压缩阶段的反驳
  • Lake & Baroni (2018, 2023) — 组合性泛化差距及 meta-learning 修补
  • Wolpert & Macready (1997) — No Free Lunch 定理
  • Maldacena (1997) — AdS/CFT 对偶
  • Penington, Almheiri et al. (2019) — 岛公式与 Page 曲线

理论框架/整合

  • Mehta & Schwab (2014, arXiv:1410.3831，未正式发表于同行评审期刊) — RG-RBM 映射（仅限 RBM+Ising）
  • Lin, Tegmark & Rolnick (2017) Journal of Statistical Physics — 物理世界结构与深度学习
  • de Mello Koch et al. (2020) IEEE Access — 对 RG-DL 映射的批评（”Is Deep Learning a Renormalization Group Flow?”）
  • Friston (2010, 2019) — 自由能原理
  • Lillicrap et al. (2020) Nature Reviews Neuroscience — 反向传播与大脑（”Backpropagation and the brain”）
  • Whittington & Bogacz (2017) Neural Computation — 预测编码近似 BP（”An approximation of the error backpropagation algorithm in a predictive coding network with local Hebbian synaptic plasticity”）
  • Scellier & Bengio (2017) — 均衡传播
  • McClelland, McNaughton & O’Reilly (1995) Psychological Review — 互补学习系统理论
  • Maass (1997) — 脉冲神经网络作为”第三代”神经网络
  • Doya (2002) Neural Networks — 元学习与神经调质
  • Marder (2012) Neuron — 神经调质与回路重配
  • Elhage et al. (2021, 2022) Anthropic — Transformer 电路与叠加
  • Seth (2021) Being You — Beast Machine 理论
  • Wheeler (1990) — It from Bit（”Information, Physics, Quantum: The Search for Links”）

纲领性/推测性

  • Hassabis (2024 Nobel Lecture) — P vs NP 作为物理问题
  • “宇宙是信息处理机” — 形而上学纲领
  • “智能必然收敛” — 启发性但不可证伪

我的判断

类比升格

这篇文章的核心修辞策略是类比升格：先建立一个方向正确但粗粒度的功能类比（加权求和 + 非线性），然后用”同构””等价””统一”等措辞把类比逐步升格为数学等价和物理必然。这是一种常见但有误导性的科普写法。

类比本身是有价值的——它帮助我们看到不同系统之间的结构相似性。但类比的价值恰恰在于知道它在哪里断裂。说”飞机和鸟都利用了伯努利原理”是有洞察力的类比；说”飞机和鸟在空气动力学意义上完全同构”就是过拟合了。

收敛论作为有效理论（讨论补充 2026-05-20）

初版判断将收敛论定性为”对表面相似性的过拟合”。经过进一步讨论，更准确的定性是：

收敛论是一个有效理论——在”共享环境统计结构 + 表征相似性度量”这个适用域内成立，但不是普适真理。

这和物理学的情况完全类比：

物理学 收敛论
牛顿力学在低速弱引力下完美成立 DNN-大脑在自然图像统计上可测量地对齐
接近光速时牛顿崩溃，需要相对论 对抗样本、OOD、组合性泛化时对齐崩溃
相对论在奇点/普朗克尺度崩溃 加入内稳态、具身性、情感时，”计算收敛”框架不够用
每一层理论是前一层的有效近似，有明确的适用域 收敛是一个有效描述，有明确的适用域

牛顿力学没有”错”，它只是有边界。收敛论也没有”错”，它只是有边界。知道边界在哪，比声称没有边界，信息量大得多。

这里存在一个值得注意的讽刺：原文引用重整化群（RG）来论证”深度网络和大脑同构”。但 RG 本身教给物理学的最深一课恰恰是——不同尺度上有不同的有效理论，没有任何一层是”最终真理”。原文引用的工具的核心含义，恰好反驳了原文的结论。RG 说的是：每个尺度上有自己的有效描述，尺度之间的关系是粗粒化，不是收敛到唯一真理。

收敛的适用域与泛化的分歧（讨论补充 2026-05-20）

进一步的分析表明：在共享统计结构上，收敛是真实的；超出已学习部分时需要泛化，而泛化方向由架构的归纳偏置和目标函数决定。但这两者之间不是铁幕——部分差异可通过训练课程弥合（Lake & Baroni 2023, Nature 证明 meta-learning 可使标准 Transformer 达到人类水平的组合性泛化），部分差异是架构硬约束（内稳态、具身性、神经调质系统在当前 AI 架构中没有结构性对应物）。

增加观测维度揭示的是全貌——哪些是真收敛，哪些是被低维投影掩盖的架构差异。低维投影上的”对齐”就像牛顿力学在低速下的”精确”——不是错觉，但也不是全部真相。

第三条路径：模块化混合架构（讨论补充 2026-05-20）

原文的框架只考虑了两种可能：”自然收敛”或”永远不同”。但存在第三条路径——通过模块化组合 + 稀疏耦合工程化地构建收敛。

这不是纯猜测。感觉替代（Bach-y-Rita 1960s–2000s：触觉阵列让盲人产生类视觉空间感知）、人工耳蜗（本质上是人工听觉前端耦合到生物听觉皮层）、跨模态可塑性（Sur et al. 2000：雪貂视网膜接线到听觉皮层后发展出方向选择性）都表明：大脑可以接纳新的输入模态，前提是输入保留了空间/时序统计结构。

一个思想实验：如果构建一个”人工红外皮层”（外部模块做预处理，输出通过 BCI 稀疏耦合到已有大脑），大脑理论上可以学会”看到”红外线。Mountcastle（1978）的假说——新皮层的所有区域运行同一套基本算法，差异来自输入统计——支持这种可能性。

但存在关键约束：

  1. 接口带宽：当前 BCI 约 ~10³–10⁴ 个通道，远低于皮层柱间连接密度。
  2. 编码兼容性：生物脉冲编码与人工信号之间需要翻译层。
  3. 内稳态固化：成年大脑的可塑性已被内稳态机制大幅收紧（人工耳蜗在儿童效果远好于成人）。新输入打破现有的预测-误差平衡，大脑会主动抵抗。

这个方向的含义是：不是两条路自然走到同一个山顶，而是在两座山之间修一座桥。 桥修好之后，两边的”山”还是原来的形状吗？大脑接入新模态会重塑自己的表征，人工模块也需要适配生物编码——最终的混合系统可能既不像原来的大脑，也不像原来的 AI，而是一种新的东西。

真正的洞察不是”两条路径在山顶相遇”，而是”两条路径各自爬的山形状不同——一座是内稳态-具身-社会的山，一座是统计模式-规模-效率的山——在某些山腰的风景碰巧看起来相似。而真正有趣的工程问题是：能不能在两座山之间修桥？”

不确定点

  1. 时序编码的不可约贡献：时序编码在大脑中到底承载了多少”不可约”的计算信息？不同脑区可能有不同答案。
  2. 预测编码作为 BP 近似的在体验证：数学上预测编码可以近似 BP，但在活体大脑中这个过程的实际实现程度仍不清楚。
  3. 具身认知约束的强度：智能是否必须需要具身性和内稳态？还是这些只是生物智能的一种实现路径？这是一个哲学争论，目前无法用实验定论。
  4. Transformer 的”类重整化”行为：尽管残差流+叠加与标准 RG 不同，但自注意力是否在某种广义上执行了自适应的”分块”操作？这需要更精确的形式化。
  5. 训练课程 vs 架构硬约束的边界：Lake & Baroni 2023 证明组合性泛化差距可通过 meta-learning 弥合。哪些归纳偏置差异是”训练课程”层面的（可弥合），哪些是”架构”层面的（不可弥合）？这条线在哪里？
  6. 收敛论作为”有效理论”的适用域精确边界：收敛在哪些任务、哪些测试条件、哪些表征层级上成立？需要更系统的映射。

后续问题

  1. AI 系统如何避免类似大脑的预测系统固化？ 如果两个系统确实在某些层面共享”预测误差最小化”的逻辑，那么大脑的固化是否预示了 AI 系统的某种类似退化？
  2. 具身 AI 是否会改变收敛图景？ 如果给 AI 系统加上内稳态需求、身体模拟和在线学习，表征对齐是否会更强？
  3. Transformer 的叠加现象是否暗示了一种新的信息组织原理？ 叠加（superposition）既不是 RG 粗粒化也不是经典降维——它可能代表了一种我们尚未充分理论化的信息编码策略。
  4. 模块化混合智能系统的可行性与约束：通过 BCI + 稀疏耦合将人工感知模块接入生物大脑，技术瓶颈在接口带宽、编码兼容还是内稳态抵抗？成年大脑的可塑性上限在哪里？这是一个连接我们收敛论调研和内稳态固化调研的交叉方向。
  5. “有效理论”框架的元方法论价值：用”有效理论 + 适用域”代替”对/错”来评估跨领域类比，是否可以推广为我们评估科普文章的通用标准？

关联笔记

标签: