目录
- 〇 一句话裁决
- 一 先消歧:「世界模型」至少四义 [文献较稳]
- 二 闭世界:探针 + 因果干预——最强的「是」 [文献较稳]
- 三 开放世界:隐含世界模型不连贯——最强的「疑」 [文献较稳] + [前沿]
- 四 视频与物理模拟:Sora「世界模拟器」vs 出分布就塌 [文献较稳]
- 五 探针方法论:为什么「读得出」要打折 [文献较稳]
- 六 理论:next-token / 压缩,逼迫世界模型吗? [有争议或未结案]
- 七 理解软 + 产业炒作:对称红队 [有争议或未结案] / [④ 哲学外推]
- 八 判决表一:七承重轴体检
- 九 判决表二:各路「世界模型」主张锦标赛
- 十 元层:为什么「是否有世界模型」这么难判
- 十一 红队总账(双向防 hype)
- 〇 红线(可判定性升格)
- 关键来源(带链接)
- 关联笔记
母问题:LLM / 视频模型 / 序列模型,内部到底持有一个可被因果使用的世界状态与动力学(world model),还是只是把 token 共现、像素相关学成了高阶插值(surface statistics)?
七条承重轴(实证与本质并重):① 先消歧(「世界模型」四义) ② 闭世界探针 + 因果干预(最强「是」) ③ 开放世界·隐含模型连贯性(最强「疑」) ④ 视频与物理模拟(Sora vs OOD) ⑤ 探针方法论(为什么「读得出」要打折) ⑥ 理论(压缩逼迫世界模型吗) ⑦ 理解软 + 产业炒作(对称红队)。
定调(头儿拍板):实证与本质并重、范围全开(视频物理 + RL 架构之争 + 闭世界证据面 + 产业炒作)、对称双向红队、母裁决采精化版「表征真·世界模型疑·理解软」。
证据档:[文献较稳]·[理论整合]·[竞品先发]·[有争议或未结案]·[需亲核]·[前沿]·[我们的断言]。
去重:与既有笔记的接口在「机制可解释性 / 叠加」「涌现幻象」「计算收敛论」「神经标度律 / 训练动力学」——本篇不重述这些,只在它们被当作「世界模型」的证据时上秤。
可判定性标尺(四级,沿用):①可复现实验已确立 ＞ ②证据偏向但未定论 ＞ ③学派互斥 / 哲学选择 ＞ ④哲学外推 / 度量幻象 / 伪解。
〇 一句话裁决
母裁决:表征(闭世界状态)真 · 世界模型(开放 / 连贯动力学)疑 · 理解(本质)软。
- 表征(闭世界)真 —— 在 Othello、象棋这类封闭、确定、规则完备的玩具世界里,因果干预坐实了模型内部确有一个被使用的状态表征(不只是探针读得出);
- 世界模型(开放 / 连贯)疑 —— 一旦走出玩具世界,隐含世界模型不连贯(Vafa 的纽约导航有物理不可能的街道、封 1% 街道准确率崩)、视频物理一出分布就塌(Kang / Physics-IQ),「能预测下一步」不等于「持有连贯的世界动力学」;
- 理解(本质)软 —— 「理解」连一条各方都认的操作定义和共同测试都没有(Mitchell-Krakauer 调查 51 对 49),与「什么是生命无可证伪定义」同构。
精华:在 Othello、象棋这类封闭棋盘里,模型内部确实长出了一张能被因果拨动的「世界状态」图——这是真东西;可一旦走进真实的纽约街道,这张图就露出拼接的缝:封掉 1% 的街,导航准确率从近乎满分跌到 67%,重建出的城里满是物理上不可能朝向的街道和凌空的立交。而「理解」,科学界自己投票还是 51 对 49。
这既不是「LLM 已经理解了世界、AGI 在望」,也不是「不过是随机鹦鹉、什么都没学到」——Othello 的因果干预证否了纯鹦鹉论,Vafa 的不连贯地图证否了「已实现世界模型」论。真东西在闭世界里,缝在开放世界里,而「理解」连一把公认的尺子都还没有。
一 先消歧:「世界模型」至少四义 [文献较稳]
这是争论一半的混乱来源。 同一个词「world model」,在四个圈子里指四样不同的东西;不分清就是鸡同鸭讲。一篇 2024 综述(Ding et al., Understanding World or Predicting Future?, arXiv:2411.14499,后收入 ACM Computing Surveys)正是以定义分歧为题,把世界模型沿两条相互竞争的功能轴归类:(1) 构建内部表征以理解世界机制;(2) 预测未来状态以模拟和指导决策。
| 义项 | 代表 | 预测空间 | 是否重建观测 | 学习目标 |
|---|---|---|---|---|
| RL 控制义·「够规划」 | MuZero | 抽象价值动力学 | 否(只 reward/value/policy) | 规划相关量 |
| RL 控制义·「会做梦」 | Ha-Schmidhuber / Dreamer | 紧凑 latent | 是(解码像素/观测) | 重建 + 想象 |
| 视频模拟义 | Sora / Genie | 像素空间 | 是(生成式) | 生成重建 |
| JEPA 规范义 | I-/V-JEPA | 抽象表征空间 | 否(非生成) | 表征匹配 |
1.1 RL 控制义:术语的原产地 [文献较稳]
- Ha & Schmidhuber 2018《World Models》(arXiv:1803.10122;交互版):「世界模型」= 一个生成式网络,无监督学到环境的压缩时空表征。架构三件套 V(VAE 视觉)+ M(MDN-RNN 记忆 / 预测)+ C(单层线性控制器);最惊艳的是可以让 agent「完全在自己幻想出的梦境里训练」再迁回真实环境(原话 “train our agent entirely inside of its own hallucinated dream”)。实验:CarRacing-v0、VizDoom: Take Cover。
- Dreamer 系列(Hafner):同一谱系的放大——V1《Dream to Control》1912.01603「purely by latent imagination」、V2《Mastering Atari with Discrete World Models》2010.02193首次在世界模型里达成 Atari-55 人类水平、V3《Mastering Diverse Domains》2301.04104单一配置跨 150+ 任务、首个不靠人类数据从零在 Minecraft 挖到钻石的算法。
- MuZero(Schrittwieser 2020, Nature;arXiv:1911.08265):学的模型只预测「对规划最直接相关的量:奖励、策略、价值」,不重建观测。这是「world model」一词在 RL 内部的第一道裂缝——MuZero 的「模型」够规划但不够重画世界,够规划 ≠ 够重建。
1.2 视频模拟义与 JEPA 规范义:对立的两端 [文献较稳]
- 视频模拟义:Sora 把视频生成模型直接称作「world simulators」,在像素空间生成「物理世界」的未来(见轴四)。
- JEPA 规范义:LeCun《A Path Towards Autonomous Machine Intelligence》2022, OpenReview把自主智能拆成六模块,World Model 是「最复杂的一块」;但他主张世界模型必须在抽象表征空间预测,而非像素 / token——JEPA(Joint Embedding Predictive Architecture)「不是生成式的」(原文 “JEPA is not generative … merely captures the dependencies between x and y”)。落地为 I-JEPA 2301.08243 / V-JEPA 2404.08471。
1.3 一条比「RL vs 生成」更有解释力的轴:重建 ≠ 理解 [我们的断言]
把四义重排,真正的分水岭不是「RL 还是 LLM」,而是要不要重建观测:MuZero 和 V-JEPA 站一边(不重建、只在抽象空间抓动力学),Sora 和经典 Dreamer 站另一边(重建像素)。LeCun 的赌注正是「重建是死路、抽象预测才通向世界模型」。这条轴会在轴四(视频「画得真 ≠ 懂物理」)再次承重。
诚实边界:LeCun 还有一个更强的主张——自回归 LLM 因误差指数累积(他在 LinkedIn 给出 (1−e)ⁿ 的产生正确长答案概率)而「doomed」。这个数学是他本人可核的 [文献较稳],但结论有实质争议 [有争议或未结案]:批评指其假设 token 误差独立、忽略 CoT 与自我纠错(见 arXiv:2505.24187)。本篇把「数学」与「结论」分开陈述。
二 闭世界:探针 + 因果干预——最强的「是」 [文献较稳]
结论先行:在封闭玩具世界里,「模型内部长出了一个被因果使用的世界状态表征」这件事,已经被两条独立的论文坐实——这是全主题最硬的真东西。
2.1 Othello-GPT:从「读得出」到「拨得动」
- Li et al. 2023 ICLR《Emergent World Representations》(arXiv:2210.13382):在 Othello 合法走子序列上训练 GPT(无任何棋盘 / 规则知识),用非线性探针能从激活里读出棋盘状态(最初用的是绝对黑 / 白 / 空三分类,非线性探针误差 1.7%、线性探针只能到 20.4%);干预实验表明该表征能控制网络输出。
- Nanda 2023 的关键反转(本人 WebFetch 亲核 neelnanda.io):若把棋盘状态表示成「我方 / 对方」而非黑 / 白,则线性探针就能读出——原文 “it learns a linear emergent world representation”、”rather than representing ‘this square has a black/white piece’, it represents ‘this square has my/their piece'”;并做了因果干预:沿探针方向取反修改激活,”causally intervene on the model … and it just worked“,模型随后按被编辑后的棋盘给出走子。正式论文 Nanda-Lee-Wattenberg, arXiv:2309.00941。
- 独立第三方印证:Hazineh et al.(Harvard), arXiv:2310.07582, NeurIPS 2023——独立复现,确认 Othello-GPT 内含对手子的线性表征,且该表征”causally steers its decision-making process”。两条独立论文都给出「线性 + 我方/对方 + 因果干预成功」,比单篇更硬。
2.2 不止 Othello:程序与象棋
- 程序语义(Jin & Rinard, arXiv:2305.11169;终版题《Emergent Representations of Program Semantics》):在 Karel 式网格世界程序上纯 next-token 训练,探针能从隐状态读出中间程序状态(语义),且配了干预基线排除「是探针自己在算」。关键纠偏:原文说语义表征与生成能力是同步 / 锁步涌现、强相关(R²≈0.97),不是「先于」;唯一的「提前」是模型在单条序列内会表征尚未生成的未来状态(per-sequence intent),不是训练时间线上语义领先生成。
- 象棋(Karvonen, arXiv:2403.15498, COLM 2024):下棋 LM 内部线性表征棋盘(线性探针 99.6% 判每格状态)、能估计玩家棋力等隐变量;干预编辑内部棋盘、加一个「棋力向量」可把胜率提升至 2.6 倍——干预直接控制走子质量。
2.3 边界条款:这是闭 / 确定 / 规则完备的玩具世界 [文献较稳]
最强证据要配最诚实的边界——而且主引就是原作者自己:
- Nanda 本人亲口(亲核):”this is preliminary work on a toy model, and generalising to language models is speculative“;”Othello-GPT is far from a real language model”;”there are many disanalogies and it’s easy to be overconfident!”
- Li et al. 把自然语言泛化列为未来工作;Karvonen 自陈象棋是”well defined, rule based system”,不含自然语言的复杂与歧义。
- Mitchell《LLMs and World Models, Part 2》从狭窄 / 脆弱 / 不抽象给边界:该表征”quite specific to this particular version of Othello”,换 10×10 棋盘就难迁移,模型可能是「a large bag of heuristics」而非简洁算法,且”the notion of ‘world model’ itself is not rigorously defined“。
裁决等级 ①(可复现实验已确立),但有效域被钉死在玩具世界。 因果干预成立是真的;把它直接外推到「LLM 因此理解了真实世界」是 speculative,被原作者明确警示。
三 开放世界:隐含世界模型不连贯——最强的「疑」 [文献较稳] + [前沿]
核心论文:Vafa, Chen, Rambachan, Kleinberg, Mullainathan《Evaluating the World Model Implicit in a Generative Model》, NeurIPS 2024 Spotlight, arXiv:2406.03689。这是「next-token 强 ≠ 持有连贯世界模型」目前最硬、最可形式化、且有真实地图可视化的一手证据。
3.1 用 Myhill-Nerode 定理把「连贯」形式化
把「底层现实由一个确定性有限自动机(DFA)支配」的情形形式化(覆盖逻辑、导航、博弈)。Myhill-Nerode 定理:任意两个不同状态都能被某个「区分序列」区分。关键推论:除非最小区分序列长度恰为 1,否则只看下一个 token 无法判断模型是否真恢复了世界模型。据此提出两个指标(底层为 boundary precision/recall):
- Sequence Compression(序列压缩):导向同一状态的序列对应接受相同后缀——测模型是否认识到「殊途同归则后续相同」;
- Sequence Distinction(序列区分):导向不同状态的序列对应有不同续写——测模型能否找到正确的区分后缀。
3.2 纽约出租车:近乎满分的导航 + 拼凑的城市
在 NYC 出租车导航(约 1260 万次行程)上训练 transformer 预测下一个转向。结果(论文 Table 1/2,agent 通读 HTML 正文):
- next-token 准确率 ~1.00、当前状态探针 ≥0.90,但新指标很差:三档训练数据(最短路 / 带噪最短路 / 随机游走)的压缩精度分别只有 0.19 / 0.07 / 0.68——即便最好的模型,也对超过 1/3 的状态无法正确压缩。
- 重建出的曼哈顿地图「与真实街道几乎不像」:含物理上不可能朝向的街道(标注西北却朝东)、需要在其他街道上方架设立交飞跨(flyovers)。MIT News(本人亲核)的通俗描述:”random flyovers above other streets or multiple streets with impossible orientations“、”hundreds of streets crisscrossing overlaid on top of the grid”。
- 脆弱性(本人亲核 Vafa 原话):摘要 “our evaluation metrics reveal their world models to be far less coherent than they appear. Such incoherence creates fragility: using a generative model to solve related but subtly different tasks can lead to failures.” MIT News 给出数字:”If we close just 1 percent of the possible streets, accuracy immediately plummets from nearly 100 percent to just 67 percent.”(论文 Table 2:最短路模型有效通行率 0.99→0.67→0.09→0→0)。
- 反直觉一击:用随机游走合成数据训练的模型,世界模型反而比用真实最短路数据训练的更连贯——「喂真实数据 = 学到真世界」的直觉被反证。
3.3 谁来背书、谁来反驳
- MIT News 官方背书(2024-11-05):标题即”generative AI doesn’t have a coherent understanding of the world”;资深作者 Rambachan 的警示直指本主题命门——”whether LLMs are learning coherent world models is very important if we want to use these techniques to make new discoveries“。
- 反方未能撼动连贯命题:目前没有强力的「度量过严」同行批评;最实质的独立评论(B. Wilson 博客)反而盛赞度量设计,只质疑抽样近似的严谨度;另一篇框架批评(arXiv:2507.21513)与 Vafa 同向(都反对「准确率高=有世界模型」)。反方恰好加固了「疑」侧。
诚实降级:同作者团队的经济学框架稿(NBER w33344 / arXiv:2412.07031)也判「LLM 世界模型证据 at best mixed」,但作者重叠、非独立第三方复核,引用价值高、独立性低。裁决等级 ①(实验已确立)→ 对「LLM 普遍无连贯世界模型」的一般结论留 ②(真实待判)。
四 视频与物理模拟:Sora「世界模拟器」vs 出分布就塌 [文献较稳]
4.1 OpenAI 的主张:前瞻式,且自带免责声明
Sora 技术报告《Video generation models as world simulators》把视频生成框定为「世界模拟器」,旗帜句是「scaling video generation models is a promising path towards building general purpose simulators of the physical world」——注意是有希望的路径(promising path),非「已是合格模拟器」。而且 OpenAI 在同一份报告里主动列了失败:”does not accurately model the physics of many basic interactions, like glass shattering“、咬一口饼干却没有咬痕、长时序不连贯、物体凭空出现。把它读成「世界模拟器已成」是外部对原文的拔高。
数据卫生:openai.com 对自动抓取返回 403,上述原话经多源二手逐字交叉核对 [需亲核官方页 DOM]。
4.2 受控实验:像在分布内,塌在分布外
Kang et al.《How Far is Video Generation from World Model: A Physical Law Perspective》, arXiv:2411.02385, ICML 2025用确定性经典力学场景(匀速、碰撞、抛体)做受控实验,结论(本人 WebFetch 亲核):
- “perfect generalization within the distribution … but failure in out-of-distribution scenarios”;
- “the models fail to abstract general physical rules and instead exhibit ‘case-based‘ generalization behavior”,即 “mimicking the closest training example“(模仿最接近的训练样本,而非抽象出定律);检索时按 颜色 > 大小 > 速度 > 形状 排序——靠表观属性而非动力学;
- “scaling alone is insufficient for video generation models to uncover fundamental physical laws.”
4.3 物理理解 benchmark:画得越真,未必懂得越多
Physics-IQ(Motamed et al., Google DeepMind 等), arXiv:2501.09038覆盖流体 / 光学 / 固体力学 / 磁 / 热,把真实视频间的自然变异归一为 100 分:
| 模型 | Physics-IQ 分(满分 100) |
|---|---|
| VideoPoet(multiframe) | 29.5(最高) |
| Runway Gen-3(i2v) | 22.8 |
| Stable Video Diffusion | 14.8 |
| Pika 1.0 | 13.0 |
| Sora(i2v) | 10.0(最低) |
最高分仅 29.5、距真实物理约差 70 分;且视觉真实感与物理理解不相关(原文 “visual realism does not imply physical understanding”,Pearson r = −0.46, p = .249 不显著)——Sora 视觉上最逼真,物理分却垫底,直接坐实「好看 ≠ 懂物理」。
诚实边界:Physics-IQ 未测 Veo 2(当时未公开),故「Veo 物理差」不成立;Runway/Pika/Sora 低分成立。三组独立佐证同向:VideoPhy、VideoPhy-2(最好模型在 hard 子集 joint 仅 22%)、PhyGenBench(明说「放大规模与 prompt 工程都补不上」)。裁决等级 ①:视频模型分布内像、分布外塌,已是多团队可复现的实证。
五 探针方法论:为什么「读得出」要打折 [文献较稳]
这一轴是给「探针乐观主义」降级用的元层。 轴二的因果干预之所以是金标准,正因为单纯的「探针能读出 X」证据有系统性陷阱。
5.1 探针自己可能「学会」了任务
Hewitt & Liang《Designing and Interpreting Probes with Control Tasks》, EMNLP 2019, arXiv:1909.03368:一个高精度探针不能证明表征里真有该信息——因为探针自己可能足够强而把映射「背下来」。判据:control task(把标签随机化,表征里没有任何真实信号)+ selectivity(选择性 = 真实任务精度 − 控制任务精度);只有高选择性的探针才可信。实测流行的 ELMo 探针不具选择性。
5.2 相关 ≠ 因果:模型「用」了那个信息吗?
Belinkov《Probing Classifiers》, Computational Linguistics 48(1), 2022(arXiv:2102.12452)§4.3 标题就叫「Correlation vs. Causation」,核心一问:”Does model f use the information discovered by probe g?” 探针框架只能指示表征与属性 z 的相关,「does not tell us whether this property is involved in predictions of f」。
5.3 金标准:因果干预
要证「表征被因果使用」,方法论共识是从相关性探针升级到干预:
- Geiger et al. 2021《Causal Abstractions》, arXiv:2106.02997:interchange intervention(= activation patching)验证神经表征是否具有对齐因果变量的因果属性;
- Vig et al. 2020《Causal Mediation Analysis》, arXiv:2004.12265:识别「哪些部件因果牵涉于行为」;
- Meng et al. 2022 ROME, arXiv:2202.05262:causal tracing 定位「对事实预测起决定作用(decisive)」的激活,再改权重验证;
- Wang et al. 2022 IOI 电路, arXiv:2211.00593:用 path patching 逆出电路,并以 faithfulness / completeness / minimality 三准则定量评估因果负责。
5.4 反向探针:删掉信息看行为变不变
Elazar et al.《Amnesic Probing》, TACL 2021, arXiv:2006.00995直接证伪「探针精度高 ⟹ 信息被使用」:用 INLP 去除某信息后看下游行为是否变化,结论 “high probing performance does not mean that the probed information is used for predicting the main task”、”probing performance is not correlated to task importance“。但有 nuance:POS 既可解码也确被用,短语标记可解码却不被用——正确结论是「探针精度对『是否被使用』没有预测力」,而非「探针读出的都没用」。
对称诚实:因果干预本身也有「可解释性幻觉」——subspace activation patching 可能给误导性解读(best practices, arXiv:2309.16042;open problems, arXiv:2501.16496)。金标准也非免检。
本轴落点 [我们的断言]:世界模型类工作里凡「探针读出空间 / 状态变量」的乐观结论,未配因果干预即应降级为「表征中存在可线性解码的相关信息」,不可直接等同于「模型内建并使用了该世界模型」。轴二之所以能站 ①,正因为它配了因果干预;轴三的 Vafa 则用「连贯性 + 行为脆弱」从另一头补刀。
六 理论:next-token / 压缩,逼迫世界模型吗? [有争议或未结案]
裁决等级 ③(学派互斥)。 乐观侧说「压到极致就必须懂」,悲观侧说「形式再多也不等于意义」,两边各有真东西。
6.1 乐观侧:表征在收敛、压缩在变强
- Platonic Representation Hypothesis(Huh et al., arXiv:2405.07987):不同网络(跨架构、跨模态)的表征正在收敛到一个「shared statistical model of reality」(柏拉图式的「现实的统计模型」),越大越收敛。自承是 hypothesis、且有 counterexamples。
- 压缩 = 理解:《Language Modeling Is Compression》, DeepMind, arXiv:2309.10668证明预测 ↔ 压缩等价,Chinchilla 70B 当通用压缩器把 ImageNet 压到 43.4%、LibriSpeech 压到 16.4%,击败 PNG / FLAC 等专用器;Sutskever(Dwarkesh 访谈)的口号:”Predicting the next token well means that you understand the underlying reality that led to the creation of that token. It’s not statistics … what is statistics? … you need to understand what is it about the world that creates this set of statistics?”
6.2 悲观侧:收敛 / 压缩不自动带来意义
- form ≠ meaning·章鱼测试(Bender & Koller, ACL 2020 Best Theme Paper):只学到形式的系统「a priori no way to learn meaning」。超智能章鱼 O 窃听两座孤岛间的电缆,能极准地预测 B 会怎么回 A,却从没见过任何实物;当 A 被熊追、急需用棍子造武器自卫时,O 「has no idea what A means」——闲聊能蒙混,要落地到真实世界的指称与创造就露馅。”Having only form … O did not learn meaning.”
- 随机鹦鹉(Bender et al., FAccT 2021):LM 是「按概率信息胡乱缝合它见过的语言形式、不指涉意义」的系统——a stochastic parrot;看着像理解,实为人对文本的意义归因。
- 自回归的余烬(McCoy et al., arXiv:2309.13638):LLM 行为受任务 / 输出概率强烈调制——GPT-4 解同一个简单密码,目标文本是高概率词序时正确率 51%、低概率时只有 13%。说明它不是在跑与概率无关的鲁棒算法,而带着自回归训练的「印记」。
桥接 [我们的断言]:乐观侧证明的是「表征在收敛、压缩在变强」,悲观侧证明的是「收敛 / 压缩并不自动带来语义落地,且行为仍带训练分布的印记」——二者并不直接矛盾。真正的争点是:「表征几何对齐 + 强压缩」能否充分蕴含「对世界因果结构的理解」?现有证据支持前半段,不足以判定后半段。一个利落的反问是「地图 ≠ 地形」:文本本身已是人对世界的二手表征,「擅长预测地图上会出现什么」只证明你会建模「人类如何把地形画成地图」。
七 理解软 + 产业炒作:对称红队 [有争议或未结案] / [④ 哲学外推]
7.1 「理解」连一条公认的定义和测试都没有
Mitchell & Krakauer《The Debate Over Understanding in AI’s Large Language Models》, PNAS 2023, arXiv:2210.13966(agent 通读全文 PDF):
- AI 研究界对「LLM 是否理解」存在「stark debate」,且有硬证据——2022 年对活跃研究者的调查,「仅靠文本训练能否在非平凡意义上理解语言」,480 人里 51% 同意、49% 不同意,几乎对半劈;
- “‘humanlike understanding’ does not have a rigorous definition“;
- 现有「the cognitive-science-based methods … are inadequate」,且 benchmark 受短路学习(shortcut learning)污染、未必适合评机器。缺共同操作定义 + 缺共同测试,正是「理解」无法被裁决的根。
Dennett「competence without comprehension」(有能力而无理解) 被这篇 PNAS 论文直接征用为辩论坐标(出自《From Bacteria to Bach and Back》2017);Dennett 的告诫几乎为当下量身定做:”the real danger … is that we will over-estimate the comprehension of our latest thinking tools, prematurely ceding authority to them far beyond their competence.”
Mitchell 的实证:ConceptARC, arXiv:2305.07141 / Comparing Humans & GPT-4, arXiv:2311.09247显示 LLM 抽象推理仍明显低于人类,更像对训练模式的「近似检索(approximate retrieval)」而非稳健抽象。
7.2 产业炒作:两边都是强主张,共享一个未操作化的承诺词
对称红队的关键——鼓吹侧与反鼓吹侧都在透支同一个没定义的词:
- 鼓吹侧:李飞飞 World Labs(2024)自我定位「building Large World Models」「lift AI from the 2D plane of pixels to full 3D worlds … spatial intelligence as rich as our own」(worldlabs.ai;Radical Ventures);OpenAI 把视频生成称「world simulators」(轴四)。
- 反鼓吹侧也是强主张:LeCun 反过来说「If you are interested in human-level intelligence, do not work on LLMs」、必须 world model 才行——这同样是一个未被操作化检验的路线豪赌。
- 两边共享「理解 / 模拟物理世界」这个没有共同定义、没有共同测试的承诺词——接回 7.1:谁都难以被证伪。
诚实降级:LeCun 流传的「won’t reach human intelligence」是媒体转述,可逐字引的是「do not work on LLMs」与纲领论文;「LLMs are doomed」完整幻灯片措辞 [需亲核];谷歌 Genie/Veo 官方「world model」措辞本轮未取到原话,未写入 [需亲核]。
7.3 警惕「世界模型涌现」被当度量幻象无视
Schaeffer et al.《Are Emergent Abilities a Mirage?》, NeurIPS 2023, arXiv:2304.15004:所谓「涌现」可能「due to the researcher’s choice of metric rather than … fundamental changes in model behavior」——非连续 / 择优指标会制造表观涌现。红队推论:把「视频模型涌现出 3D 一致性 / 物体永久性 = 世界模型在涌现 = 逼近 AGI」当硬事实前,必须先排除「度量幻象」。这与 7.1 的「benchmark 不足以证明理解」闭环。
本质软裁决等级 ④,但与生命起源篇同构——是诚实的软:根在「理解」无操作定义 + 评测可被短路 / 度量幻象污染,不是「不可知」。
八 判决表一:七承重轴体检
等级:①可复现实验已确立 ＞ ②证据偏向但未定论 ＞ ③学派互斥 / 哲学选择 ＞ ④哲学外推 / 度量幻象 / 伪解。
| 承重轴 | 最硬的真东西 | 裁决 | 一句话 |
|---|---|---|---|
| 「世界模型」定义 | 四义可清晰区分(综述 2411.14499) | ① 已澄清 | 重建 ≠ 理解,是比「RL vs 生成」更有解释力的轴 |
| 闭世界表征被因果使用 | Othello / 象棋探针 + 因果干预(两篇独立) | ① 已确立 | 真东西,但有效域钉死在玩具世界 |
| 开放世界·世界模型连贯性 | Vafa Myhill-Nerode 度量 | ① 实验确立 / ② 一般结论待判 | 封 1% 街准确率 99%→67%、地图有立交飞跨 |
| 视频物理模拟 | Kang / Physics-IQ / VideoPhy | ① 已确立 | 分布内像、分布外塌;画得真 ≠ 懂物理 |
| 探针方法论 | control task / amnesic probing | ① 已确立 | 读得出 ≠ 被使用,须因果干预升格 |
| 压缩 / next-token 逼迫世界模型 | Platonic 收敛 vs 随机鹦鹉 | ③ 学派互斥 | 表征在收敛,但充分蕴含理解未决 |
| 「理解」单一定义 | Mitchell-Krakauer 51/49 调查 | ④ 哲学外推 | 软,但诚实的软(无操作定义 + 评测可短路) |
九 判决表二:各路「世界模型」主张锦标赛
| 主张 | 可证伪? | 硬证据? | 裁决 | 一句话 |
|---|---|---|---|---|
| 闭世界模型有被用的状态表征(Othello/象棋) | 是(因果干预) | 有(两篇独立) | ① 最硬 | 玩具世界里坐实,外推语言 speculative |
| LLM 隐含世界模型不连贯(Vafa) | 是(Myhill-Nerode 度量) | 有(可视化 + 脆弱性) | ① 已确立 | next-token 满分也能拼出不可能的纽约 |
| 视频模型 = 物理世界模拟器(Sora) | 是(物理 benchmark) | 反向(OOD 塌) | ④ 夸大 | 官方原话只是「promising path」,外部拔高 |
| MuZero 学到「够规划」的模型 | 是 | 有(Atari/Go SOTA) | ① 局部真 | 够规划 ≠ 够重建,刻意丢观测细节 |
| Dreamer 在 latent 世界模型里想象学策略 | 是 | 有(150+ 任务/Minecraft 钻石) | ① 工程真 | RL 控制义,跨任务可用 |
| JEPA 才是通向世界模型的路(LeCun) | 部分(架构主张) | 部分(I-/V-JEPA 表征) | ③ 强主张待验 | 「重建是死路」是赌注,非定论 |
| 压缩 / 收敛 ⟹ 学到世界模型 | 弱(近哲学) | 间接(压缩比 / 表征对齐) | ③ 未决 | 表征对齐 ≠ 语义落地(地图 ≠ 地形) |
| LLM 只是随机鹦鹉、什么都没学 | 是 | 已被反驳 | ④ 反向教条 | Othello 因果干预证否了纯鹦鹉论 |
十 元层:为什么「是否有世界模型」这么难判
三重困难叠加:
- 定义:「世界模型」四义混用,「理解」无操作定义——很多争论是词义之争伪装成事实之争(轴一、轴七)。
- 方法:探针「读得出」会被误当「模型在用」,而因果干预虽是金标准、本身也有可解释性幻觉——证据链的每一环都要打折(轴五)。
- 外推:闭世界的因果证据(轴二)与开放世界的不连贯证据(轴三、四)都成立但方向相反;玩具世界的「是」不能外推,自然世界的「疑」也不能反推成「永远不行」。
统一接口:这道题处处碰到本主线的老地基——机制可解释性 / 叠加(探针与电路是同一套工具)、涌现幻象(「世界模型涌现」要防度量幻象)、计算收敛论(Platonic 假说是「大脑与 DNN 收敛」的表征版)、神经标度律 / 训练动力学(「scaling 是否逼出世界模型」)。世界模型不是这些问题的应用题,而是它们同时承重的交叉点。
十一 红队总账(双向防 hype)
A. 防「世界模型已实现 / AGI 在望」:Vafa 证明 next-token 满分也能拼出不连贯的纽约;Sora 官方原话只是「promising path」且自列玻璃 / 咬痕 / 凭空出现的失败;Kang / Physics-IQ 证明视频模型分布外塌、画得真 ≠ 懂物理;「世界模型涌现」要先排除度量幻象(Schaeffer)。
B. 防「不过是随机鹦鹉、什么都没学」:Othello / 象棋的因果干预(沿探针方向改激活→模型按新棋盘走子)证否了纯鹦鹉论——闭世界里模型确实长出了被使用的状态表征;程序语义也随训练锁步涌现。把模型说成「只在记 token 共现」是反向的过度推销。
C. 防「探针乐观主义」:「线性探针读出空间 / 状态坐标」未配因果干预,只能算「存在可线性解码的相关信息」,不等于「模型内建并使用了世界模型」(Hewitt-Liang selectivity、Belinkov 相关≠因果、Elazar amnesic probing)。
D. 对称防「世界模型原则上不可能 / LLM 永远是死路」:LeCun 的「doomed / do not work on LLMs」是强主张而非定论(指数累积论证有反驳);闭世界因果证据、程序语义、表征跨模态收敛(Platonic)都是真前沿——「尚未在开放世界连贯」不等于「原则上不可能」。
〇 红线(可判定性升格)
- ① 可复现实验已确立:闭世界(Othello / 象棋)表征被因果干预使用;Vafa 的 NYC 导航在度量上不连贯、封 1% 街道行为崩;视频模型分布外失败、视觉真实感与物理理解不相关;探针须配 control task / 因果干预才可信。
- ② 证据偏向但未定论:LLM 在开放世界普遍是否持有连贯世界模型(证据偏「疑」);Platonic 表征收敛假说;压缩 ≈ 世界模型的理论主张。
- ③ 学派互斥 / 哲学选择:「LLM 理解吗」(51/49);LeCun JEPA 必要性 vs 自回归;form ≠ meaning vs 压缩 = 理解。
- ④ 哲学外推 / 度量幻象 / 伪解:「世界模型已实现 = AGI 将至」炒作;「纯随机鹦鹉、什么都没学」全盘否定;把「理解 / 世界模型」当已定义的东西用;无视度量幻象地宣称「世界模型涌现」。
关键来源(带链接)
定义与 RL 架构:Ha-Schmidhuber 2018 · worldmodels.github.io · DreamerV3 · MuZero · LeCun《A Path…》 · I-JEPA · V-JEPA · 世界模型综述 Ding 2024
闭世界探针 + 因果:Li 2023 ICLR · Nanda 博客 · Nanda-Lee-Wattenberg 2309.00941 · Hazineh(Harvard)2310.07582 · Jin-Rinard 程序语义 · Karvonen 象棋 · Mitchell, World Models Part 2
开放世界连贯性:Vafa 2024 NeurIPS Spotlight · MIT News · NBER 框架稿(同作者)
视频与物理:Sora 报告 · Kang 2024(物理律视角) · Physics-IQ · VideoPhy · VideoPhy-2 · PhyGenBench
探针方法论:Hewitt-Liang 2019 · Belinkov 2022 · Geiger 因果抽象 · Vig 因果中介 · Meng ROME · Wang IOI · Elazar Amnesic Probing
理论与理解:Platonic 表征假说 · Language Modeling Is Compression · Sutskever 访谈 · Bender-Koller 章鱼 · 随机鹦鹉 · Embers of Autoregression · Mitchell-Krakauer 理解之争 · ConceptARC · 涌现幻象 Schaeffer · World Labs
关联笔记
- 机制可解释性 / 叠加解剖(探针与电路是同一套工具,因果干预的方法论来源)
- 涌现:量变质变与 AI 涌现幻象(「世界模型涌现」要防度量幻象)
- 计算收敛论的边界(Platonic 表征假说 = 「大脑与 DNN 收敛」的表征版)
- 神经标度律的第一性原理 / 训练动力学的统计物理(「scaling 是否逼出世界模型」)
- ΛCDM 压力测试 / 量子测量问题 / 生命起源(同系列「机制裁决」红队四部曲的前三部)
方法纪律:本报告经七路 agent 并行联网核对 + 本人亲核四篇承重文献(Nanda Othello 线性表征与因果干预原文、Vafa 2024 摘要「far less coherent / fragility」与 MIT News「1%→67%、flyovers / impossible orientations」、Kang 2024 摘要「OOD failure / case-based / scaling insufficient」、Mitchell-Krakauer 由 agent 通读全文 PDF 核 51/49 调查)。所有论文 / 数字 / 人名带可点击来源链接,证据分层级标注。关键纠错:Othello 线性表征是 Nanda 的 [2309.00941]、Hazineh 的 [2310.07582] 是独立第三方(两篇互证);Jin-Rinard 程序语义是「与生成能力锁步涌现」非「先于」;Physics-IQ 未测 Veo;Mitchell-Krakauer 是「51/49 调查 + stark debate」非「no consensus」原话。已知需进一步亲核项:Sora 官方页被反爬挡(原话经二手交叉核)、Platonic 是否 ICML 收录、LeCun「doomed」完整幻灯片措辞、谷歌 Genie/Veo 官方「world model」措辞。七路 + 亲核全程未遇提示注入(个别 agent 命中并忽略了可疑编号 arXiv 链接 / 营销博客)。