跳至正文

测量的代理性——横跨物理/生物/AI 的同一病

目录

问题

我们想测量的东西，常常不能直接测。于是用一个可测的代理量去代理一个不可直接测的目标概念——表观时钟代理生物年龄、PCI 代理意识、距临界距离代理衰老、4/5 律代理级串、Casimir 力代理真空涨落、benchmark 分数代理泛化能力。

母命题：代理量何时忠实于目标量、何时背叛？

锋利切口不是”代理量会背叛”（这是常识），而是：“Goodhart 定律作为跨域统一结构”是不是又一个被神化的跨域叙事？——就像 FEP、收敛论、SOC 那样，一个真东西（代理量被优化后会失效）被抬成万能解释。这是自指的——我们自己的课题也可能在犯同一种病。

简短结论

母裁决：代理性现象真、三病统一结构半、跨域外推软、自指上红线。

  • 代理性现象真：每个领域都有硬例——Goodhart 1975 原始陈述、Skalse 2022 reward hacking 形式化、Locatello 2019/2025 不可识别性、Prentice 1989 替代终点四准则、Voight 2012 HDL 反例、Jaffe 2005 Casimir 不靠零点能、Schaeffer 2023 度量幻象、Heap 2025 SAE 欠定。
  • 三病统一结构半：Goodhart 病（优化后背叛）、不可识别性病（信息论上不可能）、识别假设病（关系本身是假设）共享”代理≠目标”但机制不同——Goodhart 是动力学、不可识别性是信息论、识别假设是统计。强行统一成”Goodhart 定律”是收敛论同病（把功能类比抬成数学同构）。Manheim & Garrabrant 2018 自承”terminology ambiguous…discussion using this ambiguous terminology ignores distinctions between different failure modes”。
  • 跨域外推软：把”代理量会背叛”抬成”所有测量都背叛”是过度推销——有些代理是忠实的（量子霍尔电导精确量子化 10⁻⁹、湍流 4/5 律唯一从 NS 精确导出、原子钟 10⁻¹⁵）。找到忠实代理的共同特征才是真答案。
  • 自指上红线：我们自己的 55 篇裁决用了至少 50+ 个代理量。回填审计发现：多数代理忠实度中等或被自评欠定；两例忠实度极高（量子化电导、4/5 律）；两例代理方向反向（Physics-IQ r=−0.46、房颤单尺度熵最高却是病）；多例代理被替代机制复现（Horvath 时钟 66-75% 可随机产生）。如果我们自己在大量使用不忠实代理做裁决，”测量的代理性”作为课题本身就软了——我们用自己的裁决做了 Goodhart 的反例。

可信度

  • Overall: 中
  • 稳健部分：Goodhart 1975 原始归因（亲核 Goodhart 1984 p.96 + Strathern 1997 European Review 5:305-321）、Manheim & Garrabrant 2018 四分类（亲核 arXiv:1803.04585）、Skalse 2022 形式化（亲核 arXiv:2209.13085 摘要）、Locatello 2025 measurement perspective（亲核 OpenReview cx45ACt9Lg NeurIPS 2025 poster）、Prentice 1989 四准则（亲核 Stat Med 8:431-440 DOI:10.1002/sim.4780080407）、Ciani 2021 三步验证框架（亲核 PMC8108112 全文 + Discussion/Conclusions 提取）、Jaffe 2005 Casimir（亲核 arXiv:hep-th/0503158 摘要 + Phys Rev D72:021301）、von Klitzing 1980（亲核 DOI:10.1103/PhysRevLett.45.494）、Lawrence 2023 pointer（亲核 Found Phys 53:66）。复用旧篇亲核：Schaeffer 2023 NeurIPS 杰出论文、Heap 2025 arXiv:2501.17727、Maudlin 1995 Br J Philos Sci、Lawlor 2016 IJE、Voight 2012 Lancet。
  • 理论整合：三病消歧（Goodhart/不可识别性/识别假设）是作者整合框架、非学界既有量表——与 Manheim & Garrabrant 2018 四分类（Regressional/Extremal/Causal/Adversarial）平行但结构不同：他们的 Causal Goodhart 部分覆盖识别假设病，但四分法全在 Goodhart 框架内，没有把不可识别性病独立出来。本篇三分法是对 Manheim & Garrabrant 四分法的结构性扩展。此扩展是作者整合脚手架，正文 §三已加显式作者声明。
  • 待核对：Manheim & Garrabrant 2018 正文 PDF 未逐字全文亲核（只亲核 arXiv abstract + intelligence.org 博文 + LessWrong Garrabrant 2017 原帖 highlights）；Skalse 2022 只亲核 arXiv abstract 未读全文 23 页（定理细节来自 agent 提取 + 被引论文 highlights 交叉）；Lawrence 2023 付费墙只拿到摘要 + Appendix 公式；Campbell 1979 原始出处未亲核（只用 Rodamar 2018 Significance 转引）。

关键结论

§一 三种病的消歧——本课题的核心 intellectual content

通读 55 篇已归档调研后发现，”测量的代理性”至少包含三种结构不同的病，它们被笼统地叫”Goodhart”但机制不同：

病 机制 我们撞到的硬例 背叛原因
Goodhart 病 代理量被优化后背叛目标量 Schaeffer 2023 度量幻象（标度律篇）、AI 涌现幻象（涌现篇）、benchmark 过拟合（过拟合篇）、RLHF reward hacking（Skalse 2022） 动力学：优化压力让代理量与目标量的相关性断裂
不可识别性病 代理量在信息论上不足以恢复目标量 Locatello 2019/2025 不可识别性 + SAE 读数欠定（可解释性篇 Heap 2025）、量子测量 definiteness（量子测量篇 Maudlin 1995）、探针 vs 因果干预（世界模型篇 Nanda） 信息论：即使不优化，代理量本身就不含足够信息
识别假设病 代理量与目标量的关系依赖不可检验假设 因果识别假设（因果篇 Lawlor 2016）、表观时钟”读数≠实体”（信息论衰老对决篇 Tong-Teschendorff 2024）、DCC 距临界指标全是代理（DCC 篇自承”个人判断”）、X 失活偏斜≠寿命运因（女性长寿篇 Gentilini 2012） 统计：代理-目标关系本身是未被检验的假设

三病关系：共享”代理≠目标”的表层结构，但断裂发生在不同层——Goodhart 在动力学层（相关性被优化压力破坏）、不可识别性在信息论层（信息不够）、识别假设在统计层（关系本身是假设）。三病不是同一病。 Manheim & Garrabrant 2018 四分类（Regressional/Extremal/Causal/Adversarial）全在 Goodhart 框架内，他们的 Causal Goodhart 部分覆盖识别假设病，但没有把不可识别性病独立出来——因为不可识别性不是”优化后失效”而是”即使不优化也不可能”。本篇三分法是对 Manheim & Garrabrant 四分法的结构性扩展。

作者声明：三病消歧是作者整合脚手架、非学界既有量表。学界既有的是 Manheim & Garrabrant 2018 四分类（Goodhart 框架内）+ Locatello 不可识别性（因果表示学习领域内）+ Prentice 替代终点验证（生物统计领域内）——三个领域各自独立，检索范围内无人把三者并列为同一超类的三个子类（检索阴性，是本篇增量）。

§二 战场一：Goodhart 病——代理量被优化后背叛

原始归因亲核：Goodhart 1975 原始陈述是”Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes”（Goodhart 1984 Monetary Theory and Practice p.96，经 Cambridge DAMTP McIntyre 页转引）。原始两篇是 Goodhart 1975a “Monetary Relationships: A View from Threadneedle Street” + 1975b “Problems of Monetary Management: The UK Experience”，都在 Papers in Monetary Economics Vol.1, Reserve Bank of Australia, July 1975（Chrystal & Mizen 2003 综述 亲核归因）。通俗版”When a measure becomes a target, it ceases to be a good measure”是 Strathern 1997 European Review 5:305-321，经 Hoskin 1996 转述。

归因纠错：是 Charles Goodhart 不是 Charles Goodheart（常见拼错）；1975 不是 1978；原版是 RBA 会议论文、1984 才结集出版；Strathern 1997 是通俗化转述非 Goodhart 原话。Campbell 1979 有学术优先权（Rodamar 2018 Significance 15，转引未亲核原文）。

Manheim & Garrabrant 2018 四分类（arXiv:1803.04585，亲核 abstract + intelligence.org 2018 博文 + Garrabrant 2017 LessWrong 原帖）：

  • Regressional Goodhart：选代理量时也选了代理与目标的差——”shows up every time the proxy and the goal are not exactly the same”
  • Extremal Goodhart：代理取极值的世界可能和观测到相关的普通世界很不同
  • Causal Goodhart：代理与目标的关联是非因果的，干预代理可能够不着目标——”goes away when just sample a world with large proxy value, rather than intervene”
  • Adversarial Goodhart：优化代理给对手激励去把他们的目标关联到你的代理

Skalse 2022 reward hacking 形式化（arXiv:2209.13085，亲核 abstract）：”first formal definition of reward hacking, a phenomenon where optimizing an imperfect proxy reward function leads to poor performance according to the true reward function”。关键定理：“unhackable proxy”——如果增加代理期望回报永远不降低真期望回报则不可 hack；但线性 reward 使 unhackability 极强——”for the set of all stochastic policies, two reward functions can only be unhackable if one of them is constant”。即：全随机策略下，只有常数 reward 才不可 hack——这是 Goodhart 病在 AI 层的硬数学，且是悲观定理。被多篇 2024-2026 RLHF 论文引用为标准形式化出处（arXiv:2407.14503 “Catastrophic Goodhart” “catastrophic Goodhart, after Goodhart’s law”、arXiv:2506.19248 “Inference-Time Reward Hacking” Definition 1）。

AI 层案例：

  • Schaeffer 2023 NeurIPS 杰出论文（标度律篇已亲核）：涌现能力是度量幻象——非连续指标制造突然涌现假象
  • Heap 2025（可解释性篇已亲核 arXiv:2501.17727）：随机初始化 transformer 也能提”可解释”SAE 特征——代理被优化压力之外就已经欠定，但 Goodhart 框架不覆盖此案（这是为什么本篇把不可识别性病独立出来）
  • RLHF reward overoptimization（arXiv:2310.04373 “any RM is only a proxy for human evaluation…as predicted by Goodhart’s Law”）

生物层案例：

  • Voight 2012 HDL 反例（因果篇已亲核 Lancet）：HDL 基因 OR 0.93 无保护、LDL OR 2.13 致病——HDL 作为”好胆固醇”代理被优化（他汀类升 HDL）后背叛目标（接因果篇”孟德尔随机化栽在水平多效性”）
  • HbA1c 作为血糖控制代理：优化 HbA1c 后发现它也是血红蛋白寿命的代理（溶血性贫血假性降 HbA1c）

社会层案例：GDP 作为福利代理、发表数量作为科研质量代理（接 δ2 复制危机）；Cambridge BBS “Dead rats, dopamine, performance metrics, and peacock tails” 提出 “proxy failure” 作为跨神经科学/经济/生态的统一机制——这是学界最接近本课题母命题的先发论文，但只做 Goodhart 框架内的统一，没碰不可识别性病。

红队焦点：Goodhart 是真的跨域统一结构，还是”优化导致相关性断裂”这个常识被起了名字？Commoncog 2023 和 Leadership Garden 2024 都批 Goodhart 被滥用为”thought-terminating cliché”——”Any metric will be gamed, so why bother measuring?”不是教训。本篇立场：Goodhart 病是真病且有硬数学（Skalse 2022），但把它当跨域万能钥匙是把功能类比抬成本体论——与收敛论、FEP、SOC 同病。

§三 战场二：不可识别性病——信息论上就不可能

这是比 Goodhart 更深的病——不是优化导致背叛，是即使不优化也不可能从代理量恢复目标量。

Locatello 不可识别性：Locatello et al. 2019 NeurIPS（经可解释性篇已点）证表示学习的基础不可识别性——”only observational data is insufficient to identify the latent variables”。Locatello 2025 NeurIPS poster “The third pillar of causal analysis? A measurement perspective on causal representations”（亲核 OpenReview 页）把 CRL 重述为 measurement model 框架：”learned representations are viewed as proxy measurements of the latent causal variables”——Locatello 本人合著，用 “proxy measurement” 术语，且提出 T-MEX score 量化代理忠实度。这是”不可识别性病”在 AI 层的最新硬文献。

SAE 读数欠定（可解释性篇已亲核）：Heap 2025 arXiv:2501.17727 随机初始化 transformer 也能提”可解释”SAE 特征——代理量在信息论上就不足以区分”真特征”与”随机投影”；Paulo-Belrose 不同种子仅 ~30% 共享；合成环境仅恢复 ~9% 真特征；DeepMind 2025-03 暂停基础 SAE 研究。关键：这不是 Goodhart 病——没人优化 SAE 读数，是 SAE 读数本身就不含足够信息恢复目标。

量子测量 definiteness（量子测量篇已亲核 Maudlin 1995）：退相干解决优选基问题但不解决 definiteness/唯一确定结果——Schlosshauer 2005/2019 “cannot be solved by decoherence”。量子测量的代理性是特殊的：测量行为本身改变被测系统（与经典代理不同），指针态只是环境诱导的优选基而非目标系统的忠实代理（Lawrence 2023 Found Phys 53:66 亲核摘要：”pointer emerges from the apparatus…separates the pointer into distinct quantum and (effectively) classical parts”）。

探针 vs 因果干预（世界模型篇已亲核 Nanda）：OthelloGPT 探针读出的状态表征——是模型在用还是探针的投射？Nanda 亲口设限”toy model、外探语言 speculative”。Hazineh 2023 arXiv:2310.07582 独立印证”causally steers”——但探针读数作为”内部表征”的代理仍有不可识别性边界。

红队焦点：不可识别性是否被夸大？有些不可识别性可以通过多代理量三角验证解决（接因果篇 Lawlor 2016 三角验证）——Locatello 2025 的 T-MEX score 正是这种努力。但三角验证只能缓解不能消除——因为多个代理量之间的协同性本身又需要假设（接识别假设病）。不可识别性病是三种病中最干净的——它有数学定理（Locatello 2019），不依赖”优化压力”这个难以量化的概念。

§四 战场三：识别假设病——关系本身是未检验假设

这是三种病中最难根治的——它不是”优化后背叛”也不是”信息不足”，而是代理-目标关系本身就是假设。

因果识别假设（因果篇已亲核）：可忽略性/排他性/SUTVA 不可检验——Cartwright “No causes in, no causes out”、Deaton-Cartwright 2018 “any special status for RCTs is unwarranted”。关键：RCT 也不解决识别假设病——它只是让可忽略性更可信，但不消除。

替代终点验证（亲核 Ciani 2021 PMC8108112 全文 + Prentice 1989 Stat Med 8:431-440）：

  • Prentice 1989 四准则：代理变量必须”capture”治疗与真终点的任何关系——”the true endpoint rate at any follow-up time to be independent of treatment, given the preceding history of the surrogate variable”。但 Lagakos 2004 Stat Med 证 Prentice 准则只保证”真终点有效应⟹代理有效应”，不保证反之——”contrary to popular belief, it does not ensure…observation of a significant treatment effect on the surrogate endpoint can be used to infer a treatment effect on the true endpoint”。
  • Ciani 2021 三步验证框架（亲核 PMC8108112 Table 1）：①证据等级（IPD meta-analysis of RCTs > 观察性 > 病理生理）②关联强度（个体级 + 试验级 R²≥0.6/0.7 或 R≥0.85）③效应量化（预测真终点效应）。
  • 跨机构一致性极低：124 份报告 / 8 个 HTA 机构，代理可接受性跨机构一致 κ=0.10（P=0.004，”very low level of agreement”）；最终推荐一致 κ=0.18。IQWiG 最严：无一 surrogate 被明确判为有效。
  • 代理-目标关系是情境特定的：Ciani 2021 Conclusions “Claims of surrogate validity need to be considered contextually, given that the relationship between surrogate endpoint and patient-relevant outcome is typically treatment and indication specific“——代理-目标关系不是普适的，每次都是新假设。
  • FDA 批准后验证稀缺：Ciani 2021 引”only 1 in 10 new drug indications approved by the US FDA on the basis of surrogate endpoints has been shown to have at least 1 postapproval trial validating the use of the surrogate”。

表观时钟”读数≠实体”（信息论衰老对决篇已亲核）：Tong-Teschendorff 2024 Horvath 时钟约 66-75% 可由纯随机过程产生——代理的独占解释权被夺走（不是”信息被擦除”而是”随机漂移也能产生同样读数”）。Tarkhov-Fedichev 2024 用更严格熵论得相反结论”熵增不可逆”。

DCC “距临界距离”14 个指标（DCC 篇自承）：”复合动力学年龄指数为个人判断”——作者自承自造代理。候选指标族（雪崩 κ/DCC/σ、1/f 斜率、DFA Hurst、多尺度熵、HRV 时间不可逆性、临界减慢三联征、昼夜振幅、HPA 应激恢复、脑系统 segregation）全是衰老的代理，但”多指标在个体内协同移动、严格临界 vs reverberating vs Griffiths、混杂因素控制仍不确定”。

红队焦点：识别假设病是三种病中最隐蔽的——Goodhart 病有优化压力可观测、不可识别性病有数学定理可证，但识别假设病的”假设”本身不可检验（Cartwright “No causes in”）。三角验证能部分缓解（Lawlor 2016）但不能消除——因为多个代理量之间的协同性本身又需要假设。这是测量的代理性的真命门：不是”代理会背叛”（可观测），而是”代理-目标关系是否成立”（不可检验）。

§五 战场四：忠实代理的反例——什么特征让代理量忠实？

这是防”所有代理都背叛”过度推销的战场——有些代理是忠实的，找到它们的共同特征才是真答案。

量子霍尔电导（拓扑物质篇已亲核 von Klitzing 1980 PRL 45:494-497）：电导作为”拓扑不变量（第一陈数）”的代理——精确量子化到 10⁻⁹（计量精度）、材料无关性 10⁻¹¹。这是代理量忠实度最高的案例之一——代理几乎等同于目标。2019 SI 重定义 后 R_K = h/e² 是精确值，量子霍尔+约瑟夫森是实现欧姆/伏特的量子基准。

湍流 4/5 律（湍流篇已亲核 Kármán-Howarth 1938，Nie-Tanveer 1999 亲核”only exact relation”）：4/5 律作为”能量级串”的代理——唯一从 NS 方程精确导出的非平凡标度律。对照：5/3 谱是唯象律非定理（Grant 1962 实测），间歇性证伪 K41 自相似——4/5 律忠实但 5/3 谱半忠实。

Casimir 力的反例——代理可不用目标机制算出（真空场篇已亲核 Jaffe 2005 arXiv:hep-th/0503158 Phys Rev D72:021301）：Casimir 力作为”真空零点能”的代理——但 Jaffe 亲核摘要”Casimir effects can be formulated and Casimir forces can be computed without reference to zero point energies. They are relativistic, quantum forces between charges and currents. The Casimir force (per unit area) between parallel plates vanishes as α, the fine structure constant, goes to zero, and the standard result, which appears to be independent of α, corresponds to the α→∞ limit.” 这是代理的反例——代理量（Casimir 力）忠实于目标现象（力存在），但对目标机制（零点能实在性）不忠实：力是真的，但”零点能实在”这个机制归因可被绕过。这是”代理忠实于现象但不忠实于机制”的干净案例。

原子钟：SI 秒定义基于铯原子超精细跃迁，精度 10⁻¹⁵——时间作为周期数的代理，忠实度极高。

忠实代理的共同特征（作者整合，非学界既有）：

  1. 数学结构同构（量子霍尔：电导=陈数；4/5 律：从 NS 精确导出；原子钟：时间=周期数）
  2. 无优化压力（这些代理没人去”优化”——没人能作弊让量子霍尔电导偏离量子化）
  3. 可独立校准（量子霍尔可对其他国家实验室复现；4/5 律可对其他湍流装置复现）
  4. 机制层共享（代理与目标共享同一数学结构，不是仅现象相关）

对照 Goodhart 病案例：HDL 作为”心血管保护”代理——无数学结构同构（HDL 是分子浓度，保护是临床事件）、有优化压力（他汀升 HDL）、可校准但校准后发现背叛（Voight 2012）、机制层不共享（HDL 是”好胆固醇”的叙事相关非数学同构）。四个特征全缺 → Goodhart 病。

对照不可识别性病案例：SAE 读数作为”内部特征”代理——无数学结构同构、无优化压力（关键）、可校准但校准发现欠定（Heap 2025）、机制层不共享。缺 1+4 但不缺 2 → 不可识别性病。

对照识别假设病案例：表观时钟作为”生物年龄”代理——无数学结构同构、无优化压力、可校准但校准发现 66-75% 可随机产生、机制层不共享（时钟读数是甲基化统计，生物年龄是功能衰退）。缺 1+4 但不缺 2 → 识别假设病。

作者声明：四特征清单是作者整合脚手架、非学界既有量表。学界既有的是 Prentice 1989 四准则（替代终点专用）+ Locatello 2025 T-MEX（CRL 专用）——但两者都是领域内工具，检索范围内无人把”忠实代理的共同特征”作为跨域问题独立提出（检索阴性，是本篇增量）。

§六 战场五：自指审计——我们自己的裁决用了哪些代理量？

这是对 06-11 对称证据地图/回声室审计 的升格——从”单点依赖体检”升到”全主线代理量使用体检”。

审计方法：扫描 docs/research/index.md 全部 55 篇条目，提取每篇用到的代理量（”用 X 度量/操作化/代理 Y”）。35 篇能提取到明确代理量；21 篇是纯概念体检无明显代理量。

审计结果（关键发现）：

  1. 三陷阱套路化：整条主线对代理量最浓缩的自评词汇是 同名混量 / 读数≠实体 / 度量≠机制（2026-06-03 两种信息论衰老对决篇提出）——这是我们自己的”代理忠实度”词汇表。
  1. 代理方向反向的最硬例：Physics-IQ”视觉真实感与物理理解不相关 r=−0.46″（世界模型篇）——代理与目标负相关，是整库最干净的”代理失真”证据。同向：房颤单尺度熵最高却是病（噪声篇 Costa 2005）。
  1. 代理被替代机制复现：Horvath 时钟 66-75% 可由纯随机过程产生（Tong-Teschendorff 2024）——代理的独占解释权被夺走。
  1. 代理被商业利益加持：DOSI（Pyrkov 2021）”Gero 商业资助、单团队无机制”（死亡篇 + 三元组篇）——代理量与资助方利益耦合。
  1. 作者自承自造代理：因果篇成熟度阶梯”三角验证=及格线”是”作者整合脚手架、非学界既有量表…回填是作者主观打分无外部文献”——这是罕见的”我自己造的代理”诚实声明。
  1. 代理忠实度最高的两例（正面基准）：拓扑物质的量子化电导（10⁻⁹，von Klitzing 1980）+ 湍流 4/5 律（唯一 exact relation，Kármán-Howarth 1938）——这两个是”代理几乎等同于目标”的稀有案例。
  1. 代理一词多义陷阱：precision（预测编码篇 + 概率贝叶斯篇）至少四义混用（逆方差/突触增益/神经调质/注意力）——”让临床推论难以直接检验”。同向：critical period vs criticality（发育关键期篇）、”信息”四义（Landauer/全息/退相干/信息论衰老）、”自由能”两义（变分 FEP ≠ 热力学 Gibbs，热力学账单篇开篇即拆）。

自指命门：如果我们发现自己在大量使用不忠实代理做裁决，”测量的代理性”作为课题本身就软了——我们用自己的裁决做了 Goodhart 的反例。反过来，如果我们发现我们的代理量普遍忠实，那”测量的代理性”作为跨域命题也软了——我们的整个主线就是”忠实代理”的反例库。

实际发现：我们的代理量普遍中等忠实，且我们自己对这一点是自觉的——三陷阱词汇表的存在说明我们已经在用”读数≠实体”的自我审计。但自觉不等于解决——DCC 14 个指标、信息论衰老 TE/CD/Φ、意识 PCI 都是中等忠实的代理，我们用它做裁决时标了”个人判断””理论整合””待验证”，但没有系统性把”代理忠实度”作为独立裁决维度。本篇是把这条隐含的审计线显式化。

与回声室篇的关系：回声室篇（06-11）审”单点依赖”（一篇论文同时削弱 4 篇裁决）；本篇审”代理依赖”（一个代理量同时承重多个裁决）。两者正交：单点依赖是”来源侧”风险，代理依赖是”测量侧”风险。两者合起来才是对方法论的完整自体红队。

§七 认识论红队——”三种病是同一病”本身是不是 Goodhart？

自指命门：本课题的母命题是”三种病共享同一结构”——但这本身是不是 Goodhart 病？我们把”代理≠目标”这个真现象优化成跨域统一叙事时，是不是在犯 Goodhart 病——代理（三病共享”代理≠目标”）被优化（作为课题承重）后背叛目标（三病其实机制不同）？

诚实回答：是半 Goodhart。三病确实共享”代理≠目标”的表层，且这个表层不是空的——它让我们在看到一个代理量时先问”这是 Goodhart 病还是不可识别性病还是识别假设病？”而不是笼统说”代理会背叛”。但三病的机制层断裂是真的——Goodhart 是动力学、不可识别性是信息论、识别假设是统计——强行统一会把三种不同的可证伪点混淆。

与收敛论同病：这与 05-20 计算收敛论 的”把功能类比抬成数学同构”同病——收敛论把”脑与 DNN 在某些任务表征相似”抬成”脑=DNN”；本课题若把”三病都有代理≠目标”抬成”三病是同一病”就是同一种滑移。红线：把三病共享的”代理≠目标”当启发式工具合理；把它当跨域本体论真理就是收敛论同病。

与 FEP 同病：06-12 预测加工统一框架 裁决 FEP”软而近恒真式”——Friston 自承”cannot be falsified…possibly tautological”。本课题若把”代理会背叛”抬成”任何代理都被 Goodhart”就接近恒真式——因为任何代理都不完美，总能找到背叛案例。防恒真式刹车：三病消歧的价值在于区分三种不同的可证伪点——Goodhart 病可证伪（找优化后背叛的案例）、不可识别性病可证伪（证信息论上不可能）、识别假设病可证伪（证假设不可检验）。如果把三者混成”代理都会背叛”，就丢了三个可证伪点换来一个不可证伪的恒真式。

§八 成熟度光谱

从硬到软排列：

  1. 不可识别性病（最硬）：有数学定理（Locatello 2019）、有形式化定义（Skalse 2022 的 unhackable 是对偶）、有量化指标（Locatello 2025 T-MEX）
  2. Goodhart 病（硬）：有原始归因（Goodhart 1975）、有形式化（Skalse 2022）、有四分类（Manheim & Garrabrant 2018）、有跨域案例（AI/生物/社会）
  3. 识别假设病（中）：有原始框架（Prentice 1989）、有三步验证（Ciani 2021）、有跨机构不一致数据（κ=0.10）——但识别假设本身不可检验（Cartwright “No causes in”）
  4. 三病统一结构（软）：三病共享”代理≠目标”但机制不同；强行统一是收敛论同病
  5. 忠实代理的共同特征（软+作者整合）：四特征清单（数学同构/无优化压力/可独立校准/机制层共享）是作者整合脚手架、非学界既有量表
  6. 自指审计（软+作者整合）：55 篇代理量回填是本篇独家交付，但”忠实度”判据是作者主观打分

§九 对称双向红队

  • A 防神化（”所有代理都背叛/Goodhart 是万能钥匙”）：三病机制不同，强行统一是收敛论同病；有些代理是忠实的（量子霍尔 10⁻⁹、4/5 律唯一 exact relation、原子钟 10⁻¹⁵）；Commoncog 2023/Leadership Garden 2024 批 Goodhart 被滥用为 thought-terminating cliché
  • B 防虚无（”代理性不是问题/测量可靠”）：Skalse 2022 证全随机策略下只有常数 reward 不可 hack——这是悲观硬数学；Locatello 2019 证表示学习基础不可识别；Ciani 2021 证跨机构一致 κ=0.10——代理性是真问题且有硬定理
  • C 防五词打包（Goodhart/不可识别性/识别假设/代理性/测量问题 分层）：三病不是同一病；”代理性”是三层超类不是单一概念；Manheim & Garrabrant 2018 四分类全在 Goodhart 框架内，不可识别性病需独立
  • D 防两头宏大叙事：把”代理会背叛”抬成”测量不可能”是 FEP 同病（恒真式化）；把”有些代理忠实”抬成”测量无问题”是忽视 Skalse 悲观定理

§十 与已有课题的去重

已有课题 重叠点 去重边界
因果篇 06-12 识别假设病 因果篇造阶梯但只在生物医学用；本课题跨域用 + 加另两种病
涌现篇 05-02 Goodhart 病（指标幻象） 涌现篇只点 AI 评测一个案例；本课题问”Goodhart 是不是跨域统一结构”
标度律篇 06-05 Schaeffer 度量幻象 标度律篇只判标度律一个对象；本课题把度量幻象升格为跨域病
可解释性篇 06-06 Locatello 不可识别性 可解释性篇只判 SAE/电路；本课题把不可识别性升格为跨域病
量子测量篇 06-12 definiteness 问题 量子测量篇判诠释；本课题借 definiteness 作为”不可识别性病”的物理硬例
信息论衰老对决 06-03 “读数≠实体” 那篇判 Sinclair vs 我们；本课题把”读数≠实体”升格为跨域病
回声室篇 06-11 单点依赖、自体红队 回声室篇审”来源侧单点依赖”；本课题审”测量侧代理依赖”——两者正交
因果篇 §6.1 成熟度阶梯 三角验证 因果篇的阶梯是本课题的跨域工具，非重复
收敛论 05-20 “把类比抬成同构” 收敛论是本课题”三病统一是收敛论同病”的判据来源
真空场篇 06-12 Jaffe 2005 Casimir 真空场篇判零点能实在性；本课题借 Casimir 作为”代理忠实于现象但不忠实于机制”的案例

§十一 与 GLM 推荐课题的关系

本课题是 GLM 推荐课题④（测量的代理性）。GLM 同时推荐了①有效理论 vs 本体论、②”同名不同物”的元病理、③跨域类比成功/失败学——本课题与①②③都强交叠：

  • 与①：忠实代理的”数学结构同构”特征就是有效理论 vs 本体论的实例
  • 与②：precision 四义/critical period vs criticality/”信息”四义都是”同名不同物”，也是”代理一词多义陷阱”
  • 与③：三病消歧是跨域类比成功/失败学的案例库

如果头儿后续做①②③，本篇是它们的经验材料库；反过来①②③的框架可以回填本篇的软处。

证据与来源

亲核一手（webfetch 逐字/摘要）

  1. Goodhart 1975/1984 原始归因：Goodhart 1984 Monetary Theory and Practice p.96（经 Cambridge DAMTP McIntyre 页 转引原始陈述）；Chrystal & Mizen 2003 Central Banking 亲核 1975a/b RBA 归因；Strathern 1997 European Review 5:305-321 通俗版
  2. Manheim & Garrabrant 2018 四分类：arXiv:1803.04585 abstract 亲核 + intelligence.org 2018 + Garrabrant 2017 LessWrong + ar5iv 全文
  3. Skalse 2022 reward hacking 形式化：arXiv:2209.13085 abstract 亲核（”first formal definition of reward hacking…unhackable if increasing expected proxy return can never decrease expected true return…for all stochastic policies, two reward functions can only be unhackable if one is constant”）
  4. Locatello 2025 measurement perspective：OpenReview cx45ACt9Lg NeurIPS 2025 poster 亲核（”learned representations are viewed as proxy measurements of the latent causal variables…T-MEX score”）
  5. Ciani 2021 替代终点验证：PMC8108112 全文亲核 + Discussion/Conclusions 提取（κ=0.10、3-step framework、IQWiG 无一接受）
  6. Prentice 1989 四准则：Stat Med 8:431-440 亲核摘要 + Lagakos 2004 Stat Med 证 Prentice 只保证单向
  7. Jaffe 2005 Casimir：arXiv:hep-th/0503158 Phys Rev D72:021301 亲核摘要（”without reference to zero point energies””vanishes as α””α→∞ limit”）
  8. von Klitzing 1980 量子霍尔：DOI:10.1103/PhysRevLett.45.494 PRL 45:494-497 亲核
  9. Lawrence 2023 pointer：Found Phys 53:66 亲核摘要（”pointer emerges from the apparatus…separates into quantum and classical parts”）
  10. RLHF reward hacking 系列：arXiv:2407.14503 “Catastrophic Goodhart”、arXiv:2506.19248 “Inference-Time Reward Hacking”、arXiv:2310.04373 “confronting reward model overoptimization”（highlights 亲核）
  11. Cambridge BBS “Dead rats, dopamine, performance metrics”：Cambridge BBS（highlights 亲核，”proxy failure” 统一机制假说）

复用旧篇亲核

  1. Schaeffer 2023 NeurIPS 杰出论文：标度律篇已亲核 arXiv:2304.15004
  2. Heap 2025 SAE 欠定：可解释性篇已亲核 arXiv:2501.17727
  3. Maudlin 1995 三难：量子测量篇已亲核 Br J Philos Sci
  4. Lawlor 2016 三角验证：因果篇已亲核 IJE dyw314
  5. Voight 2012 HDL 反例：因果篇已亲核 Lancet60312-2)
  6. Tong-Teschendorff 2024 随机时钟：信息论衰老对决篇已亲核 PMID 38724732
  7. Casimir/Casimir 力不靠零点能：真空场篇已亲核 Jaffe 2005

二手/转引（标注性质）

  1. Campbell 1979：经 Rodamar 2018 Significance 15 转引，未亲核原文
  2. Manheim & Garrabrant 2018 正文 PDF：只亲核 abstract + 博文 + LessWrong 原帖，未逐字读全文 18 页
  3. Skalse 2022 全文 23 页：只亲核 abstract，定理细节来自被引论文 highlights 交叉
  4. Lawrence 2023 全文：付费墙只拿到摘要 + Appendix 公式

我的判断

  1. 三病消歧是本课题的真增量——学界三个领域各自独立（Manheim & Garrabrant 在 AI alignment、Locatello 在 CRL、Prentice 在生物统计），检索范围内无人把三者并列为同一超类的三个子类。但这增量是命名/整合贡献，非机制发现。
  1. 不可识别性病是三种病中最干净的——有数学定理（Locatello 2019）、有形式化定义（Skalse 2022 对偶）、有量化指标（T-MEX）。它应该作为”测量的代理性”的硬核——Goodhart 病太容易被滥用为万能钥匙，识别假设病太难根治，不可识别性病是可证伪的硬核。
  1. 忠实代理的四特征清单是我的整合假说——数学结构同构/无优化压力/可独立校准/机制层共享。这不是学界既有量表，是本篇从 55 篇裁决里挖出来的。它可证伪——找一个反例（缺这四特征但代理仍忠实的案例）就能修正。
  1. 自指审计的最大发现是我们对代理量是自觉的但不够系统——三陷阱词汇表（同名混量/读数≠实体/度量≠机制）证明我们已经在用”代理忠实度”的自我审计，但没把它作为独立裁决维度。本篇把这条隐含的审计线显式化。
  1. 本课题本身是半 Goodhart——三病共享”代理≠目标”是真的，但把这个共享优化成跨域统一叙事时有背叛目标的风险（三病机制不同被掩盖）。诚实定界：三病消歧是启发式工具非跨域本体论真理。

不确定点

  1. Manheim & Garrabrant 2018 正文未逐字全文亲核——四分类的精确边界（尤其 Causal Goodhart 与识别假设病的关系）需读全文确认。从 abstract + 博文看 Causal Goodhart 覆盖识别假设病但不在同一框架内讨论”假设不可检验”。
  2. Skalse 2022 定理细节——”全随机策略下只有常数 reward 不可 hack”的精确条件（确定性策略/有限随机策略下非平凡 unhackable pair 存在）需读全文 23 页确认。
  3. Campbell 1979 原始出处未亲核——只用 Rodamar 2018 转引。学术优先权争议（Campbell vs Goodhart）需读 Campbell 原文确认。
  4. 忠实代理四特征清单是作者整合——非学界既有量表，无外部文献支持。需对称找反例（缺四特征但代理忠实的案例）来修正。
  5. 自指审计基于 index.md 提取——未读每篇笔记全文，可能有更隐含的代理关系未提取。”MU 旁音素匹配”和”Strathern 1997″两条 index 未提及，需读对应笔记全文核实。
  6. 量子测量的代理性是否可归入同一框架——量子测量行为本身改变被测系统（与经典代理不同），强行归入可能是范畴错误。Lawrence 2023 指针分离量子/经典部分但未讨论”代理性”概念。

后续问题

  1. 有效理论 vs 本体论（GLM 课题①）——本课题的”忠实代理四特征”是有效理论 vs 本体论的实例；做①时可回填本篇的软处。
  2. “同名不同物”的元病理（GLM 课题②）——本课题的”代理一词多义陷阱”（precision 四义/critical period vs criticality）是②的案例；做②时可把本篇的案例库升格。
  3. 跨域类比成功/失败学（GLM 课题③）——本课题的三病消歧是③的案例库；做③时可回填”什么特征让跨域类比成功”。
  4. 复制危机/p<0.05（延伸候选 δ2）——识别假设病在统计显著性层的化身；做 δ2 时可接本篇。
  5. 可证伪性体检（延伸候选 δ1）——本课题的”三病可证伪点不同”是 δ1 的案例；做 δ1 时可接本篇。

关联笔记

标签: