大模型真的会在上下文里学习吗
大模型真的会在上下文里学习吗——从任务识别、标签重绑定到临时算法的六层承重测试
LLM 真的在推理吗
LLM 真的在推理吗——Chain-of-Thought 的能力、计算、轨迹与证明承重测试
语言作为压缩
语言作为压缩——大语言模型、人类语言与”可学习性”的信息论交叉：压缩≡语言建模真而窄、插值与结构学习是伪二分、Chomsky 与用法基础双向都过度而样本效率鸿沟是真命门、压缩=理解=智能则与计算收敛论同病
涌现、量变质变与 AI 涌现幻象
涌现、量变质变与 AI 涌现幻象