📖 所有博文
涌现是幻象吗？
Schaeffer 等人表明，LLM 的「涌现能力」往往只是不连续的指标掩盖了平滑的能力增长。但 grokking、归纳头以及居里点式的转变都证明，真实的相变确实存在。
最大似然估计视角下的神经网络
从统计学习的视角看，现代神经网络确实可以理解为一个大规模的最大似然估计（MLE）过程。具体而言，神经网络是一个参数化函数，而最常见的训练方式正是在数据上做最大似然估计。
魏尔斯特拉斯理论下的 UAT 证明
UAT（通用逼近定理）的核心要旨是：神经网络能逼近任何连续函数，而连续函数又可用多项式逼近（魏尔斯特拉斯定理）。
张量 Tensor 简述
向量是箭头，对偶向量是标尺——它们的配对产生不变的标量。张量是带多个可填充槽位的线性机器，化解了「向量进向量出」与「输出标量」之间的悖论。度量张量连接二者，使长度与能量保持坐标不变。
The Messianic Narrative of Anthropic
The theatrics of Anthropic, led by Dario Amodei, exhibit the quintessential characteristics of the Judaic Messianic narrative, whose structure typically proceeds as follows: the world confronts an immense crisis of which the majority remains unaware; only a select few prophets perceive the danger; these prophets must be entrusted with authority; and they shall deliver salvation to the world.