📖 所有博文
祛魅科研,每个研究生的必修课
自 2025 年入学至今,一年光阴悄然而逝,我已步入研二。回望这一年的研究生生活,我的心态与世界观经历了一场彻底而沉重的重塑——曾经的从容平实,如今已被挥之不去的失落感取代。
写作语言的转变
长期以来,为了学习英语并增强熟练度,在技术写作时,我都会刻意使用英语来写作。但是后来我发现使用英语的阅读和思考心智负担非常大。从笔记到表达与推演,写作目标发生变化后,认知资源也需要实现对应的重新分配。
大语言模型中的表征流形
将 LLM 的表征流形形式化:以度量空间定义特征,证明余弦相似度编码了特征之间的测地距离,并在颜色、日期与年份三类数据上实证验证了同胚性与等距性。
对角线论证:改变数学与计算机的证明方法
对角线论证由康托尔于 1891 年提出,通过构造一个能逃脱任何「完备列表或映射」的对象,证明某些无穷严格大于另一些无穷。这一自指技巧同样蕴含于康托尔定理、图灵停机问题与哥德尔不完备定理之中——一个统一了集合论、可计算性与逻辑学的思想。
在开始 AGI 之前,先定义它
AGI 研究仍停留在经验层面,缺乏基础性的理论框架。计算主义与不可判定问题之间存在核心张力,AIXI 正是一个例证。作者提出,与环境保持连续的因果耦合可能是缺失的公理,并呼吁寻找能约束任何物理可实现智能的根本性约束原理。