在开始 AGI 之前，先定义它

最近，我看了梁文锋关于 AGI 的演讲，他指出人工智能的终极目标是通用人工智能（AGI）——一种能以类人方式解决各种问题的一般智能。

然而，我越来越觉得，当下 AI 领域围绕 AGI 的讨论仍停留在经验层面。

我们讨论模型规模、参数量、强化学习、智能体和多模态，却很少有人触及一个更根本的问题：

什么才是 AGI？

直到今天，仍然没有一个被广泛接受的正式定义。大多数讨论都在描述现象，而非把握本质。

理论框架

历史上真正改变世界的，从来不是某台机器，而是它背后的理论。为了研究机械计算，图灵提出了图灵机模型。随后，丘奇 - 图灵论题指出：

任何能用有效程序计算的函数，都能被图灵机计算。

几乎所有现代计算机都是这个模型的工程实现：一个有限状态控制器加上外部存储。更重要的是，图灵进一步证明了停机问题不可判定。这意味着，人类第一次意识到：

并非所有问题都是可计算的。

换言之，计算机第一次拥有了明确定义的理论上限。这一发现的意义不亚于物理学中的热力学第二定律。

理论的局限

今天的 AGI，本质上正处于相当于计算机发明之前的那个阶段。

每个人都在造越来越大的机器，但下面这些问题仍然没有答案：

• 什么是智能？
• 智能能被形式化吗？
• 一般智能的必要条件是什么？
• 智能有理论极限吗？

如果未来有人能提出一套 AGI 公理，类似于图灵机之于计算理论，其意义或许远远超过再训练一个更大的模型。

只有这样的理论建立起来之后，我们才能真正讨论：什么能做到，什么永远做不到。

计算主义的内在边界

当今几乎所有主流 AI 方法，核心都建立在计算主义之上。

也就是说：智能就是计算。

如果这个前提成立，那么任何 AI 系统最终都属于可计算系统这一类。然而可计算性理论告诉我们，存在大量的不可判定问题（例如停机问题）。

于是，一个值得深思的问题浮现出来：如果 AGI 被定义为一种能够解决所有问题的智能，那么它必然要直面不可判定问题。

不可判定问题，按照丘奇 - 图灵框架，本质上是不可能被任何可计算系统解决的。

因此，如果采纳这种「全知全能」式的 AGI 定义，它与可计算性理论之间就出现了明显的张力。当然，这并不意味着 AGI 必然不可能；而是说明，「一般智能」到底意味着什么，需要更精确的定义。

AIXI 早已揭示了这一矛盾。事实上，这个问题很早就出现了。Marcus Hutter 的 AIXI 是一般智能最著名的数学模型之一。

AIXI 把智能定义为：

在所有可计算环境中，最大化长期期望回报的最优智能体。

它拥有严谨的数学定义，因此常被视为 AGI 的理论上限。但与此同时，AIXI 本身却是不可计算的。原因在于，它依赖所罗门诺夫归纳，需要对所有可能的程序求和——这个操作天然涉及不可计算的对象，因而无法在真实的物理世界中实现。

换言之，我们已经有了一种「完美智能」的形式化定义，却证明了它无法被计算。

这不是工程上的困难，而是理论上的局限。

我认为有一个公理是缺失的。目前，包括 DeepMind 在内的许多机构都在探索元学习、自适应智能体、世界模型等统一框架。在某种意义上，这些努力都可以被理解为对 AGI「公理系统」的搜寻。

然而，我认为有一个关键公理可能是缺失的：

智能体必须与环境保持连续的因果耦合，而不是作为一个超然的、观察者式的求解器运转。

真正的智能不是对固定数据集的一次性推理，而是在与环境、行动、反馈与修正的持续互动中不断塑造自身。

没有这个因果闭环，即使再大的语言模型，也像是静态世界里运转的模板匹配系统，而不是在实质意义上发展智能。

也许，我们真正需要追寻的并不是一个万能 AI。我越来越倾向于认为，真正值得研究的问题不是如何造出一个「全能」的 AI，而是：

智能是否存在类似于热力学第二定律或香农极限那样的根本性约束原理？

如果未来有人能证明，任何位于有限物理时空中的系统都不可能实现绝对的一般智能，

那么这样工作的意义，或许不亚于图灵建立计算理论，也不亚于牛顿和爱因斯坦为物理学奠定的基础框架。

它不会宣告 AI 的失败。

恰恰相反，它将揭示：真正值得追求的并不是无限的智能，而是一种在理论极限内逐步逼近最优的有界智能。

也许，站在未来回望，人们记住的今天将不是 AGI 在 2026 年出现的那一年，而是我们开始重新思考这个根本问题的那一年：「智能，到底是什么？」