集合论悖论在十九、二十世纪之交动摇了数学的地基。围绕「数学到底建立在什么之上」,逻辑主义、形式主义、直觉主义三大纲领交锋半个世纪,最终由哥德尔不完备定理划定边界——数学没有倒塌,但它第一次精确知道了自己能力的极限。
悖论击中地基
危机的种子由康托尔种下。康托尔与集合论把无穷变成可操作的对象,弗雷格(Gottlob Frege)随即给出最激进的纲领——逻辑主义(Logicism):数学真理不是独立于逻辑的另一种真理,而是逻辑的延展;自然数、加法、无穷,全都应能从几条纯逻辑公理严格推出。他花二十余年写成《算术的基本定律》,准备把整个算术安放在逻辑之上。
1902 年第二卷付印之际,罗素来信:考虑「所有不包含自身的集合组成的集合」——它包含自己,当且仅当它不包含自己。这个用弗雷格系统自身的语言写出的罗素悖论(Russell’s Paradox)证明,无限制的集合概括规则会产出自我吞噬的对象。弗雷格在附录里承认大厦已动摇。这是数学三次危机的第三次,与前两次不同,这次动摇的不是某个分支,而是「数学推理本身是否可靠」。
逻辑主义的抢救
罗素没有放弃弗雷格的方向,而是修补语言本身。与怀特海合著的《数学原理》(Principia Mathematica, 1910–1913)引入类型论(Type Theory):对象、对象的集合、集合的集合分属不同类型,命题只能谈论更低类型的对象,自我指涉在语法上被禁止——悖论的入口被封死。代价是系统笨重:证明 要等到数百页之后,还需要一条缺乏直觉辩护的「还原公理」撑住。逻辑主义最终没有完全兑现「数学=逻辑」的承诺,但它把「数学命题可以彻底形式化」变成可检验的对象——这份遗产直接喂给了下一个纲领。
形式主义:符号游戏与它的裁判
希尔伯特(David Hilbert)接过问题,却换了赌注。他不去争论数学「是」什么,只要求它「无矛盾」:把数学写成一个形式系统(formal system)——公理、符号、推理规则,定理就是这个游戏里推得出的符号串;游戏内容有无「意义」是哲学问题,游戏会不会推出矛盾才是数学问题。为此他创设元数学(metamathematics):站在系统之外,用最保守的有限方法(finitary methods)——原则上可机械执行的有限推理——证明整个游戏的一致性(consistency)。这就是希尔伯特纲领(Hilbert’s Program)。它并非凭空而来:1900 年希尔伯特以 23 个问题开启世纪,第二个正是算术公理的一致性;此前分析的严格化已经示范,直觉靠不住的地方,公理能重建秩序。纲领的赌注清晰:只要有限方法能证明数学无矛盾,悖论就只是旧直觉的葬礼。
直觉主义:回到构造
布劳威尔(L.E.J. Brouwer)拒绝整场赌局。在他看来,数学既不是逻辑的延展,也不是符号游戏,而是心智的构造活动:一个数学对象存在,当且仅当你能给出构造它的程序。由此,排中律(law of excluded middle)在无穷对象上失效——「P 或非 P」预设了二者之一已被证明,而对无穷集合你可能两者都做不到。经典分析里大量「存在性证明」(假设不存在,导出矛盾,宣称存在)在他的标准下是空话。这一立场有古老的血统:古希腊数学 证明的发明所确立的传统里,证明本就是对构造的展示,欧几里得的「给定……作出来」先于任何形而上学。代价同样清晰:直觉主义数学要放弃大部分经典成果,重建代价惨重。希尔伯特的反击成了名言:「禁止数学家用排中律,就像禁止天文学家用望远镜。」
哥德尔的裁决
三派争的是「数学是什么」,哥德尔(Kurt Gödel)1931 年用两个定理裁决了它们共同的前提。第一不完备定理:任何包含初等算术、公理可机械判定的一致形式系统,必存在既不能证明也不能否证的命题——一致性以不完全性为代价。第二不完备定理:这样的系统无法在自身内部证明自己的一致性。对希尔伯特纲领,第二定理是直接打击:有限方法本身可被算术系统包含,系统内部的一致性证明被证明不可能。对逻辑主义,第一定理抽掉了「全部数学真理可从固定公理集推出」的地基。直觉主义者看似赢家,但构造性纲领同样没有成为主流数学的工作语言。三派都没有得到想要的答案;数学得到的,是关于自身边界的精确知识。
余波:边界即地图
不完备定理没有终结数学,反而催生了计算机科学。哥德尔证明的核心技巧——把符号串编号为自然数(哥德尔编码,Gödel numbering)——意味着推理本身可以被算术化。图灵 1936 年沿此路提出图灵机,用停机问题(halting problem)证明存在原则上不可计算的函数;丘奇的 λ 演算给出等价刻画。「可计算」「可证明」「可判定」从此有了严格定义——计算机的地基,恰是三大学派争论的副产品。公理化浪潮也未停止:尼古拉·布尔巴基以结构主义重写整个数学,正是希尔伯特公理化精神的直系后裔。
对今天做机器学习的人,这段历史留下的是一个反复出现的论证模板:给形式系统划能力边界。表达力与可判定性的权衡、No Free Lunch 定理、可学习性的各种不可能性结果——都是在不同语境下重演哥德尔的动作:先精确定义系统,再证明它做不到什么。不完备不是数学的耻辱,而是它边界的地图;而边界地图的价值,是让后来的探索者知道该在哪里投入。