人工智能的历史,本质上是一部关于"什么是智能"的争论史。

从 1950 年代至今,这个领域经历了至少两次大规模繁荣和两次寒冬,催生了符号主义、连接主义、统计学习、深度学习、强化学习等多个范式。这些范式的兴衰,表面上看是技术路线的竞争,底层驱动力却是对一个哲学问题的不同回答:智能究竟是"规则的执行"还是"数据的涌现"?

一、两种智能观的源头

1.1 符号主义:智能就是符号操作

1943 年,Warren McCulloch 和 Walter Pitts 发表了一篇论文,用数理逻辑描述神经元的行为。这篇论文同时启发了两个方向——一个方向关注"逻辑"本身,另一个方向关注"神经元网络"本身。前者演化为符号主义(Symbolism),后者演化为连接主义(Connectionism)。

符号主义的哲学根基可以追溯到莱布尼茨。莱布尼茨试图创建一种"通用逻辑演算"来表达所有人类思想,17 世纪的霍布斯则主张推理"不过是计算"。这条线索在 20 世纪中叶被 Alan Turing 的计算理论和 Claude Shannon 的信息论接住,最终凝结为一个核心信念:思维的本质是对符号的操作,与符号的物理载体无关。

这个信念在 1976 年被 Allen Newell 和 Herbert Simon 正式表述为物理符号系统假说(Physical Symbol System Hypothesis)

一个物理符号系统拥有通用智能行为的充分且必要的手段。

这句话包含两个惊人的断言。"必要"意味着人类思维也是一种符号操作——大脑不过是碳基硬件上的符号处理器。"充分"意味着只要一台机器能够操作符号,它就能够实现智能——不需要生物学、不需要身体、不需要意识。

基于这个假说,符号主义者为智能设计了一套清晰的计算结构:用形式化的语言表示知识(谓词逻辑、产生式规则、语义网络),用搜索算法在知识空间中寻找解(深度优先、广度优先、A* 搜索),用推理引擎把已知事实和规则串联起来得出结论。这套架构后来被 John Haugeland 命名为 GOFAI——Good Old-Fashioned Artificial Intelligence

1.2 连接主义:智能从连接中涌现

连接主义走了一条截然不同的路。

1949 年,心理学家 Donald Hebb 提出了突触可塑性的学习规则:同时激活的神经元之间的连接会被加强——后来被通俗概括为"一起放电的神经元连在一起(neurons that fire together wire together)“。这个想法把学习从"写入规则"变成了"调整连接权重”。

1957 年,Cornell 大学的 Frank Rosenblatt 制造了感知机(Perceptron)。这是一个能从数据中学习分类规则的物理设备。Rosenblatt 对感知机的未来极度乐观,美国海军也大力资助了他的研究。《纽约时报》当时的报道标题暗示这台机器未来能"走路、说话、看东西、写字、复制自己,并且意识到自己的存在"。

连接主义的哲学假设与符号主义针锋相对。符号主义认为智能是自上而下设计出来的:先有规则,再有行为。连接主义认为智能是自下而上涌现出来的:大量简单单元通过连接和权重调整,自发产生复杂的行为模式。在这个框架里,知识不是以可读的规则存储在某个地方,而是以分布式表征的方式弥散在整个网络的连接权重里——你无法打开一个神经网络指着某个权重说"这就是它学到的规则"。

这是两种根本不同的智能建模策略:一种是编程(programming),另一种是训练(training)。

1.3 Dartmouth 1956:分道扬镳的起点

1956 年夏天,John McCarthy、Marvin Minsky、Claude Shannon 和 Nathaniel Rochester 在 Dartmouth 学院组织了一场为期八周的研讨会。McCarthy 在提案中创造了"人工智能(Artificial Intelligence)"这个词。Rockefeller 基金会对提案评价不高,只批了所申请的 13,500 美元的一半。

研讨会没有产出统一的理论,但催生了一张后来主导 AI 研究三十年的关系网。Newell 和 Simon 带来了他们的"逻辑理论家(Logic Theorist)"程序——它能证明《数学原理》中的定理,被认为是第一个 AI 程序。McCarthy 后来发明了 Lisp 语言并创建了 MIT 和斯坦福的 AI 实验室。Minsky 则在 MIT 建立了自己的 AI 帝国。

Dartmouth 会议确立了早期 AI 研究的基调:智能可以被形式化、符号化地实现,关键任务是找到正确的表示方法和搜索策略。连接主义虽然也在场(Rochester 本人对神经网络有兴趣),但在这个以逻辑学家和数学家为主的圈子里并不占主导。

两条路线就此分道。

二、第一回合:感知机的兴衰(1957-1969)

2.1 感知机的辉煌与局限

Rosenblatt 的感知机在 1950 年代末引发了巨大的兴奋。它证明了一件此前只是猜想的事:机器可以从数据中自动学习,而不需要人类手写规则。感知机收敛定理在数学上证明了,如果训练数据线性可分,感知机算法一定能找到正确的分类超平面。

但感知机有一个致命的结构性缺陷:它只有一层。单层感知机只能学习线性可分的模式。

2.2 《Perceptrons》与连接主义的退场

1969 年,MIT 的 Marvin Minsky 和 Seymour Papert 出版了《Perceptrons》。这本书用严格的数学证明了单层感知机无法解决异或(XOR)问题——两个输入相同时输出 0,不同时输出 1。这个看起来微不足道的布尔函数,暴露了单层网络无法处理非线性可分问题的根本局限。

Minsky 和 Papert 还推测(他们用了"直觉判断"这个词),多层网络可能也会受到类似的局限。这个推测后来被证明是错误的,但在当时产生了毁灭性的效果。

这本书的影响远远超出了它的技术内容。学术界和资助机构把对单层感知机的数学批评泛化成了对整个神经网络研究方向的否定。研究经费迅速枯竭,转向了符号主义。Rosenblatt 本人在 1971 年因划船事故去世,年仅 43 岁,没有来得及回应这些批评,也没有等到神经网络的复兴。

连接主义进入了长达十五年的冬眠。

三、符号主义的黄金期与崩塌(1970s-1990s)

3.1 专家系统的繁荣

连接主义退场后,符号主义迎来了独占舞台的机会。

1970 年代,AI 研究者发现"通用问题求解器"的路走不通——试图一次性解决所有问题的程序,在面对真实世界的复杂性时总会撞上组合爆炸的墙。于是他们退而求其次,转向在狭窄领域内编码专家知识。这催生了专家系统(Expert Systems)

斯坦福大学的 MYCIN(1972-1980)是最具标杆意义的专家系统。它用几百条产生式规则来诊断血液感染并推荐抗生素治疗方案。在 1979 年的一次评估中,MYCIN 的治疗建议在 65% 的案例中被判定为合理——同一组评审专家自己的合理率在 42.5% 到 62.5% 之间。一个程序在狭窄领域超过了人类专家,这在当时是轰动性的。

商业价值的真正验证来自 DEC 公司的 XCON(又名 R1)。它用大约 2500 条规则来配置 VAX 计算机系统的订单,据 DEC 估算,每年节省数千万美元。到 1980 年代中期,专家系统产业已经是一个年度企业支出超过 10 亿美元的市场。Symbolics 公司制造专用的 Lisp 机器,在 1985 年注册了历史上第一个 .com 域名。日本政府启动了雄心勃勃的"第五代计算机"十年计划。

3.2 Lighthill 报告与第一次 AI 寒冬

在专家系统繁荣之前,符号主义已经经历过一次信任危机。

1973 年,英国科学研究委员会邀请数学家 James Lighthill 评估 AI 研究的进展。Lighthill 是剑桥的卢卡斯教授(与牛顿同一讲席),一个从未在 AI 领域工作过的人。他提交的报告措辞严厉:“在这个领域的任何部分,迄今为止的发现都没有产生当初承诺的重大影响。”

Lighthill 击中了符号主义最痛的要害:组合爆炸。国际象棋中每步大约有 20 种走法,往前看 6 步需要约 1 秒(以每秒百万次计算),看 12 步需要 11 天,看 18 步需要约 32,000 年。符号 AI 系统在精心挑选的"玩具问题"上表现出色,但一旦面对真实世界的规模,搜索空间就会爆炸式增长。

这份报告直接导致英国政府终止了对大多数大学 AI 研究的资助。美国的 DARPA 也在同一时期大幅削减了 AI 经费。这就是第一次 AI 寒冬(约 1974-1980)。

3.3 专家系统的崩塌与第二次寒冬

1980 年代的专家系统热潮最终也走向了同样的结局。

问题逐渐暴露:构建一个专家系统需要花费数年时间采访领域专家;维护更加困难,因为不断增长的规则库会产生不可预测的交互效应;系统在设计好的案例上运行良好,但在稍有不同的输入面前就会崩溃——这被称为脆性问题(brittleness)。还有更深层的知识获取瓶颈:专家的大量知识是隐性的、直觉性的,无法用"如果-那么"规则表达出来。

XCON 最终也变得过于昂贵而无法维护。它不能学习,不能适应新产品线,每次硬件变更都需要大量人工更新规则。

1987 年左右,当 Apple 和 Sun 推出性价比远超 Lisp 机器的通用工作站时,专用硬件市场在一两年内崩塌。日本的第五代计算机项目在 1992 年悄然结束,没有实现任何当初承诺的目标。DARPA 的战略计算倡议也大幅削减了 AI 方向的投资。

这就是第二次 AI 寒冬(约 1987-1993)。

3.4 符号主义失败的哲学诊断

符号主义的困境不仅仅是工程问题,还有更深层的哲学批评。

1972 年,哲学家 Hubert Dreyfus 在《计算机不能做什么》中从现象学角度论证了符号 AI 的根本局限。他的核心观点是:人类的大量智能行为(骑自行车、识别面孔、理解隐喻)根本不经过"提取规则→应用规则"的过程,而是依赖身体化的、情境化的、无法言说的默会知识(tacit knowledge)。把所有智能还原为显式的符号操作,从一开始就走错了方向。

1980 年,John Searle 提出了中文房间论证:一个不懂中文的人按照规则手册操作中文符号,从外部看像是在"理解"中文对话,但房间里的人并没有任何理解。Searle 由此论证:语法(规则操作)不等于语义(意义理解)。 符号操作可以模拟智能行为的外在表现,但不等于智能本身。

这些批评在学术圈引发了激烈争论,但最终真正打败符号主义的不是哲学论证,而是工程现实:手工编码知识的方式无法规模化。

四、连接主义的复兴(1980s-1990s)

4.1 反向传播的重新发现

连接主义的复活依赖一个关键技术突破——反向传播算法(backpropagation)

这个算法的核心思想是:把网络输出与正确答案之间的误差,沿着网络的连接反向传播回去,逐层调整每个连接的权重,使得误差逐步减小。这解决了 Minsky 和 Papert 提出的问题:多层网络虽然理论上能解决 XOR 和其他非线性问题,但缺乏有效的训练方法。

反向传播的发明史本身就是一个关于学术传播失灵的案例。1970 年,芬兰数学家 Seppo Linnainmaa 在硕士论文中发明了自动微分的反向模式。1974 年,Paul Werbos 在哈佛大学的博士论文中独立提出了将这种方法应用于神经网络训练——但在当时反神经网络的学术气候下,这项工作几乎无人问津。

直到 1986 年,David Rumelhart、Geoffrey Hinton 和 Ronald Williams 在 Nature 上发表了清晰而有影响力的论文,反向传播才真正为学术界所接受。同年,Rumelhart 和 James McClelland 领导的 PDP(Parallel Distributed Processing)研究组出版了两卷本的著作,系统阐述了连接主义的理论框架。

4.2 Hopfield 网络与物理学的入场

连接主义复兴的另一个推动力来自物理学。1982 年,加州理工学院的物理学家 John Hopfield 提出了一种基于能量函数的神经网络模型。Hopfield 网络用统计力学的语言重新描述了神经网络:网络的状态对应物理系统的构型,学习对应能量最小化。这个类比让整个物理学界的数学工具(配分函数、退火算法、相变理论)都变得可以借用。

Hopfield 的工作把神经网络从"心理学家的玩具"变成了"物理学家可以严肃对待的对象"。2024 年,Hopfield 和 Hinton 因为在人工神经网络领域的奠基性贡献共同获得了诺贝尔物理学奖。

4.3 但为什么 1990 年代没有爆发?

反向传播复活了连接主义,但没有让它统治世界。整个 1990 年代,神经网络的实际表现不如 1980 年代的乐观预期。

原因是三个相互关联的瓶颈。第一是梯度消失问题:当网络层数增加时,反向传播的梯度在逐层回传过程中会指数级缩小,导致底层的权重几乎无法更新——网络越深,越难训练。第二是算力不足:1990 年代的硬件远不能支撑大规模神经网络的训练。第三是数据不足:互联网尚未产生今天这种规模的数据。

这三个瓶颈使得神经网络在实际应用中的表现不如另一种方法。

五、统计学习的"第三条路"(1990s-2000s)

5.1 支持向量机与核方法

1990 年代,AI 领域的主角既不是符号主义的规则,也不是连接主义的神经网络,而是来自统计学习理论的支持向量机(SVM)

Vladimir Vapnik 的工作有一个深厚的理论背景。早在 1960 年代,Vapnik 和 Alexei Chervonenkis 就在苏联发展出了 VC 维理论,为"模型的泛化能力与复杂度之间的关系"给出了严格的数学界定。1995 年,Corinna Cortes 和 Vapnik 发表了支持向量网络的论文,把理论变成了实用算法。

SVM 的核心思想是寻找一个能够最大化分类间隔的超平面。核技巧(kernel trick) 则让 SVM 可以在高维特征空间中高效地执行非线性分类,而不需要真正计算高维坐标——只需要定义数据点之间的相似度函数即可。

SVM 在 1990 年代到 2000 年代前期压倒了神经网络,原因很直接:它有凸优化保证(不会陷入局部最优),有严格的泛化误差界(不只是跑出好结果,还能从理论上解释为什么),而且在小数据量下表现稳定。在 1990 年代的手写识别、文本分类、生物信息学等任务上,SVM 是标准的首选方法。

5.2 从规则到概率:范式迁移

统计学习的崛起代表了一次深层的范式迁移。

在自然语言处理领域,这次迁移最为戏剧化。1980 年代之前,NLP 研究由乔姆斯基传统主导:语言学家手工设计语法规则,程序按规则解析句子。1988 年,IBM 的 Fred Jelinek 团队用统计方法做机器翻译,取得了远超规则系统的效果。Jelinek 后来有一句广为流传的话:“每当我开除一名语言学家,语音识别系统的性能就会提升。” 这句话虽然尖刻,但精确地捕捉到了范式迁移的实质:不要试图理解语言的结构,只要统计语言的模式。

与此同时,Judea Pearl 在 1988 年出版了《智能系统中的概率推理》,把贝叶斯网络引入了 AI 研究。这是另一种"第三条路"——既不是硬编码的规则,也不是黑箱的神经网络,而是用概率图模型来显式表示不确定性。隐马尔可夫模型(HMM)在语音识别领域的成功是这条路线的工程验证。

Leo Breiman 在 2001 年的论文《统计建模:两种文化》中区分了两种建模思路:一种假设数据来自某个特定的生成模型(如线性回归),另一种把模型当作黑箱、只关心预测精度(如随机森林)。他明确站在了后者一边,认为现实世界太复杂,试图假定数据生成机制是徒劳的。

这种从"理解"到"预测"的转向,为接下来深度学习的崛起铺平了道路。

5.3 一个时代的标志:更多数据胜过更聪明的算法

统计学习时代的集体经验可以浓缩为一句话:更多的数据几乎总是胜过更聪明的算法。

2001 年,微软研究院的 Michele Banko 和 Eric Brill 在自然语言消歧任务上做了一个实验,比较了多种从简单到复杂的算法在不同数据量下的表现。结论是:在数据量足够大时,最简单的算法也能超过在小数据上精心调参的复杂算法。谷歌后来的成功进一步验证了这个发现——搜索引擎的质量与其索引的网页数量强相关,而不是与其排序算法的精巧程度强相关。

这是一个重要的智识转折。符号主义说"关键是知识",早期连接主义说"关键是网络结构",而统计学习时代的经验说"关键是数据"。到了深度学习时代,答案会变成"关键是数据、算力和规模"。

六、深度学习的崛起(2006-至今)

6.1 Hinton 的执念与 2006 年突破

在整个统计学习占主导的 1990 年代到 2000 年代前期,Geoffrey Hinton 一直坚持研究深层神经网络。他是那个在 SVM 如日中天时仍然相信"深度"是正确方向的少数派。

2006 年,Hinton、Simon Osindero 和 Yee-Whye Teh 在《Neural Computation》上发表了"深度信念网络的快速学习算法"。论文的核心想法是逐层贪心预训练:不要试图一次性训练整个深层网络(那会遇到梯度消失),而是把网络拆成一层层的受限玻尔兹曼机(RBM),逐层进行无监督预训练,然后再用反向传播做有监督的微调。

这个方法绕过了梯度消失问题,让多层网络第一次可以被有效训练。在 MNIST 手写数字识别上,深度信念网络达到了 1.25% 的错误率,与当时最好的 SVM 持平。更重要的是,这个模型具有生成能力——它可以"想象"出逼真的手写数字,而不仅仅是分类已有的数字。

2006 年被广泛视为深度学习元年。

6.2 AlexNet 与 ImageNet 2012

但真正让整个领域转向的不是理论论文,而是一场比赛的结果。

2012 年 9 月,多伦多大学的 Alex Krizhevsky、Ilya Sutskever 和 Geoffrey Hinton 提交了 AlexNet 参加 ImageNet 大规模视觉识别挑战赛(ILSVRC)。自 2010 年开赛以来,获胜方法的 top-5 错误率一直在 25%-26% 左右徘徊,改进以零点几个百分点计。这些方法通常组合多种手工设计的特征(如 SIFT、HoG),然后馈入 SVM 之类的传统分类器。

AlexNet 的 top-5 错误率是 15.3%。第二名是 26.2%。领先幅度接近 11 个百分点。

会议现场的观众最初以为这是一个 bug。

AlexNet 是一个八层深度卷积神经网络,包含六千万个参数。它的成功依赖三个因素的汇合:GPU 计算(两块 NVIDIA GTX 580 显卡)、ReLU 激活函数(缓解梯度消失)、以及 Dropout 正则化(防止过拟合)。Krizhevsky 在父母家的卧室里用这两块显卡训练了这个网络。

AlexNet 之后的连锁反应极其迅速。几个月之内,Google、Facebook、Microsoft、百度都开始对深度学习进行大规模投资。2013 和 2014 年的 ImageNet 冠军全部使用了更深的网络。2015 年,ResNet 以 3.57% 的错误率低于人类水平(约 5%)。“我到 2013 年,基本上所有计算机视觉研究都切换到了神经网络,” Hinton 后来说。

6.3 Transformer 架构

深度学习从计算机视觉扩展到自然语言处理,依赖的是一个架构突破。

在 Transformer 出现之前,NLP 领域的标准模型是循环神经网络(RNN)及其变体 LSTM。这类模型按顺序处理文本,逐词读入——这意味着它们本质上无法并行化,处理长文本时效率极低。

2017 年,Google 的八位研究者(Ashish Vaswani 等)发表了"Attention Is All You Need"。这篇论文提出了 Transformer 架构,完全抛弃了循环结构和卷积结构,只使用注意力机制。自注意力(self-attention) 让模型可以在一步之内计算序列中任意两个位置之间的关系,而不需要像 RNN 那样逐步传递信息。

这意味着 Transformer 可以充分利用 GPU 和 TPU 的并行计算能力。在同样的硬件上,Transformer 的训练速度比 LSTM 快一到两个数量级。一个用 LSTM 需要数周训练的模型,Transformer 可以在数天甚至数小时内完成。这个速度优势随着数据集增大而进一步放大。

在机器翻译任务上,Transformer 在 WMT 2014 英德翻译上达到了 28.4 BLEU,超过当时最好的模型 2 个 BLEU 以上。更重要的是,这个架构展示出了惊人的通用性——它很快从 NLP 扩展到了计算机视觉(Vision Transformer)、蛋白质结构预测(AlphaFold)、音乐生成等多个领域。

2018 年之后的所有重要语言模型——BERT、GPT 系列、Claude、Gemini——都建立在 Transformer 架构之上。这篇论文的引用次数超过 25 万次,是 21 世纪被引用最多的论文之一。八位作者后来全部离开了 Google,创办或加入了自己的 AI 公司。

6.4 大模型与"苦涩的教训"

深度学习的成功在 2019 年被 Richard Sutton(强化学习的创始人之一、2024 年图灵奖得主)总结为一条令人不快的规律。

在那篇只有千余字的短文"The Bitter Lesson"中,Sutton 回顾了 AI 七十年的历史,指出了一个反复出现的模式:研究者总是试图把人类知识编码进系统中,这在短期内有效且让研究者获得个人满足感,但长期来看总是停滞甚至阻碍进展。真正的突破总是来自"搜索"和"学习"这两种能够利用大规模计算的通用方法。

国际象棋领域如此——手工编码的评估函数最终输给了暴力搜索。语音识别领域如此——模拟人类听觉系统的方法最终输给了大规模统计模型。计算机视觉领域如此——手工设计的特征检测器(SIFT、HoG)最终输给了卷积神经网络。围棋领域如此——人类棋理最终输给了深度强化学习的自我对弈。

这个教训被称为"苦涩的",因为它不以人为中心。研究者精心设计的知识、巧妙构造的特征、深思熟虑的架构,最终都比不上更多的数据和更多的计算。

这个教训直接催生了"规模法则(scaling laws)"信仰:只要持续增加模型参数量、训练数据量和计算量,模型性能就会按幂律持续提升。GPT-3(1750 亿参数)、GPT-4(参数量未公开但远超 GPT-3)的实践,在很大程度上验证了这条规律。

七、强化学习:第三条独立的路线

7.1 从 Bellman 到 TD-learning

在符号主义和连接主义争夺 AI 正统地位的同时,一条更安静的路线在独立演化:强化学习(Reinforcement Learning, RL)

RL 既不是从规则出发,也不是从数据标签出发。它的起点是一个古老的问题:一个智能体如何在与环境的交互中,通过试错学会最大化长期累积奖励?

这条线索的数学源头是 Richard Bellman 在 1957 年建立的动态规划理论。Bellman 方程描述了最优决策策略的递归结构:当前状态的最优价值,等于当前奖励加上未来最优价值的折扣期望。这个方程为"在不确定环境中做序列决策"提供了形式化框架。

1959 年,Arthur Samuel 写了一个会下跳棋的程序。它能够通过与自己对弈来改进棋力——这可能是历史上第一个真正"学习"的程序。Samuel 本人创造了"机器学习(machine learning)"这个术语。

1988 年,Richard Sutton 提出了时序差分学习(TD-learning),把动态规划和蒙特卡罗方法结合在了一起。1989 年,Christopher Watkins 提出了 Q-learning 并证明了其收敛性。1992 年,Gerald Tesauro 用 TD-learning 训练了 TD-Gammon,一个西洋双陆棋程序,达到了世界级水平。

1998 年,Sutton 和 Andrew Barto 出版了《Reinforcement Learning: An Introduction》。这本教科书成为整个领域的圣经,定义了 RL 的核心概念框架:智能体(agent)、环境(environment)、状态(state)、动作(action)、奖励(reward)、策略(policy)、价值函数(value function)。

7.2 深度强化学习:DQN 与 AlphaGo

RL 与深度学习的交叉产生了一次爆发。

2013 年(论文)和 2015 年(Nature 发表),DeepMind 的 Volodymyr Mnih 等人发表了 DQN(Deep Q-Network)。它用深度卷积神经网络来近似 Q 函数,直接从屏幕像素学习玩 Atari 游戏——不需要任何关于游戏规则的先验知识。一个模型,同一套超参数,在多个不同的 Atari 游戏上达到甚至超过人类水平。

DQN 证明了深度强化学习的可行性,但更大的突破发生在棋盘上。

2016 年 3 月,DeepMind 的 AlphaGo 以 4:1 击败了围棋世界冠军李世石。围棋长期被视为 AI 的终极挑战——棋盘上合法落子位置的组合数(约 1017010^{170})远超宇宙中的原子数量(约 108010^{80}),暴力搜索完全不可行。专家们曾预测机器要到 2030 年以后才可能在围棋上击败顶级人类选手。

AlphaGo 融合了三种技术:深度神经网络(策略网络预测落子概率,价值网络评估局面胜率)、蒙特卡罗树搜索(MCTS)、和强化学习(通过自我对弈不断改进策略)。第二局中的"第 37 手"成为了围棋史上的经典——评论员最初以为这是一个错误,但事后分析表明这是一步深刻的布局棋,没有任何人类棋手走过。

2017 年的 AlphaGo Zero 走得更远:它完全不使用人类棋谱数据,仅通过自我对弈从零开始学习,用三天时间就超过了击败李世石的版本(100:0)。2019 年的 MuZero 连游戏规则都不需要事先知道,能自己从交互中学习环境的动力学模型。

2019 年,李世石宣布退役,理由是"AI 是一个无法被击败的存在"。

7.3 RLHF:强化学习与大模型的合流

强化学习与大语言模型的交汇点是 RLHF(Reinforcement Learning from Human Feedback)

大语言模型在预训练阶段通过自监督学习掌握了语言的统计结构,但这只让它学会了"预测下一个词",并不保证它的输出有用、安全或符合人类偏好。RLHF 用人类的偏好判断(“回答 A 比回答 B 好”)来训练一个奖励模型,然后用强化学习(通常是 PPO 算法)来微调语言模型,使其输出能最大化这个奖励模型的评分。

这个流程在 2022 年 ChatGPT 的成功中扮演了关键角色。ChatGPT 在技术上是 GPT-3.5 经过 RLHF 微调后的版本——纯粹的自监督预训练产出了一个"能说话"的模型,RLHF 让它变成了一个"说得好"的模型。

RLHF 是一个值得注意的方法论融合:神经网络提供感知和语言能力,强化学习提供目标对齐的优化框架,人类提供奖励信号。三种来源完全不同的技术传统在这里汇合了。

八、当代融合:超越二元对立

8.1 两条路线的判决了吗?

从表面上看,连接主义已经彻底胜利。符号主义的规则系统被机器学习的统计模型取代,手工特征被端到端学习取代,显式推理被参数化的模式匹配取代。2018 年图灵奖授予 Hinton、LeCun 和 Bengio 三位深度学习的开拓者,似乎是这场路线之争的最终判决。

但这个判决并不像看起来那么干脆。

Gary Marcus 长期批评纯深度学习方法的脆弱性:大语言模型会自信地说出事实错误(幻觉问题),在需要精确逻辑推理的任务上表现不稳定,缺乏系统性的组合泛化能力。Fodor 和 Pylyshyn 在 1988 年提出的系统性挑战——人类思维具有系统性和组合性(理解"Ann 把 Bill 介绍给 Claire"的人一定能理解"Bill 把 Claire 介绍给 Ann"),连接主义系统未必能满足——至今仍然是一个未解决的问题。2025 年的一项研究发现,即便是最先进的神经网络,在略微偏离训练分布的规则学习任务上仍然表现不佳。

8.2 神经符号 AI:正在发生的融合

学术界和工业界正在探索的方向不是"回到符号主义",而是把符号推理的确定性与神经网络的灵活性结合在一起。

这种融合有多种形式。DeepMind 的 AlphaGeometry(2024)用一个符号推理引擎来推导几何定理的证明步骤,在国际数学奥林匹克的几何题上达到了银牌级别的水平——纯粹的神经网络做不到这一点,因为形式化证明需要严格的逻辑链条,不容许"大概对"。AlphaGeometry 的方案是让神经网络提议可能有用的辅助构造(新的点、线、圆),然后让符号推理引擎检查这些构造是否能够推进证明。

企业级应用中,知识图谱与大语言模型的结合正在成为标准做法。符号化的知识图谱提供可审计的事实基础,神经网络提供自然语言接口和模糊匹配能力。亚马逊在 2025 年将这种双模架构应用到了仓储机器人和购物助手中。

RLHF 本身也可以被视为一种神经-符号融合:人类的偏好判断是一种离散的、可解释的信号(“A 比 B 好”),被用来约束连续的、不可解释的神经网络参数空间。

8.3 Daniel Kahneman 的隐喻

Nobel 经济学奖得主 Daniel Kahneman 在《思考,快与慢》中区分了人类思维的两个系统:系统 1(快速、自动、直觉性的模式识别)和系统 2(缓慢、受控、逻辑性的推理)。

这个隐喻被广泛用于描述当代 AI 的状态。大语言模型像系统 1:极其擅长模式匹配和联想,响应速度快,但缺乏可靠的逻辑推理能力。符号推理系统像系统 2:缓慢但精确,可以处理多步推理,但缺乏灵活性和常识。

2022 年,Yann LeCun 发表了"通向自主机器智能之路"的论文,提出了一个他称之为"世界模型"的架构愿景,试图融合感知学习(连接主义)、目标驱动的规划(强化学习的精神)和结构化的世界知识(符号主义的精神)。

这些尝试的共同指向是:七十年的路线之争可能问错了问题。争论"智能是规则的执行还是数据的涌现",就像争论"走路靠左腿还是右腿"——两种机制可能都是必要的,争论谁更根本没有意义。

九、回看:一张七十年的路线图

年代 主导范式 核心假设 计算结构 结局
1956-1969 符号主义 + 早期感知机 智能 = 符号操作 / 连接调整 逻辑推理 + 搜索 / 单层网络 感知机被批判,连接主义退场
1970-1986 符号主义独占 智能 = 知识 + 推理 产生式规则 + 推理引擎 组合爆炸 + 脆性问题
1986-1995 连接主义复兴 + 符号主义衰退 智能 = 从数据中学习 多层前馈网络 + 反向传播 梯度消失 + 算力/数据不足
1995-2006 统计学习 智能 = 统计推断 核方法 + 概率图模型 理论优美但无法利用规模
2006-2017 深度学习 智能 = 深层表征学习 CNN / RNN / 深度信念网络 GPU + 大数据释放了深度的力量
2017-至今 大模型 + 深度 RL 规模就是一切 Transformer + RLHF 涌现能力,但推理能力存疑
进行中 神经符号融合 两条腿走路 神经网络 + 符号推理 + 世界模型 尚无定论

这张表的每一行到下一行的转折点,几乎都遵循同一个模式:上一个范式的拥护者过度承诺(overpromise),工程现实暴露承诺与实际的差距,资金和信心退潮,新范式在废墟中萌芽。

符号主义承诺"十年内解决机器翻译",没有做到。连接主义承诺"感知机将有意识",没有做到。专家系统承诺"AI 的商业化",做到了一小部分然后崩溃。深度学习承诺"通用人工智能近在咫尺"——这个承诺还在接受现实的检验。

Richard Sutton 的"苦涩的教训"提供了另一个视角来理解这张表:每一次范式转换都在减少人类知识编码的比重、增加计算的比重。符号主义几乎全是人类知识,不需要太多计算。统计学习引入了数据驱动,需要适度计算。深度学习大幅减少了人类设计的特征,需要大量计算。大语言模型几乎不需要任何任务相关的人类知识,需要天文数字级别的计算。

这不是一个随机的历史偶然,而是由算力成本的持续下降驱动的结构性趋势。当计算变得便宜,用计算替代人力知识编码就变得经济上合理。AI 的历史,从这个角度看,就是人类知识逐步让位于计算的历史。

参考资料