在科技浪潮的推动下，人工智能（AI）正以前所未有的速度改变着我们的生活，成为推动社会进步的重要力量。从最初的萌芽到如今的广泛应用，AI以其强大的智能化能力，在医疗、教育、金融等多个领域展现出了巨大的潜力和价值。作为未来科技发展的核心驱动力，AI将继续引领我们迈向更加智能、便捷的世界。
今天是我们的第二章第3节第3篇：演绎复苏：王者归来后的“复仇”
1988年，“旧书再版”时，明斯基和司马贺对外表示，正是因为他俩1969年的大手笔，才让神经网络的资助大大减少。当二人讲这话时距离AI领域第一次寒冬已经过去了十多年，此时AI领域正处在第二次寒冬。
作为一名中国人，我实在搞不懂老外的脑回路，但我不得不感慨老外说话是真的直白，直白到从不考虑他人感受。对比外国人称中国人是“中式虚伪”，我倒觉得是他们说话没脑子。
写到这，我知道在座的朋友，脑子里可能会浮现一个问题，那就是这第二次寒冬是不是也跟他俩有关系？这个问题的答案，我现在就可以明确回答你，你的猜测是相当有先见性的…
尽管人工智能曾遭遇重大挫折，但仍有一些坚持不懈的人在AI领域继续工作。这就为人工智能的复兴奠定了基础，尤其是神经网络的强势复苏。
1982年，时任加州理工生物物理教授的霍普菲尔德，提出了一种全新的神经网络，不仅可以解决一大类模式识别问题，还可以给出一类组合优化问题的近似解。该神经网络模型后来被称为霍普菲尔德网络。
霍普菲尔德网络是最早的RNN的雏形。RNN是循环神经网络的简称，而循环神经网络就是DL（深度学习）的前身。循环神经网络具有记忆性、参数共享并且图灵完备。没错，图灵完备正是本书男一号图灵提出来的。
循环神经网络在NLP（自然语言处理）方面，例如语音识别、语言建模、机器翻译等领域有应用，也被用于各类时间序列预报。循环神经网络加上卷积神经网络就可以处理包含序列输入的计算机视觉问题。
霍普菲尔德神经网络模型是一种单层反馈神经网络，从输出到输入有反馈连接。它的出现极大地推动了神经网络领域的发展，在人工智能之机器学习、联想记忆、模式识别、优化计算等方面有着广泛应用，他还可以解决一大类模式识别问题。
举个例子，一个由数字 0 和 1 组成的输入序列，我们希望霍普菲尔德神经网络能够识别出这个序列中的模式。网络中的每个神经元都可以被视为一个二进制变量，可以取值为 0 或 1。
在训练过程中，网络会调整每个神经元的权重，以最小化输出序列与输入序列之间的差异。如果网络成功地识别出了输入序列中的模式，那么它就可以被用于识别其他类似的序列。
1983年，辛顿等人发明了玻尔兹曼机，也称为随机霍普菲尔德网络，它的本质是一种无监督模型，用于对输入数据进行重构，从而提取数据特征来做预测分析。
1985年，朱迪亚·珀尔提出贝叶斯网络，他以倡导人工智能的概率方法和发展贝叶斯网络而闻名。贝叶斯网络是一种模拟人类推理过程中因果关系的不确定性处理模型，如常见的朴素贝叶斯分类算法就是贝叶斯网络最基本的应用。
至此神经网络和连接主义彻底复苏，一场轰轰烈烈的“连接主义运动”正式在各大院校拉开。本次会议的主会场是加州大学圣地亚哥分校，分会场有哈佛大学、斯坦福大学、麻省理工学院、加州理工学院等。
本次运动的主要成果诞生了“新圣经”——《 分布式并行处理：认知微观结构的探索》第一卷（基础）及第二卷（心理和生物学模型）（Parallel distributed processing，PDP）。
PDP这本书的作者正是本次运动的领导核心，心理学家鲁梅尔哈特和麦克莱兰德。除了他俩外，还有一个今天AI界的大神，他就是我们上文提到过多次的辛顿。辛顿也是“鲁梅尔哈特奖” 的首位获奖者，这一奖项旨在表彰在人工智能领域做出杰出贡献的科学家。
两年后的1986年，鲁梅尔哈特和辛顿一起在《自然》杂志上发表了论文《通过反向传播错误学习表示》（注：英文名《Learning representations by back-propagating errors》），这是自哈佛大学沃伯斯的研究之后，BP算法的正式提出和详细阐述。不同的是，这次BP 算法得到了人们的重视。今天，其已成为神经网络学习的重要基础。
BP算法的核心思想是“错在哪里，就在哪里改正”。比如，在老汉打铁的例子中，如果老汉发现剑的某个部分太厚或者太薄，他就会在那个部位增加或减少敲打的次数和力度。它通过计算预测结果和实际结果之间的差异（误差），然后反向追溯到网络中的每个神经元，找出哪些权重（连接）需要调整。
BP算法以后，以辛顿为首的各路大神又提出了将 MLP（多层感知器）与BP算法训练相结合的理念，这成功解决了罗森布拉特单层感知器不能做非线性分类的问题，也引爆了神经网络的新一轮研究高潮，尽管在当时，算力上的挑战仍旧不小。
神经网络研究回归主流之后，人们想起了为去世的老罗伸张正义。
他们将这波神经网络研究的新浪潮解释为与明斯基在《感知器》一书中提出的假设相矛盾。这实际上证实了罗森布拉特此前的预期是准确的。至此，若老罗泉下有知，也算是可以安息了。
看完连接主义，我们再来说一下符号主义。
·PROSPECTOR
1980年，第一届机器学习国际研讨会在CMU（卡内基·梅隆大学）召开，标志着机器学习研究已在全世界兴起，继医疗领域的专家系统MYCIN完成之后，专家系统进入应用领域的新高潮。
MYCIN让斯坦福研究所名声大噪，美国地质调查局亲自登门拜访。六年后也就是1983年，用于矿产勘探领域的PROSPECTOR 专家系统问世了。
PROSPECTOR基于领域专家的知识和经验，通过对地质数据的分析和推理，提供矿产资源分布和潜在开采价值的决策支持。其中还包括了一个解释系统，能够向用户解释其推理过程和结论的依据。
·XCON
同一年，应DEC（美国数字设备公司）要求，CMU设计了一款名为 “XCON” 用于配置计算机系统的专家系统，该系统应该是世界上第一个推荐引擎。
它能够根据客户的需求和预算，推荐最合适的计算机配置。其不仅提高了效率，还为DEC每年制造电脑节省上千万的成本。实际上，“XCON机制”在今天仍在沿用，只不过更加灵活，范围更广。所以，XCON取得成功绝不是偶然。
XCON的成功给专家系统带来了春天，因为它让幕后的大老板们终于看到了AI落地的可能。而且为了进一步提升计算效率，有大量公司研制专门为LISP优化过的计算机LISP Machine（语言指令）提供更复杂的专家系统。
之后专家系统所服务的领域迅速扩大，其被广泛地应用于医学、地质勘探、油气资源评价、企业管理、工业控制等各个方面。与此同时，被人类最强“科技树”点亮过两次的日本坐不住了，发誓要在人工智能3.0时代走在美帝前面。
1981年，负责制定和执行经济和产业政策的日本经济产业省，慷慨拨款8.5亿美元以支持研发第五代计算机项目。这里要说明一点，AI和计算机是紧密联系在一起的，在AI发展的同时，计算机及技术也在不断进步。
日本的终极目标是造出能与人直接对话、解释图像、翻译语言，并可以像人一样进行主观推理的AI，小日子带了头后，其他国家自然也不甘示弱。
英国开始了耗资三亿五千万英镑的Alvey工程。而DARPA（美国国防部高级研究计划局）则成立战略计算促进会并一改之前的小家子气，其在1988年向AI的投资是1984年的三倍。那为啥英美要拼了命地卷？
八十年代，美苏冷战仍然处于白热化。1983年，勃列日涅夫去世后的第二年，时任美国总统里根发表著名演讲，要求美军建立更强大的反导弹系统，因为彼时的苏联拥有比美国更强大的核攻击力量和导弹突防能力，里根担心“核平衡”的形势被打破，于是“星球大战计划”（SDI）计划诞生了。
有意思的是，2019年1月，特朗普在五角大楼发布新版《导弹防御评估报告》，报告提出将大力扩展导弹防御系统。该报告被称作“星球大战”2.0版。
众所周知的是，美国每次说要搞国防都遵循一个不变的“定律”，那就是“纳税人跌倒，华尔街吃饱”。得益于“星球大战计划”的推动，美国与人工智能相关的软硬件销售额高达4.25亿美元。
然而，专家系统带来的繁荣市场并未能持久，随着技术的进一步发展和市场环境的变化，一场新的寒潮再次袭来。
