机器学习的发展历程是一个充满创新与变革的过程,其中连接主义、符号主义和统计理论都扮演了至关重要的角色。
一、符号主义核心观点:符号主义认为知识和智能是以符号的形式存在于人脑中的,因此计算机也应该使用符号来模拟人类的思维过程。发展历程:早期:符号主义是机器学习的早期流派之一,其核心观点是认为智能行为可以通过符号运算来实现。50至70年代:符号主义在人工智能中处于主导地位,通过逻辑推理、模式匹配和搜索算法来解决问题。代表性成果:1957年纽威尔和西蒙等人研制的“逻辑理论家”数学定理证明程序LT,标志着符号主义在人工智能领域的成功应用。主要影响:符号主义推动了专家系统、知识工程等领域的发展,为人工智能研究取得了突破性的进展。二、连接主义核心观点:连接主义认为智能行为是通过大量神经元之间的相互作用和连接而形成的,因此计算机也应该构建类似的神经网络来模拟这一过程。发展历程:80年代:使用神经网络反向传播(BP)算法训练的多参数线性规划(MLP)理念的提出,将机器学习带入复兴时期。21世纪初:Hinton提出深度学习(Deep Learning),使得机器学习研究又从低迷进入蓬勃发展期。2012年以来:随着算力提升和海量训练样本的支持,深度学习成为机器学习研究热点,并带动了产业界的广泛应用。主要成果:深度学习在图像识别、语音识别、自然语言处理等领域取得了显著的成果,推动了人工智能的快速发展。三、统计理论核心观点:统计学习理论强调通过数据驱动的方式,自动学习数据中的模式和规律,实现智能化预测和决策。发展历程:90年代:提出的“决策树”(ID3算法),再到后来的支持向量机(SVM)算法,将机器学习从知识驱动转变为数据驱动的思路。现代:统计分析方法广泛应用于机器学习中的特征选择、模型验证、性能评估等环节,为机器学习提供了坚实的理论基础。主要成果:统计学习算法在机器学习中的广泛应用,如线性回归、逻辑回归、支持向量机等,为机器学习模型的构建和优化提供了有效的工具。综上所述,连接主义、符号主义和统计理论在机器学习的发展历程中都发挥了重要作用。它们各自具有独特的核心观点和发展历程,共同推动了机器学习的不断发展和创新。
四、通俗易懂解释 :教机器识别水果1. 符号主义(规则-based)想象一下,我们要教一个机器识别苹果和橙子。在符号主义的方法下,我们可能会告诉机器:
如果一个水果是红色的,圆形的,并且有一个茎(蒂),那么它就是苹果。如果一个水果是橙色的,圆形的,并且皮比较厚,那么它就是橙子。这种方法就像是给机器制定了一套规则,让它根据这些规则来判断水果的种类。这就是符号主义,它依赖于人类定义的规则和逻辑。
2. 连接主义(神经网络)现在,我们尝试用连接主义的方法来教机器识别水果。我们给机器看很多苹果和橙子的图片,并告诉它哪些是苹果,哪些是橙子。机器内部有一个神经网络,它会自动调整自己的连接权重,以便更好地识别这两种水果。
经过一段时间的训练,机器就能够根据输入的图片来判断它是苹果还是橙子,即使它之前没有见过这个特定的苹果或橙子。这就是连接主义的魅力,它能够从大量的数据中自动学习出规律和模式。
3. 统计理论(模型-based)最后,我们来看统计理论的方法。在这种方法下,我们可能会收集很多关于苹果和橙子的数据,比如它们的颜色、形状、大小等。然后,我们使用这些数据来训练一个统计模型,比如逻辑回归或支持向量机。
训练完成后,我们可以用这个模型来预测新的水果是苹果还是橙子。模型会根据输入的特征(比如颜色、形状等)来计算出一个概率值,表示这个水果是苹果的可能性有多大。
统计理论的方法的好处是它能够处理更复杂的数据和特征,而且不需要像神经网络那样需要大量的计算资源。但是,它也需要对数据进行一些假设和预处理,比如假设数据是线性可分的或者符合某种分布。
— END —
如需人工智能必读书籍,请后台留言。
《统计学习方法》
《机器学习基础》
《深度学习导论》
《人工智能导论》
《TensorFlow2深度学习》
《Pytorch》
......