在计算机发明之前，大多数实验心理学家都认为大脑是一个不可知的黑匣子。您可以分析对象的行为- 铃声，记忆，情感？这些东西晦涩难懂，超出了科学的范围。因此，这些行为主义者，正如他们自称的那样，将他们的工作局限于对刺激和反应，反馈和强化，钟声和唾液的研究。他们放弃了尝试去了解头脑的内在运作。他们统治了这个领域四十年。

然后，在1950年代中期，一群叛逆的心理学家，语言学家，信息理论家和早期的人工智慧研究者提出了不同的思想观念。他们认为，人们不仅仅是条件响应的集合。他们吸收了信息，对其进行了处理，然后对其采取了行动。他们拥有用于写入，存储和调用记忆的系统。它们通过逻辑形式语法进行操作。大脑根本不是黑匣子。它更像是一台计算机。

所谓的认知革命从小规模开始，但是随着计算机成为全国心理学实验室的标准设备，它获得了更广泛的接受。到1970年代后期，认知心理学已经推翻了行为主义，随着新制度的出现，出现了一种谈论心理生活的全新语言。心理学家开始将思想描述为程序，普通百姓谈论将事实存储在他们的存储库中，而业务专家则对现代工作场所中心理带宽和处理能力的局限感到担忧。

这个故事一次又一次地重复。随着数字革命席卷我们生活的各个方面，它也渗入了我们的语言以及关于事物运作方式的深刻基础理论。技术总是做到这一点。在启蒙运动中，牛顿和笛卡尔启发了人们将宇宙视为精致的时钟。在工业时代，它是带有活塞的机器。（弗洛伊德的心理动力学思想是从蒸汽机的热力学中借来的。）现在它是一台计算机。当您考虑它时，这是一个从根本上授权的想法。因为如果世界是一台计算机，那么就可以对世界进行编码。

代码是合乎逻辑的。代码是可入侵的。代码是命运。这些是数字时代生活的中心原则（和自我实现的预言）。用软件吞没了世界，用风险投资家马克·安德森（Marc Andreessen）来形容，我们已经将机器包围在一起，这些机器将我们的行动，思想和情感转换为数据，而大量的材料供使用代码的工程师操纵。我们已经将生活本身看作是一系列可以被发现，利用，优化甚至重写的指令所统治的东西。公司使用代码来了解我们最亲密的联系；Facebook的马克·扎克伯格（Mark Zuckerberg）甚至暗示，可能存在“人类关系基础的基本数学法则，该法则支配着我们所关心的人和事物之间的平衡。” 2013年，克雷格·文特（Craig Venter）宣布，在人类基因组解码十年后，他开始编写允许他创造合成生物的代码。他说：“越来越明显，我们在这个星球上知道的所有活细胞都是DNA软件驱动的生物机器。” 甚至自助文献都坚持要求您可以破解自己的源代码，重新编程爱情生活，睡眠习惯和消费习惯。

在这个世界上，编写代码的能力已不仅成为一种必不可少的技能，而且还成为一种授予内在身份的语言。他们可以使用在更机械的时代被称为权力杠杆的东西。未来主义者马克·古德曼（Marc Goodman）写道：“如果您控制代码，就可以控制整个世界。” （在《彭博商业周刊》（Bloomberg Businessweek）中，保罗·福特（Paul Ford）略加谨慎：“如果编码者不控制世界，他们将经营着世界。”番茄，tomahto。）

但是，无论您是喜欢这种状态还是讨厌这种状态（无论您是编码专家还是只是几乎没有能力胜任使用手机上的设置的人）都不要习惯。我们的机器现在开始说另一种语言，即使是最好的编码人员也无法完全理解。

在过去的几年中，硅谷最大的科技公司积极推行一种称为机器学习的计算方法。在传统编程中，工程师会编写明确的分步说明供计算机遵循。通过机器学习，程序员无需使用指令对计算机进行编码。他们训练他们。例如，如果您想教一个神经网络来识别猫，就不要告诉它寻找晶须，耳朵，毛皮和眼睛。您只需向它展示成千上万张猫的照片，最终它就能解决问题。如果它将狐狸错误地归类为猫，则无需重写代码。您只是继续执教。

这种方法并不新鲜-已有数十年之久-但它最近变得更加强大，部分原因是深层神经网络的兴起，大规模分布的计算系统模仿了大脑中神经元的多层连接。不管您是否意识到，机器学习已经为我们的在线活动提供了强大的支持。Facebook用它来确定新闻中出现哪些故事，而Google Photos用它来识别面孔。机器学习运行Microsoft的Skype转换器，该转换器可将语音实时转换为不同的语言。自动驾驶汽车使用机器学习来避免发生事故。即使是Google的搜索引擎（多年来一直是人工编写规则的高楼大厦），开始依赖这些深层神经网络。2月份，该公司用机器学习专家John Giannandrea代替了长期的搜索主管，并启动了一项重大计划，以对其工程师进行这些新技术的培训。Giannandrea于今年秋天对记者说：“通过建立学习系统，我们不再需要编写这些规则了。”

但这就是问题：通过机器学习，工程师永远无法确切地知道计算机如何完成其任务。神经网络的操作在很大程度上是不透明和难以理解的。换句话说，它是一个黑匣子。随着这些黑匣子承担着我们越来越多的日常数字任务的责任，它们不仅将改变我们与技术的关系，还将改变我们对自己，我们的世界以及我们在其中的地位的看法。

如果从旧的角度来看，程序员就像神灵一样，编写着控制计算机系统的法律，现在他们就像父母或驯狗师。正如任何父母或狗的主人可以告诉你的那样，要找到自己，那是一种更加神秘的关系。

安迪·鲁宾（Andy Rubin）是一位资深的修补匠和编码员。Android的共同创造者鲁宾（Rubin）在硅谷臭名昭著，因为他在工作场所和家里都装满了机器人。他自己编写程序。“我很小的时候就进入计算机科学，之所以喜欢它，是因为我可能会消失在计算机世界中。那是一块干净的板岩，一块空白的画布，我可以从头开始创建一些东西。”他说。“这让我完全掌控了我玩了很多年的世界。”

他说，现在，世界即将终结。鲁宾对机器学习的兴起感到兴奋-他的新公司Playground Global投资了机器学习初创公司，并定位为领导智能设备的普及-但也让他有些难过。因为机器学习改变了工程师的意义。

“人们不会线性地编写程序，”鲁宾说。“在神经网络学习了如何进行语音识别之后，程序员无法进入并对其进行观察，并观察其如何发生。就像你的大脑。您无法割舍自己的想法。” 当工程师探究深度神经网络时，他们看到的是数学的海洋：大量的多层演算问题，这些问题通过不断推导数十亿个数据点之间的关系而产生关于世界的猜测。

人工智能不应该以这种方式工作。直到几年前，主流AI研究人员还假设要创造智能，我们只需要给机器配备正确的逻辑即可。编写足够的规则，最终我们将创建一个足够复杂的系统来理解世界。他们很大程度上忽略了甚至是侮辱机器学习的早期拥护者，他们主张将数据插入机器直到得出自己的结论。多年来，计算机的功能不足以真正证明这两种方法的优点，因此该论点成为一种哲学论点。“大多数辩论都是基于关于世界如何组织以及大脑如何运转的固定信念，”前斯坦福大学AI教授塞巴斯蒂安·特伦（Sebastian Thrun）说，他创建了Google的自动驾驶汽车。“神经网络没有符号或规则，只有数字。那使很多人疏远了。”

不可解析的机器语言的含义不只是哲学上的。在过去的二十年中，学习编码一直是可靠就业的最可靠途径之一-对于所有将孩子注册到课后编码学院的父母来说，这一事实并没有丢失。但是，由神经网络深度学习机器运行的世界需要不同的劳动力。由于机器使旧技能变得无关紧要，分析师已经开始担心AI对就业市场的影响。程序员可能很快就会体会到自己的感觉。

“我今天早上只是在谈论这个话题，”科技大师蒂姆·奥莱利（Tim O'Reilly）在问他这种转变时说道。“我曾经指出，所有这些受STEM教育的孩子长大后，编程工作将有多么不同。” 传统编码不会完全消失-实际上，O'Reilly预测很长一段时间我们仍然需要编码器-但是可能会减少编码器的使用，它将成为一种元技能，一种创建Oren的方式艾伦人工智能研究所的首席执行官埃齐奥尼（Etzioni）称机器学习可以在其中运行的“脚手架”。正如量子力学的发现并没有消除牛顿物理学一样，代码将仍然是探索世界的强大（即使不完整）的工具集。但是当涉及到特定功能时，

当然，人类仍然必须训练这些系统。但至少现在，这是一种稀疏的技能。这项工作既需要对数学的高度理解，也需要对教学的理解和直觉。Google的DeepMind AI团队负责人Demis Hassabis说：“从这些系统中获得最大的收益就像是一种艺术形式。” “世界上只有数百个人可以做到这一点。” 但是即使是很小的数目也足以在短短几年内改变技术产业。

无论这种转变对专业产生了什么影响，文化后果都将更大。如果人工编写软件的兴起引起了工程师的热爱，并且使人的经验最终可以减少为一系列可理解的指令的观念，那么机器学习将朝着相反的方向发展。运行宇宙的代码可能会违背人类的分析。例如，目前Google 在欧洲面临一项反托拉斯调查，指控该公司对其搜索结果施加不当影响。当连公司自己的工程师一开始也无法确切说明其搜索算法的工作方式时，很难证明这种指控。

这种不确定性的爆炸已经持续了很长时间。即便是简单的算法也可以创建不可预测的紧急行为，这并不是新闻-可以追溯到混沌理论和随机数生成器的见解。在过去的几年中，随着网络变得越来越交织在一起并且其功能越来越复杂，代码似乎变得越来越像外来力量，机器中的幽灵变得越来越难以捉摸和不可控制。飞机无故接地。股市上似乎无法避免的闪存崩溃。滚动停电。

这些力量促使技术专家丹尼·希利斯（Danny Hillis）宣告了启蒙时代的终结，这是我们百年以来对逻辑，确定性和对自然的控制的信念。希利斯（Hillis）说，我们正在转向他所说的纠缠时代。他在《设计与科学杂志》上写道：“随着我们的技术和机构创新变得越来越复杂，我们与它们之间的关系也发生了变化。” “我们不是成为我们创作的大师，而是学会了与他们讨价还价，哄骗和指导他们朝着我们目标的总体方向发展。我们已经建立了自己的丛林，并且拥有自己的生命。” 机器学习的兴起是这一旅程中的最新（也许是最后一步）。

这一切都可能非常令人恐惧。毕竟，编码至少是普通人可以想象的在新兵训练营拾起的那种东西。编码人员至少是人类。现在，技术精英的规模甚至更小，他们对自己创作的命令已经减弱，变得间接。制造这些东西的公司已经发现它的行为难以管理。去年夏天，当其照片识别引擎开始将黑人的图像标记为大猩猩时，谷歌便道歉。该公司最直接的解决办法是防止系统将任何东西标记为大猩猩。

对于某种倾向的书呆子，这一切都预示着即将到来的时代，在这个时代，我们将放弃对机器的授权。史蒂芬·霍金写道：“人们可以想象，这样的技术将超过金融市场，超过人类研究人员，超过人类领导人，并开发出我们甚至无法理解的武器，”埃隆·马斯克（Elon Musk）和比尔·盖茨（Bill Gates）以及其他人对此表示赞同。“尽管AI的短期影响取决于谁控制它，但长期影响取决于是否可以完全控制它。”

但是不要太害怕。这不是天网的曙光。我们只是在学习采用新技术的规则。工程师已经在研究可视化深度学习系统背后发生的情况的方法。但是，即使我们从未完全了解这些新机器的想法，也不意味着我们将无能为力。将来，我们不会对自己行为的潜在根源多加关注。我们将学习专注于行为本身。该代码将变得不如我们用来训练它的数据重要。

如果这一切看起来有点熟悉，那是因为它看起来很像20世纪的旧行为主义。实际上，经常将训练机器学习算法的过程与1900年代初期的伟大的行为主义实验进行比较。巴甫洛夫不是通过对饥饿的深刻理解而触发了他的狗的流涎，而只是一遍又一遍地重复一系列事件。他一次又一次地提供数据，直到代码重写为止。并说出您对行为主义者的看法，他们确实知道如何控制自己的臣民。

从长远来看，Thrun说，机器学习将产生民主化的影响。就像您现在不需要了解HTML来构建网站一样，您最终也不需要博士学位即可利用深度学习的强大功能。编程将不是已经学习了一系列奥秘语言的训练有素的程序员的唯一领域。任何曾经教过狗滚过的人都可以使用它。特伦说：“对我来说，这是有史以来最酷的编程，因为现在任何人都可以编程。”

对于许多计算历史，我们从内而外地了解了机器的工作方式。首先我们编写代码，然后机器将其表达出来。这种世界观暗示了可塑性，但它也暗示了一种基于规则的确定性，即事物是其基本指令的产物。机器学习提出了相反的观点，即从外到内的观点，其中代码不仅确定行为，行为也确定代码。机器是世界的产品。

最终，我们将体会到的手写线性码都电源和机器学习算法的功率进行调整，设计和出现的给予和服用。生物学家可能已经开始弄清楚这一点。像Crispr这样的基因编辑技术赋予他们传统软件程序员所拥有的那种代码操纵能力。但是表观遗传学领域的发现表明，遗传物质实际上并不是一成不变的指令集，而是一组动态开关，可根据其宿主的环境和经验进行调整。我们的代码并不与物理世界分开存在。它受到它的深远影响和迷惑。Venter可能认为细胞是DNA软件驱动的机器，但是表观遗传学家Steve Cole提出了另一种表述：“细胞是将经验转化为生物学的机器。”

而现在，在艾伦·图灵（Alan Turing）最初为解决问题的机器设计草图之后的80年，计算机正在成为将经验转化为技术的设备。几十年来，我们一直在寻找可以解释并通过一些调整来优化我们的世界体验的秘密代码。但是，我们的机器不会以这种方式工作更长的时间，而我们的世界从来没有真正做到过。我们将与技术建立更复杂但最终更有意义的关系。我们将从命令我们的设备到为它们做父母。