随着科技的飞速发展，自动化与人工智能正重塑着组织的未来。这一变革不仅影响着企业的业务模式和运营效率，还对企业治理提出了全新的挑战。董事会作为公司治理的核心，必须深刻理解和应对自动化与人工智能带来的风险与机遇，以引领企业在这一技术浪潮中稳步前行。

作为【董事工具箱系列】的第十七篇，本篇将深入探讨自动化与人工智能对组织未来产生的深远影响，包括其演变、应用、伦理考量以及治理问题等方面。我们将分析董事会在此变革中的角色和责任，以确保组织能够抓住机遇，应对挑战，提高治理水平，为公司的长期发展奠定坚实基础。

自动化与人工智能的核心要点

1.自动化与人工智能的演变

我们已进入第四次工业革命的时代，这个时代以自动化、机器学习、人工智能、物联网（IOT）互联、增强现实和虚拟现实以及机器人技术为标志。这场革命正在重塑各个行业、业务经营惯例和职业，一些旧有的角色可能会被取代或变得多余，同时催生出许多前所未有的新职业和新角色。面对这一变革，许多组织开始深刻反思他们在市场中的定位，以及如何调整自身的业务经营方式和用工模式。

技术

尽管技术在人类活动机械化的大背景下已经存在数个世纪，但今天的技术时代却以前所未有的速度在演进。数字设备的普及为我们的生活带来了前所未有的便利。从自动化生产流程到基于互联网信息流的新闻撰写机器人，再到能够预测支出模式的复杂算法，技术的发展不仅改变了企业的机遇和威胁，还对企业满足利益相关者期望所需的治理方式提出了新要求。

在这场技术革命中，一些新兴的业务模式如优步（Uber）、爱彼迎（Airbnb）和脸书（Facebook）等，它们以极小的有形资产起家，却迅速跻身全球最有价值的公司之列。这些成功案例让我们看到了技术的无限可能。同时，一些看似遥不可及的技术也正在迅速成为现实，比如可穿戴技术能够捕捉生物统计数据并下载到个人（或组织）数据云中，埃隆·马斯克解决南澳能源危机，以及推特机器人影响竞选活动等。

客户体验

客户体验在这场数字革命中也发生了深刻的变化。组织与顾客之间的互动方式发生了巨大转变，顾客对服务标准和交付的期望也在不断提高。他们不再满足于传统的定义和标准，而是追求更加个性化和便捷的服务体验。与此同时，机器也被广泛应用于销售最大化和创造需求的过程中，包括利用吸引人的文章标题吸引眼球，以及运用复杂的算法来监控、跟踪和预先控制消费者的购买模式（也称为“个性化一对一营销”）。

全球研究机构Gartner在2014年预测，到2016年，89%的企业将主要在客户体验方面展开竞争；到2020年，客户将能够通过不与人互动的方式管理他们与企业间85%的往来关系。而新冠肺炎疫情更是催生了对客户体验中虚拟互动的关注。这些变化不仅改变了消费习惯，还带来了对技术信任的挑战。毕马威创新服务团队预测，进入2020年代，技术将面临“信任悖论”。人们越来越依赖技术的同时，也对企业对数字技术的使用方式表示不信任。这一领域无疑将迎来更严格的监管审查。

2.自动化与人工智能的特性

人工智能与机器学习

人工智能，这一术语涵盖了所有能够执行通常需要人类智能的认知任务的计算机系统。在人工智能的众多分支中，机器学习成为其关键的学习方式，而深度学习则是其中的一个重要子领域。它利用人工神经网络，并借助高性能计算机的处理能力，通过一系列数学过程模拟大脑的活动。在大数据的推动下，计算能力得到了显著提升，使得复杂分析、机器学习和深度学习算法得以广泛应用，人工智能也因此愈发普及。

计算机处理能力的提升、数据访问与存储的便利，共同推动了人工智能的飞速发展。在这一浪潮中，企业应当积极寻求从中受益的机会。为了实现这一目标，董事会和高管团队需要制定明确的愿景，而组织内部也需要建立一种强大的文化，以有效规划和管理向机器驱动的智能企业转型。

自动化与人工智能的趋同发展

虽然自动化和人工智能可以分开考虑和部署，但随着两项技术的不断融合，它们经常会被一同采纳，以简化和扩展组织内的决策流程。自动化，有时也被称为“机器人流程自动化”，通常通过以下两种方式取代计算机系统上的人工操作：一是遵循一组预先编程的步骤，如ATM机确定是否分发现金；二是利用经过训练的人工智能模型来决定下一步的行动，如市场推广系统通过学习客户的偏好，向他们推送定制化的产品或服务。

根据系统的自主性、人工编程的程度以及自动化过程或决策的性质，使用这类系统所带来的好处和风险会有很大的差异。基于规则的分析虽然并非毫无风险，但在开发和执行过程中的人为错误可能会导致重大问题。尽管如此，与神经网络相比，基于规则的分析通常具有更高的透明度，因此也更容易进行审计和管控。虽然并未明确展示决策或自动化流程失误所造成的具体影响，但这些失误确实会对整体风险产生重大影响。例如，商业贷款的信贷决策失误可能会比智能聊天机器人提供错误建议的影响更为严重。

3.自动化与人工智能对社会的影响

伦理问题

随着自动化和人工智能技术的飞速发展，全球范围内的企业董事会都深感其可能带来的重大伦理挑战。随着AI技术的普及和复杂性的增加，世界经济论坛敦促企业在应用人工智能时，必须审慎考虑其涉及的伦理议题，这些议题包括：

失业问题；财富分配不均；社会影响及人际关系的淡化；人工“愚蠢”与机器学习效果的局限性；人工智能分析和结果的偏差；针对恶意对手的安全模型设计；防范意外后果的措施；AI奇点与可控的AI；机器人权利——对人工智能的奖励与激励机制。

从董事会的视角出发，这些问题可能诱发一系列治理难题。目前，最为突出的是劳动力市场的变革、安全性挑战以及广泛的社会影响。

对劳动力的变革

随着自动化技术的不断发展和应用，越来越多的工作流程甚至整个岗位职能正在被自动化所替代，这导致我们所熟知的工作岗位正在经历着不断的变革。伴随着内生增长，一些现有的岗位可能会被新的岗位所取代。同时，组织也面临着道德伦理层面的考验，需要在维护“首选雇主”形象的同时，应对人工智能给劳动力市场带来的重大变革，如全职员工（FTE）数量的变化、技能需求的转变以及更灵活的工作安排等。虽然一些岗位会消失，但也会涌现出元宇宙工程师、区块链架构师等全新岗位。

作为塑造组织文化的领导者，董事需要向管理层提出以下问题以引导思考：自动化和人工智能对我们的员工有哪些潜在的影响？随着自动化程度的提升、成本压力的增加以及社会责任的加重，我们如何平衡客户体验、员工体验、盈利能力和劳动力市场的变革？我们应如何应对人工智能对企业文化的冲击以及对人类的影响？我们的培训和再培训计划应包含哪些内容以适应这一变革？我们的利益相关者对此有何看法？成本是否比组织行为和道德更能推动消费者购买我们的产品？

最终，关键在于组织应如何有效应对这一转型过程，而不仅仅是转型本身的程度。

安全性

通过运用自动化和人工智能技术，组织能够强化其安全防范措施。数据安全问题，通常以“网络风险”为标签，早已引起广泛关注。在网络安全领域，机器学习算法正被广泛运用于对数百万笔交易和海量网络流量的安全筛查中。随着自动化和人工智能技术的不断进步，我们可以预见机器的能力将更加强大，但这也引发了对物理安全的深思。例如，随着无人机送货和无人驾驶汽车技术的逐渐应用，我们不得不思考这些技术对于顾客和公民的人身安全可能带来的影响。此外，黑客攻击和隐私泄露（如文本、图片、个人详细信息、个人偏好等）也成为了人们关注的焦点。特别是当这些问题涉及到地缘政治和国家安全时，相关的监管要求可能会进一步发生变化。

社会影响

尽管消费者对企业加强数字互通互联和“智能”设备的需求日益迫切，使得我们的生活更加便捷，但很多人已经开始感受到因此失去人际联系所带来的社会影响。面对这些更广泛的社会问题，利益相关者或监管机构可能会向组织提出质疑，询问其应对策略。由于利益相关者要求组织提高其社会影响的透明度，全球报告倡议组织框架（GRI）等报告框架以及富时社会责任指数（FTSE 4 Good）等社会指数正逐渐成为主流。然而，这些问题通常并不在组织直接控制的范围内，仍需要社会的监督和影响。

为了应对这一挑战，成立了“人工智能合作伙伴关系”，旨在研究和制定人工智能技术的最佳实践，推动公众对人工智能的理解，并提供一个开放的讨论平台。这个平台允许公众参与讨论人工智能及其对人类和社会的影响，以促进更广泛的对话和合作。通过这样的合作，我们希望能够共同应对人工智能带来的挑战，同时最大限度地发挥其潜力，为人类的未来创造更大的价值。

4.自动化与人工智能对公司的影响

与自动化和人工智能相关的治理问题

在当前环境下，董事们必须致力于不断变革的治理方式，而非局限于静态管理。随着自动化和人工智能的崛起，治理的核心已演变为三个“见”：预见、洞见和看见（监督）。

预见：预见要求董事们深入考虑自动化和人工智能所带来的风险与机遇。预期组织内部所需的变革至关重要，这可能非常简单，只要知道谁是为技术中断影响提供建议的人才，也可能是非常复杂，要考虑如何重新定义你所在行业。为了测试现有业务模式的可持续性，组织需要探索新的技术应用和消费场景，这往往需要颠覆传统的思维模式和做事方式。依靠过往经验来预测未来可能不再适用。为了保持竞争力，组织必须保持开放态度，走在时代前沿，或至少与时俱进，同时维护公众信任。

洞见：洞见意味着深入了解组织及其所在行业的特有风险与机遇。在讨论这些变革对组织及其客户的影响时，董事们需要贡献自己的真知灼见。特别是在技术开发和嵌入方面，董事们需要充分掌握情况，并向管理层提出关键问题和反馈意见。

监督：对于自动化和人工智能的监督职责，与其他治理领域的监督职责有许多相似之处。董事会不仅要设定传统的绩效指标（例如财务监督），还需制定专门用于监督创新和技术部署实施效果的绩效指标。此外，董事会还应考虑为创新和“计划内”业务中断设定合理的风险阈值，包括明确在何种情况下可以“放弃”未按计划执行的自动化或人工智能项目。随着自动化和人工智能的快速发展，外部监督也可能得到加强。政府可能会针对人工智能使用中的道德问题（如系统性偏见、公平性或隐私保护问题）出台更多法规。同时，企业也可能面临社会压力，要求其废弃不合时宜的经营方式。因此，董事会在制定战略和决策时，必须充分考虑这些外部因素，确保组织的可持续发展。

通过这些“三见”的应用，董事们可以在自动化和人工智能时代有效地引领组织，确保其在变革中保持稳健和成功。

监管不确定性下的组织治理

在不断演变的环境中，监管的不确定性成为了企业面临的关键挑战。企业倾向于期望稳定的监管环境，以便更好地预测和控制风险。然而，自动化和人工智能的快速发展使得“尖端科技”使用案例层出不穷，监管部门在应对这些变革时往往显得捉襟见肘。

我们观察到，现行的法规经常需要更新，以反映社会的最新动态。这些监管规定的变更可能是为了应对特定事件，或是响应各种游说团体的要求，如激励投资、遏制不当行为或保护权利，从而体现社会的标准和期望。然而，监管和治理框架的更新速度往往滞后于科技的发展。特别是考虑到第四次工业革命推动的数字经济具有全球性特征，各国在监管规定上达成共识可能需要更长时间。

那么，面对监管时间和范围的不确定性、监管规定的地区差异性，以及监管规定在技术问题上的滞后性，董事应如何调整治理策略呢？在最新监管规定尚未出台的情况下，组织需要采取更加灵活和积极主动的治理措施。为了保持竞争优势，组织可能需要预测技术发展方向、监管趋势，甚至预测或引领制定行业行为准则。此外，根据形势的变化及时调整应对策略也至关重要。这些努力将有助于组织在不确定的监管环境中保持稳定，并为未来的挑战做好准备。

董事会的角色和作用

在塑造组织的未来愿景时，董事会肩负着预测和制定战略方向的重任。在自动化和人工智能日益普及的背景下，董事们需要展现出以下关键能力和态度：

首先，保持敏锐的洞察力和好奇心，对科技发展的最新趋势保持关注。这要求董事们不断提问、学习和探索，以便了解新技术如何影响业务和市场；其次，深入理解自动化和人工智能技术对组织的短期和长期影响。这需要董事们从战略高度出发，评估技术变革对组织运营、市场竞争和客户需求等方面的潜在影响；在制定战略时，董事们应将组织的发展置于更广泛的时代背景下进行考虑。他们需要评估世界的变化趋势，预测这些变化可能对组织产生的挑战和机遇，并制定相应的应对策略；此外，鼓励创新思维和接受失败的态度也至关重要。在风险可控的范围内，董事们应支持组织尝试新的技术和业务模式，以推动持续的创新和进步；同时，随着技术的发展，组织的战略资产也在发生变化。董事们需要全面审视这些资产，认识到无形资产（如客户体验、数据分析等）的重要性，并制定相应的战略来管理和利用这些资产；最后，董事会应积极招募具备相关技能和视野的成员，以确保其具备评价战略和提出建设性问题的能力。这将有助于董事会做出更明智的决策，推动组织在自动化和人工智能时代取得成功。

总之，面对不断变化的技术环境，董事会需要具备前瞻性思维、开放态度和创新精神，以引领组织走向更加繁荣和可持续的未来。

毕马威的观察

为了使董事会委员会更好的了解并发挥自己的职责，履行自身义务，毕马威整理形成了涉及以上领域的自评问题清单和潜在警示信号。自评问题清单可供董事会委员会用以对自动化和AI在组织中的应用，及其对业务、客户、道德和监管等方面的影响进行自评估，潜在警示信号可供企业管理者、公司治理相关人员使用，以在发现相关信号时及时关注并审视自身的治理机制，及时进行整改。

1.公司董事自评问题清单

自动化和人工智能的定义是什么？它们对组织及其所在行业的影响有多大？如果错过应用这些技术的机会，将会付出怎样的代价？董事会是否深入了解自动化和人工智能在哪些领域能够有效提升成本效益？董事会是否全面考虑了自动化和人工智能对客户体验、增长动力和客户忠诚度的正面与负面影响？董事会在评估现有工作方式时，是仅仅考虑自动化现有流程，还是重新审视并优化整个工作方式？客户对董事会和公司有何期待？利用自动化和人工智能能否更好地满足这些期待？随着自动化和人工智能在社会中的广泛应用，董事会是否评估了这对组织及其业务模式的长远影响？如果董事会计划在业务中扩大自动化和人工智能的应用，需要考虑哪些伦理道德问题？在隐私保护、消费者权益、欺诈行为、网络安全等方面，自动化和人工智能可能带来哪些潜在的监管挑战？董事会是否充分考虑到扩大自动化和人工智能应用可能引发的广泛“管理变革”？高级管理层是否能够清晰地阐述自动化和人工智能对业务的具体影响？虚假的正面影响和负面影响是什么？人工智能是否是最佳解决方案（是否有更传统的替代方案）？在决策过程中是否需要人的参与？如果需要，何时以及以何种角色参与（监督人、仲裁者还是最终决策者）？公司应该作为跟随者还是领导者？是否与创新型初创企业和其他第三方建立合作关系，以加速自动化、人工智能和新兴技术的部署？公司是否建立了完善的风险管理流程和控制框架，以有效管理和控制自动化和人工智能的应用？

2.警示信号

在讨论风险和战略，以及业务和信息技术策略时，未曾触及自动化和人工智能的话题。自动化和人工智能的部署似乎游离于既定的自动化战略和运营模式之外。尚未建立任何治理框架来监控和/或确保自动化和人工智能产出的质量、准确性和/或严密性。董事们认为新兴技术与业务关系不大，因此对这些技术持保留态度。自动化和人工智能创新对整个企业员工队伍的影响尚不明确。高管们难以阐明自动化和人工智能对业务的潜在或实际影响，以及哪些竞争对手在这一领域领先。尽管认识到创新的重要性，但企业在支持或投入创新方面的力度仍然不足。战略风险清单中遗漏了业务中断风险。尚未考虑将首席数据官/首席分析官纳入高管团队，也未考虑任命自动化和人工智能领域的负责人，更未深入探讨这些职能的区别。没有为人工智能等新兴技术创新和投资设置预算，或者相关预算与收益实现之间没有明确的联系。企业一直在努力完善基础工作（如提升数据质量、增强描述性和诊断性分析能力），但自动化或人工智能的结果仍不理想。在高风险、受严格监管、曝光率高的业务领域，或直接影响人类安全的领域中，提议运用自动化和人工智能进行运营。技术人员和/或战略顾问的离职率居高不下。自动化和人工智能部署实施后不久，客户投诉、退货和赊销问题不断增多。

毕马威董事会智领中心

毕马威董事会智领中心汇聚企业董事，向董事提供支持和指导，成为会员便可参加各种专题和相关研讨会，获取宝贵的资源和领先洞察。我们为您提供高效履职所需的各种工具，为您解决切实存在的痛点难点。

若您想获得进一步的信息和交流，请与我们的治理、风险与合规服务咨询团队联系。

本文内容仅供一般参考用，并非针对任何个人或团体的个别或特定情况而提供。虽然我们已致力提供准确和及时的资料，但我们不能保证这些资料在阁下收取时或日后仍然准确。任何人士不应在没有详细考虑相关的情况及获取适当的专业意见下依据所载内容行事。本文所有提供的内容均不应被视为正式的审计、会计或法律建议。

©2024毕马威华振会计师事务所（特殊普通合伙）、毕马威企业咨询（中国）有限公司及毕马威会计师事务所，均是与毕马威国际有限公司（英国私营担保有限公司）相关联的独立成员所全球组织中的成员。毕马威国际及其关联实体不提供任何客户服务。各成员所均为各自独立的法律主体，其对自身描述亦是如此。毕马威华振会计师事务所（特殊普通合伙）——中国合伙制会计师事务所：毕马威企业咨询（中国）有限公司——中国有限责任公司；毕马威会计师事务所——香港合伙制事务所。版权所有，不得转载。毕马威的名称和标识均属于毕马威国际的商标或注册商标。