兰德公司8月13日发布了由James Ryseff、Brandon de Bruhl和Sydne J. Newberry等研究者撰写的题为《The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed》的报告。该报告基于对65名具有至少五年AI/ML模型构建经验的数据科学家和工程师的采访,确定了导致AI项目失败的五个主要根源,并提供了专家建议,以期提高AI项目在行业与学术界的成功率。
鉴于超过80%的AI项目以失败告终,这一比率是非AI信息技术项目失败率的两倍,因此,如何将AI的潜力转化为实际成果仍是一大挑战。该报告的调查结果和建议对美国国防部及其他政府和私营部门领导人考虑采用AI/ML技术具有重要意义,有助于他们吸取早期实践中的教训,避免重蹈覆辙,同时对我国的AI项目的规划和实施也具有非常重要的借鉴意义。一、背景
人工智能(AI)被广泛认为是具有转型潜力的技术,曾仅限于资金雄厚的技术公司使用,但现在已被各类组织采纳。尽管对AI的期望很高,但许多组织在交付有效的AI应用方面存在困难。报告指出,尽管84%的企业领导者认为AI将对其业务产生重大影响,但只有14%的组织表示已准备好完全整合AI。据估计,超过80%的AI项目失败,这一比率高于非AI信息技术项目的失败率。二、研究方法
研究者通过半结构化访谈的方式,采访了65位在工业界或学术界拥有至少五年构建AI/ML模型经验的经验丰富的数据科学家和工程师。这些访谈反映了行业和学术界在AI项目实施上的多样性,并提供了关于AI项目失败根本原因的深入见解。三、失败的根本原因报告基于访谈结果,识别了五个导致AI项目失败的主要根本原因:(一)领导层问题业务领导层对AI项目目标和问题的误解或沟通不畅。在访谈中,经验丰富的AI从业者指出,业务领导层往往误解如何设定项目成功路径,这是导致AI项目失败的最常见根本原因。这种误解对项目的最终结果影响最大。(二)数据问题组织缺乏足够的数据来训练有效的AI模型。数据的质量和实用性限制是导致AI项目失败或表现不佳的另一个重要原因。超过一半的受访者自发地将数据问题作为AI项目失败或表现不佳的主要原因。(三)技术关注问题组织过于关注使用最新技术,而忽视了解决实际问题。一些受访者讨论了项目失败的其他原因,其中包括对基础设施投资不足,以及领导层自上而下的失败与数据科学团队个别贡献者自下而上的失败之间的差异。(四)基础设施问题组织缺乏足够的基础设施来管理数据和部署完成的AI模型。这增加了项目失败的可能性。(五)技术应用问题AI技术被应用于当前技术难以解决的问题。AI并非万能钥匙,不能解决所有挑战性问题。在某些情况下,即使是最先进的AI模型也无法自动化解决困难的任务。这些根本原因在行业访谈中被突出强调,被视为数据科学团队在行业中感知AI项目失败的最常见和最有影响力的原因。四、行业建议
报告针对行业提出了五项成功实施AI项目的原则:(一)确保技术团队理解项目目的和领域背景领导者需要帮助技术团队理解他们真正需要AI项目实现的目标,以及完成的AI产品最终将如何被使用。他们不能假设工程团队能够独立发现哪些设计选择会使他们的产品在其业务环境中变得有用。同时,AI研究人员和工程师需要通过保持项目进度和状态的更新,以及任何中间发现,来赢得业务利益相关者的信任。(二)选择持久性问题AI项目需要时间和耐心才能成功完成。数据科学家和数据工程师需要时间来探索、理解并管理可用数据,然后尝试训练一个能够从这些数据中学习行为的AI模型。在AI项目开始之前,领导者应该准备好每个产品团队至少解决一个特定问题一年。如果一个AI项目不值得这样的长期承诺,那么它可能根本不值得承诺。(三)投资基础设施前期投资基础设施以支持数据治理和模型部署,可以显著减少完成AI项目所需的时间,并可以增加可用于训练有效AI模型的高质量数据量。(四)理解AI的局限性尽管围绕AI作为技术的炒作,AI仍然有技术局限性,这些局限性并不总是可以克服。在考虑潜在的AI项目时,领导者需要包括技术专家来评估项目的可行性。(五)重新思考现有软件开发流程AI项目需要不同的工作节奏,组织应该赋予他们的团队根据工作负载调整流程的权力,而不是强迫项目团队遵循为不同类型的工程设计的统一程序集。组织将需要重新发现如何使敏捷软件开发流程变得适应性强,真正地敏捷。五、学术界建议报告还为学术界提出了建议,以克服数据收集障碍和鼓励数据科学博士项目的发展:通过与政府的合作,克服数据收集障碍,获取更多用于研究的数据集。扩大数据科学博士项目,为实践者提供应用研究成果的途径。六、研究结果与分析访谈结果显示,领导层驱动的失败是最常被提及的AI项目失败原因,84%的受访者提到了这一点。数据质量问题紧随其后,成为第二常见的原因。此外,报告还讨论了数据科学团队内部的技术问题,如数据科学家可能过分追求最新技术而忽视了解决实际问题的效率。报告还指出,尽管AI技术的发展速度很快,但AI项目的成功仍然需要时间和耐心。技术人才和计算能力的可用性通常不是AI项目失败的主要原因,这与云服务提供的大量计算资源和AI教育项目的增多有关。七、敏捷软件开发与AI报告特别提到了敏捷软件开发方法在AI项目中的应用问题。由于AI项目的特殊性,如数据探索和模型训练可能需要不可预测的时间,因此传统的敏捷软件开发流程可能不适用于AI项目。报告建议,技术团队应与业务伙伴频繁沟通,而不是严格遵循可能不适合AI项目的既定软件工程流程。八、结论报告总结了AI项目成功的关键在于理解AI的潜力并将其转化为具体的成果。这需要组织领导层与技术团队之间的有效沟通,以及对AI技术局限性的深刻理解。通过遵循报告中提出的建议,组织可以避免常见的AI项目失败陷阱,并提高项目成功的可能性。