如何管理生成性人工智能项目——治理、教育、监管

智能真的很好说 2024-10-18 15:26:56

  创建卓越中心来有效管理生成性人工智能,能提升整个组织的成功几率。以下是做好管理的方法。

  生成型人工智能发展迅猛,吸引了投资,激发了开发人员的兴趣与创造力。企业将其视为构建创新服务、变革行业的途径。然而,开发人员虽热衷于利用其进行构建,但难题在于如何从初始测试阶段过渡到大规模运行阶段,即解决整合与管理项目的问题,以便让试点计划投入生产。这是新技术项目的常见历程,从实验探索逐步发展到跨组织广泛融合。若不及早考虑,这种扩散可能引发治理与可扩展性方面的挑战。

  治理与生成人工智能

  从实验迈向生产时,采用正确的治理方式至关重要。为充分发挥生成型人工智能的变革潜力,需平衡热情与有效治理。尽管生成式人工智能利用了组织数据和知识产权,但它的快速发展可能会冲击既定流程。倘若缺乏明确的指导方针、倡导者以及执法者,混乱与风险可能会加剧。

  建立一个能支持跨部门协作的中央团队是理想之选。无论将其称作卓越中心(CoE)还是实践社区(CoP),该团队在围绕生成性人工智能的使用创建共同规则与流程方面起着关键作用。同时,应让多部门代表参与其中,使团队与业务需求紧密相连。这既能为他们提供解决业务问题所需的技能与支持,又可避免团队仅专注于隐私、安全等问题。要把生成性人工智能 CoE 想象成深入一线协助达成业务成果的团队,而非孤立地发号施令。

  CoE 主要有三项职责:监管、教导与裁判。这三个方面对所有人都不可或缺,以便让所有行动与选择都朝着同一目标。

  CoE 监管者:引领、执行与自动化对新技术项目进行监管,需创建一套小型通用标准来管理所有参与团队。对于生成性人工智能项目,可能包括制定统一的方法来管理提示配方、智能体开发与测试,以及访问开发工具与集成。这些规则应简便易行以确保合规,同时必须严格执行。随着时间推移,这种方式能减少与既定标准的偏差,降低管理成本与技术债务。

  例如,管理项目中数据使用时,许多生成性人工智能项目会涉及处理和部署客户数据。在实际操作中,当涉及客户的个人身份信息(PII)和企业的知识产权(IP)时,应确保这些数据安全,且与大型语言模型(LLM)分离,同时又能在项目中被合理使用。PII 和 IP 可通过快速工程部署并提供有价值的额外信息,但 LLM 不应将其用于再培训或留存。

  治理应注重实际。在执行规则时过于强硬或过度可能会阻碍团队工作、增加合规成本。同时,在某些情况下,如涉及隐私风险、数据使用不道德或成本过高的实验,必须予以制止。总体目标是避免设置繁琐标准或抑制热情,专注于鼓励最佳实践成为标准。

  为充分利用生成性人工智能,CoE 应支持并鼓励企业内部进行实验。初期设置防护措施可帮助团队积累构建生成性人工智能服务、提示配方或自动智能体的经验。随着团队经验增加,可逐步放宽部分严格控制,协助他们建立自己的智能体并提交优质的提示配方创意。由于生成性人工智能应用通常具有模块化设计特点,可对常见组件采用相同的控制、监控与价值评估方法。CoE 的目标应是提供控制层,促进项目的采用与构建,而非阻碍项目发展。

  CoE 教导者:最佳实践与社区理想状态下,这是 CoE 投入精力最多的部分。生成式人工智能项目包含多种用户交互方式,从创建能从 LLM 中获取出色结果的提示列表,到功能完备能处理完整交易的交互式自主智能体,旨在以最适宜的方式为用户创造更多价值。

  为有效部署此类项目,企业首先要赋能团队构建服务,然后助力其扩展服务。CoE 除了定义相关标准并执行外,还应创建并分享最佳实践与原则,以指导新团队并促进知识共享。需要围绕生成性人工智能及其潜力开展培训,以推动应用并助力人们进行实验。

  要明确原则与标准的区别。标准用于提供活动基准以及数据处理方式等内容,而原则为建立标准提供指导框架。例如,保护客户 PII 的标准明确了要保护数据,而原则则决定如何使用和处理该数据以创造价值。这些原则允许不同团队围绕智能体开发进行实验并采用不同方法。

  对于 CoE 来说,设立一个探索生成性人工智能潜力并广泛分享最佳实践的岗位至关重要。这个类似 “传道者” 的职位可帮助团队了解可用的智能体和工具、优化想法并分享其他团队的经验。长此以往,在企业内部培育出强大的社区,鼓励成员相互分享经验与成果,促使项目快速推进。

  CoE 裁判者:调解与决策在任何技术领域,实现最终结果或业务目标往往有多种途径,人们难免会对最佳方法产生分歧。在生成型人工智能中,诸如使用检索增强生成(RAG)与 LLM 微调、内容与模型调整等话题会引发激烈讨论。

  CoE 在这一过程中作用关键。有效的生成性人工智能治理必须有不同团队代表参与,以便在观点不同时仍能做出决策。同时,CoE 要能快速确定哪种方法是解决特定问题的最佳选择,或者判断相关人员是否需要通过实验获取更多证据来支持各自论点。CoE 的主要准则是所有人都应尊重决策并努力支持业务目标。

  若要让大家尊重决策,需获得多个利益相关者的认可。若 CoE 不参与日常活动或没有实际投入,就可能被视为 “象牙塔”。为避免这种情况,应注重行动并保持决策的一致性,这有助于更快解决争议。

  投资于生成式人工智能

  生成型人工智能潜力巨大。据埃森哲数据,40% 的工作时间将使用生成性人工智能并重塑工作方式。为开展相关项目,企业需要提供支持、进行治理并促进技能发展。当企业领导者认识到这一潜力,便会投入大量资源使其发挥作用。否则,只能眼睁睁看着竞争对手开展相关工作而自己落后。

  创建 CoE 来有效管理生成性人工智能将增加成功机会。CoE 能最大化生成性人工智能项目的价值,并促使各方围绕目标参与。通过正确运用监管、教导与评审的方法,生成性人工智能 CoE 能有力推动应用与发展,使 IT 与业务利益相关者目标一致。

0 阅读:0

智能真的很好说

简介:感谢大家的关注