随着人工智能技术的快速发展，其在全球范围内的应用日益广泛，但同时也带来了一系列合规监管与安全风险的新挑战。在海外，如新颁布的《欧盟人工智能法案》，国内从2022年陆续颁布的关于算法与生成式人工智能的相关法规和管理办法，给企业级人工智能的开发与使用设定了高标准的监管环境。与此同时，企业在开发使用人工智能过程中不仅需要应对传统的安全风险，还面临着由人工智能技术带来的新风险，如算法偏见、数据泄露、模型安全等。这些构成了企业风险合规治理的新常态，对企业的运营和声誉构成了潜在威胁与挑战。为了有效应对这些威胁与挑战，企业该如何采取一系列应对措施，并建立高效的企业级人工智能治理体系？

2024年6月12日上午，DNV管理服务集团联合上海市人工智能与社会发展研究会，在上海市杨浦区长阳创谷成功举办“人工智能治理分享研习日”活动。在研习活动上，安永与DNV联合出品的“可信AI治理等级标识”服务首次亮相。本次活动由安永（中国）企业咨询有限公司（简称“安永”）和上海赛博网络安全创新研究院联合协办，并得到了上海市人工智能技术协会的大力支持。

研习日活动主讲嘉宾合影（图片来源：赛博研究院）

本次研习活动深入探讨了人工智能治理的新课题，涵盖全球人工智能领域监管与政策趋势研判、人工智能技术的风险与治理措施建议、人工智能治理优秀实践案例分享等多个维度，不仅全面介绍了企业人工智能治理的基础概念，还分享了人工智能治理的工作思路与方向，为参与企业提供了宝贵的知识和见解。

安永（中国）企业咨询有限公司大中华区网络安全和隐私保护咨询服务主管合伙人高轶峰先生莅临现场并为本次研习活动做开场致辞。高轶峰先生表示，人工智能技术的迅猛发展已成为推动社会进步和产业革新的关键动力。然而，这一进步并非没有挑战，人工智能治理的问题日益成为企业必须直面的重要议题。如何保障人工智能技术的稳健前行，如何在创新的激流中平衡潜在风险，如何达成技术飞跃与伦理责任的完美融合，都是企业亟需解答的核心问题。

安永网络安全和隐私保护咨询服务主管合伙人高轶峰先生致辞（图片来源：赛博研究院）

上海赛博网络安全创新研究院副院长张喆先生作为研习活动的开篇演讲嘉宾，演讲主题聚“全球人工智能监管与合规现状与趋势分析”。张喆先生以其丰富的专业知识和直观的对比方法，深入探讨了美国、欧洲和中国在人工智能领域的监管目标、范围、手段和内容，清晰地展示了各国监管策略之间的差异，并详细解读了包括《欧盟人工智能法案》在内的关键国际法规和中国的主要监管政策。张喆先生倡导，中国企业在遵守国内法律法规的基础上，应积极学习和内化业务所在地的法规要求，并通过自评估与第三方评估相结合的方式，对“训练数据”、“模型（算法）”和“生成内容”等关键领域进行评估，以确保人工智能应用的合规性和可持续发展。

上海赛博网络安全创新研究院副院长张喆先生（图片来源：赛博研究院）

随着人工智能技术的快速发展，技术风险如影随形，特别是在大模型训练中可能遇到的算法不透明、内容安全和数据安全等问题。因此，持续的人工智能治理对于预防和应对这些风险至关重要。安永（中国）企业咨询有限公司大中华区科技咨询服务合伙人张楠驰女士凭借其深厚经验，深入剖析了人工智能技术在企业应用中的风险，并提出了相应的应对策略和治理方案。张楠驰女士全面展示了生成式人工智能（AIGC）的行业应用潜力，随后深入探讨了人工智能技术应用所面临的风险环境，提出了具有针对性的安永人工智能治理框架与风险管理策略，并强调了隐私性、可解释性、公平性等可信人工智能属性的重要性，激励企业在人工智能技术的快速发展中，追求可持续且负责任的创新路径，确保企业在智能化浪潮中稳健前行。

安永科技咨询服务合伙人张楠驰女士

微软安全合规解决方案团队的资深技术专家周序侃先生从人工智能治理的实践出发，分享了微软在人工智能治理方面的卓越实践和深刻洞见。周序侃先生围绕微软倡导的“负责任的人工智能”（Responsible AI）理念，强调了人工智能在设计和应用中应体现的公平性、公正性和安全性等核心属性。周序侃先生详细介绍了微软在云安全责任共担、员工人工智能模型应用监控、人工智能生成内容管理及应用审计等关键领域的人工智能治理实践，生动展示了企业在促进人工智能技术运用的同时，通过有效的人工智能治理降低了潜在风险的优秀案例。周序侃先生的分享不仅在理论上具有深度，更在实践层面提供了价值，为企业在人工智能治理的实施绘制了清晰的蓝图。他的见解和经验无疑将指导和启发企业在人工智能治理的道路上走得更稳、更远。

微软安全合规解决方案团队的资深技术专家周序侃先生（图片来源：赛博研究院）

研习活动的最后，DNV管理服务集团大中国区ICT行业总监韩放女士隆重推出了与安永联合设计的可信人工智能治理等级体系——“可信AI治理等级标识”服务，为企业铺设了一条真正能够落地实现的可信人工智能建设之路。“可信AI治理等级标识”融合如ISO/IEC 42001-2023人工智能管理体系、欧盟人工智能法案、中国人工智能相关管理办法等国内外主流的人工智能法规和标准要求，并基于人工智能合规和安全风险管理专家多年的行业经验，根据企业人工智能角色、人工智能产品类型等要素，为企业定制人工智能合规风险管理控制框架和控制项。韩放女士表示，“可信AI治理等级标识”致力于为企业提供专业人工智能风险评估和背书服务。对于经评估和审核的产品，DNV（挪威船级社）将授予“可信AI治理等级标识”，为产品在激烈的国内外人工智能市场竞争中增添一枚“可信”徽章。

DNV管理服务集团大中国区ICT行业总监韩放女士（图片来源：赛博研究院）

结语

人工智能治理是一项复杂而持续的任务，尽管人工智能技术仍处于其发展的早期阶段，但它为企业带来的变革是深远和颠覆性的。这些变革在激发创新的同时，也对现有的监管和治理体系提出了新的挑战。面对这些挑战，企业不能因畏惧风险而停滞不前；相反，只有在发展中不断探索和完善治理模式，才能确保人工智能技术有效和负责任的应用。

本文是为提供一般信息的用途所撰写，并非旨在成为可依赖的会计、税务、法律或其他专业意见。请向您的顾问获取具体意见。