随着生成式人工智能技术从概念热潮步入商业落地与规模化应用阶段,董事会及管理层亟需深入理解该技术带来的机遇与风险,包括厘清三大核心问题:生成式人工智能在企业中的具体应用场景、价值创造路径,以及风险管控机制。
那些能成功实现生成式人工智能规模化应用的企业深谙一个道理:这不仅是一场技术革命,更是一场领导力变革。当技术应用触及员工日常工作的根本性改变时,需要管理层具备战略眼光与变革魄力。具体而言,企业需要建立系统性能力:通过专业评估业务流程与工作场景,精准定位人工智能赋能生产力的突破口;同时构建风险防控体系,应对数据准确性、算法偏见与虚构输出、网络安全、知识产权、品牌声誉、人才战略等多元挑战,并确保符合全球范围内快速演进的人工智能治理、隐私保护和知识产权法规要求。
鉴于生成式人工智能的战略地位,该技术将成为2025年董事会核心战略议题。为助力董事会聚焦其监督重点,我们提出以下战略行动框架:
董事会需把握企业运用生成式人工智能创造商业价值的核心战略,并持续追踪技术落地路径。董事会亦应寻求这项技术对于企业的意义 – 从运营维度、产品与服务维度、商业模式维度以及战略维度。董事会应该对于高级管理层能够阐明他们期望生成式人工智能对公司产生的主要影响,例如新的商业模式、新产品或收入来源,运营效率的提升感到满意。
董事会还应向管理层进一步调查,当客户、竞争对手及供应商全面应用生成式人工智能时,量化预判该技术对企业未来1年、3年、5年期的复合影响。例如现有业务中可能被人工智能替代的营收板块,可开拓的新盈利增长点,运营环节的降本空间,公司可预判的市场价格波动等。
生成式人工智能风险治理与缓释机制。
鉴于生成式人工智能的战略价值与技术复杂性伴生的多重风险,董事会须重点监督管理层构建覆盖全生命周期的治理架构,其中,重点关注的核心要点包括:
了解公司如何确保生成式人工智能输出的质量和准确性。
通过生成式人工智能实现预期的生产力和效率提升,将取决于公司数据的质量以及数据的收集、处理、存储和保护方式。董事会需要深入洞察管理层如何确保生成式人工智能输出的质量和准确性,包括公司是否对IT基础设施进行了合理投资以确保数据质量,以及公司的数据治理框架、流程和文化是否与日益复杂的数据相关风险的演变保持同步。
评估董事会的监督职责。
目前,许多董事会仍在探索如何以最佳方式对生成式人工智能进行监督。对于多数企业而言,监督职责仍主要由董事会层面承担,通常在此层面处理战略及转型议题。然而,部分企业董事会下设委员会,例如审计委员会、技术委员会或风险委员会,可能已经参与监督特定的生成式人工智能问题。
监督结构可能也会随着生成式人工智能的推进而演变。最终,与可持续发展议题类似,针对生成式人工智能的监督可能涉及全体或大多数董事会下设委员会。董事会面临的另一个重要问题是,他们是否具备足够的知识储备、专家资源和持续的教学机制,以有效监督企业对于生成式人工智能的应用。总体而言,这需要董事会全面提升对生成式人工智能的理解水平,确保每位董事都能实现基础性的掌握。此外, 针对生成式人工智能之外的其他新兴技术,董事会也需评估其监督架构与流程是否适配。