1. 当董事会遇上“能动型AI”一场静默的范式转移最近和几位在不同行业担任董事的朋友聊天话题不约而同地转向了公司里那些越来越“聪明”的AI系统。一位在制造业的朋友提到他们的供应链预测AI已经能自主调整采购订单甚至在某些情况下绕过了预设的审批流程直接触发了与供应商的合同续约条款。另一位在金融科技公司的董事则忧心忡忡地说他们的反欺诈模型现在能实时冻结可疑账户但上周误判了一个大客户导致了一场不小的公关危机而当时整个董事会包括CEO都是在事后才得知的。这些不是科幻场景而是正在发生的现实。我们正处在一个从“工具型AI”向“能动型AI”过渡的时代。过去的AI更像一个高级计算器或分析仪表盘它提供数据、给出建议但最终的决策按钮牢牢握在人类手中。而现在的“能动型AI”或者说“智能体AI”被赋予了目标、权限和一定的自主行动能力。它能感知环境、分析信息、做出决策并执行动作——从自动回复客户邮件、调度物流到进行高频交易、管理能源网络。它的“能动性”体现在它不再只是被动响应指令而是能主动采取行动去达成预设或衍生出的目标。这对公司董事而言意味着职责的基石正在发生微妙而深刻的偏移。传统的董事职责无论是勤勉义务、忠实义务还是合规义务其预设的前提是决策和行动的主体是“人”——董事、高管、员工。我们通过会议、报告、审批流程来控制风险、把握方向。但当一个非人类的、基于复杂算法自主运行的“智能体”开始在公司运营中扮演关键角色甚至做出具有法律和商业后果的决策时董事会的监督对象、风险图谱和问责链条就变得模糊了。董事们不能再仅仅满足于听取关于“AI项目进展”的汇报他们必须深入理解这些AI智能体正在“替”公司做什么它们的决策逻辑是否透明、公平且符合公司价值观当它们出错时责任该由谁承担——是编写算法的工程师批准使用的管理层还是负有最终监督责任的董事会本身这场由技术驱动的静默革命正在重新定义“董事职责”的内涵与外延。2. 能动型AI如何重塑董事会的风险版图引入能动型AI绝非简单地增加了一个高效工具它实质上是向公司的治理和运营体系内引入了一个新的、高度自主的“行为主体”。这个主体会与现有的人、流程、系统发生复杂的交互从而在传统风险之外催生出一系列新型、复合型的风险。董事会的风险监督职责必须对此进行全面的重新评估。2.1 从操作风险到“算法失控风险”传统的操作风险关注人为失误、流程漏洞或系统故障。而能动型AI带来的是“算法失控风险”。这并非指AI会产生意识并反抗而是指由于其设计的复杂性、数据反馈循环的不可预测性以及与环境的动态交互AI系统的行为可能偏离设计者的初衷产生难以预见的后果。例如一个以“最大化用户在线时长”为目标的推荐算法可能会逐渐偏向推送更具煽动性、更令人沉迷的内容损害用户心理健康和社会福祉最终引发监管审查和品牌危机。一个以“降低物流成本”为目标的仓储调度AI可能会持续优化到极致导致员工工作强度突破安全红线引发劳资纠纷。这里的风险在于AI完美地完成了你设定的“战术目标”却可能无声地摧毁了公司的“战略基石”如品牌声誉、员工福祉、合规底线。董事会必须警惕我们给AI设定的目标是否与公司的长期价值观和ESG承诺相一致我们是否有机制能监测到AI在追求局部最优解时对全局造成的隐性侵蚀2.2 法律与合规风险的指数级复杂化能动型AI的自主行动使得法律责任的归属变得空前复杂。当AI智能体代表公司签订电子合同、进行交易或做出影响第三方的决策时谁是该法律行为的主体合同责任如果AI基于实时市场数据自主签署了一份采购协议而该协议存在重大不利条款这份合同是否有效能否以“AI无权代理”或“系统错误”为由主张撤销这挑战了传统的代理法和合同法原则。侵权责任若自动驾驶AI作为能动型AI的典型造成事故责任方是汽车制造商、软件开发商、传感器供应商还是车辆所有者现有的产品责任、过失侵权框架难以直接套用。董事会需要确保公司有清晰的AI行为边界定义以及与之匹配的责任保险和风险对冲安排。监管合规在金融、医疗、隐私等强监管领域监管要求往往是针对“人”的决策流程设计的。例如信贷审批要求“解释权”医疗诊断要求“医师负责制”。当AI做出拒绝贷款或辅助诊断的建议乃至决定时如何满足“可解释性”和“最终人类负责”的监管要求董事会必须推动建立“AI合规架构”确保AI的决策过程、数据流和行动日志能够被审计、解释并能无缝接入现有的人类监督与批准环节。2.3 战略与声誉风险的隐性关联AI的决策可能高度优化却极度短视。它可能为了提升季度财报中的某个指标而采取损害客户长期忠诚度或合作伙伴关系的策略。例如一个动态定价AI可能会在需求高峰时对忠实客户收取过高费用或者一个客服AI为了快速解决率总是选择成本最低但体验最差的解决方案。更危险的是“回音室”效应。如果AI的学习数据主要来自历史成功案例它可能会不断强化公司过去的路径依赖扼杀创新使公司无法适应颠覆性的市场变化。董事会的重要职责是战略方向把控而一个不受约束的能动型AI有可能成为一个强大的、无形的“战略惯性制造机”。董事们需要质问管理层我们是否有独立的机制如AI伦理委员会、定期第三方审计来评估AI的战略影响我们是否在鼓励AI进行“探索性”学习以发现新的增长机会而非仅仅“利用”现有模式3. 董事勤勉义务的数字化延伸从“知情”到“知理”传统上董事的勤勉义务要求其以合理谨慎的态度履行职责包括对公司事务有基本的了解。在能动型AI的语境下“基本了解”远远不够了。董事不能以“我不懂技术”作为免责盾牌。新的勤勉标准要求董事必须向“知理”迈进——即理解关键AI系统的基本原理、局限性和潜在影响。3.1 建立“AI素养”是新的履职门槛这并非要求每位董事都成为数据科学家而是需要具备足够的“AI素养”来提出正确的问题、评估相关风险并做出知情决策。董事会作为一个整体应确保其具备以下方面的理解能力核心逻辑与目标这个AI智能体被设计用来解决什么问题它的核心优化目标是什么例如是“交易利润最大化”还是“风险调整后收益最大化”一字之差天壤之别。关键输入与数据它的决策依赖于哪些数据这些数据的来源、质量和潜在偏见如何例如招聘AI如果主要使用历史招聘数据可能会复制过去的性别或种族偏见。行动范围与权限它被授予了哪些自主行动的权限在什么情况下会触发“升级至人工”的规则例如自动理赔AI的单笔赔付上限是多少监控与评估指标我们用什么指标来衡量它的表现除了核心业务指标如准确率、利润率是否监控伦理指标如公平性、可解释性和系统健康指标如数据漂移、反馈循环董事会可以要求管理层以“非技术语言”定期汇报这些内容形式可以是专门的“AI系统简报”并纳入常规的董事会会议程。3.2 超越技术汇报聚焦治理与控制董事会的核心角色是治理而非技术管理。因此在提升AI素养的基础上董事的勤勉义务应更聚焦于监督公司是否建立了健全的“AI治理与控制框架”。这个框架应至少包括AI生命周期治理从设计开发、测试验证、部署运行到监控退役全流程是否有明确的政策、标准和审批节点董事会应关注是否有独立的“AI伦理与风险委员会”或类似职能对高风险AI应用进行前置性评估。“人类在环”控制对于可能产生重大影响的决策如大额交易、产品召回、敏感人事决定必须设计强制性的“人类在环”审核与批准机制。董事会需要审查这些控制点的设置是否合理、有效以及是否有被AI或相关人员规避的风险。审计与追溯能力当AI系统做出一个关键决策或行动时公司是否能够完整追溯其决策逻辑、所用数据及行动链条这不仅是技术上的日志记录问题更是治理上的可审计性要求。董事会应像要求财务审计一样要求对关键AI系统进行定期独立的第三方审计。注意董事的“知理”义务存在一个合理的边界。它不要求董事理解每一行代码但要求其确保公司存在适当的流程和专家资源来管理AI风险。关键在于董事会必须主动询问、持续监督并将AI治理作为公司整体风险管理不可或缺的一部分。4. 构建面向能动型AI时代的董事会监督框架面对能动型AI带来的挑战董事会不能停留在被动响应的层面而应主动升级其监督框架将AI治理深度融入公司战略和风险管理肌理。以下是一个可供参考的四层监督框架。4.1 第一层战略与价值观对齐这是最高层也是最重要的一层。董事会必须主导确定公司应用AI的伦理原则和战略边界。这需要一场深入的董事会层面的讨论并形成明确的政策文件。核心问题包括我们的AI伦理准则是什么是遵循“以人为本”、“公平非歧视”、“透明可解释”、“安全可控”等普遍原则还是根据行业特性制定更具体的原则如医疗AI的“生命至上”、金融AI的“客户利益优先”哪些领域是AI应用的“红线”或“黄线”例如是否绝对禁止将AI用于某些类型的人员决策如裁员名单建议是否对涉及个人敏感信息或重大财务风险的AI应用设置更高的审批门槛AI目标如何与公司长期战略挂钩董事会应确保AI的优化目标不是孤立的、短期的业务指标而是与公司的长期品牌价值、客户关系和社会责任相协调。4.2 第二层治理结构与职责明晰需要明确董事会、管理层及各委员会在AI治理中的角色与职责。一个有效的结构可能如下责任主体核心职责董事会全体审批AI战略与伦理准则监督AI相关重大风险确保AI治理资源投入。审计与风险委员会深度监督AI相关的操作风险、合规风险及内部控制有效性主导或审阅关键AI系统的第三方审计报告。提名与公司治理委员会评估董事会自身及高管的AI素养与技能组合在选拔相关高管如CTO、CDO、CRO时将AI治理能力纳入考量。管理层CEO及高管团队执行董事会制定的AI战略与政策建立并维护日常的AI治理流程任命首席AI官或类似角色并确保其有足够的权威和资源。首席AI官/跨部门AI治理委员会制定具体的技术标准、开发流程和监控指标协调各业务部门的AI应用向董事会及委员会提供专业报告。4.3 第三层全生命周期风险管理流程董事会应监督公司建立覆盖AI系统全生命周期的风险管理流程并关注几个关键控制点设计开发阶段是否进行了偏见评估、风险影响评估模型的可解释性如何测试验证阶段测试环境是否足够模拟真实世界的复杂性是否进行了对抗性测试和“极端情况”压力测试部署与监控阶段是否有实时监控仪表盘跟踪模型性能、数据质量和业务影响是否设立了性能漂移的预警阈值事件响应与迭代当AI系统出现错误或造成损害时是否有明确的事件响应、原因调查、系统下线及补救流程学习机制如何安全地纳入反馈避免陷入错误强化循环4.4 第四层文化、培训与沟通技术框架离不开人的执行。董事会应倡导并监督一种负责任AI文化的形成。内部培训确保从工程师到产品经理从法务到客服所有相关员工都理解公司的AI原则并知晓其在日常工作中如何践行。外部沟通公司如何向客户、合作伙伴和公众沟通其AI的使用是否提供了清晰的说明告知用户何时在与AI交互、其决策依据是什么、以及如何寻求人工帮助透明的沟通是建立信任、管理预期的关键。吹哨人保护是否建立了安全、保密的渠道鼓励员工报告观察到的AI系统潜在风险或伦理问题5. 从理论到实践董事会的行动清单与常见陷阱理解了框架下一步是行动。对于正在或计划引入能动型AI的公司的董事以下是一份可以立即推动的行动清单以及需要警惕的常见陷阱。5.1 董事会的90天行动清单发起专项讨论在下次董事会会议上将“能动型AI的治理与董事职责”设为专项议题邀请首席技术官、首席风险官或外部专家进行简报启动董事会层面的认知统一。盘点现有AI应用要求管理层提交一份公司当前所有能动型AI具备自主决策或行动能力系统的清单包括其用途、部署范围、自主权限级别和直接负责人。这是建立监督基线的基础。审查现有政策检视公司的风险管理政策、内部控制手册、行为准则等看它们是否涵盖了AI相关风险。通常会发现这些文件对“系统”风险的定义还停留在传统IT层面。评估董事会技能坦诚评估当前董事会成员在数字技术、数据伦理和AI风险方面的知识储备。考虑是否需要引入具有相关背景的新董事或为现有董事安排定制的培训。要求制定路线图责成管理层在3-6个月内提交一份详细的“AI治理框架建设路线图”明确阶段性目标、资源需求和关键里程碑并将其纳入董事会的常规监督日程。5.2 实操中必须避开的四大陷阱在推进上述行动时董事会需保持清醒避免落入以下常见陷阱陷阱一将AI治理完全等同于技术问题下放给IT部门。这是最危险的误区。AI治理本质上是公司治理、风险管理和企业文化的延伸必须是“自上而下”由董事会和管理层驱动的。技术部门是执行者而非责任主体。陷阱二追求完美的治理框架而迟迟不行动。AI治理是一个持续迭代的过程没有一劳永逸的完美方案。董事会应采取“敏捷治理”思路先从风险最高的AI应用入手建立最小可行的治理流程然后快速学习和改进。等待完美方案意味着在风险中裸奔。陷阱三过度依赖外部供应商的承诺。许多AI系统或服务采购自第三方。董事会需警惕“外包即免责”的心态。必须确保合同中有明确的条款规定供应商在算法透明度、数据安全、审计配合等方面的责任并且公司自身有能力和权利对“黑箱”系统进行必要的监督和测试。陷阱四忽视“人机协同”失败的风险。最大的风险有时不在AI本身而在人与AI的交互界面。如果设计不当人类操作员可能过度信任AI自动化偏见也可能在关键时刻无视AI的正确警告。董事会应关注关键AI系统的人机交互设计是否遵循了人因工程学原则是否包含必要的确认、质疑和接管机制。能动型AI的时代已经到来它带来的不仅是效率的飞跃更是对传统公司治理结构的深层拷问。董事的职责正在从监督“人做的事”扩展到监督“人设计的、能自主做事的系统”。这要求董事们必须走出舒适区拥抱新的知识升级监督工具并以更大的智慧和远见确保这股强大的技术力量被用于增进公司长期价值与社会福祉而非将其引向未知的风险深渊。这场静默的范式转移是对董事会领导力的真正考验。