ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

AI 治理框架与法规谱系

AI 治理框架与法规谱系 定位回答允许怎么做的规范基础——法律、规章、规范性文件、标准四层如何叠成一张网。 基准2026 年 9 月谱系总览四层 一条主线法律层 《网络安全法》《数据安全法》《个人信息保护法》《科技进步法》为依据 ↓ 依据 部门规章层 算法推荐 → 深度合成 → 生成式AI → 生成合成内容标识 ↓ 支撑 规范性文件层 科技伦理审查办法、AI 伦理规范 ↓ 落地 标准层 TC260/国标安全基本要求、标识方法信通院评估体系AI 计量体系一条主线从管算法→管深度合成→管生成式服务→管生成内容标识规制颗粒度逐层细化门槛从抽象原则走向可量化指标。1.1 法律层三部基础法一部依据法法律施行对 AI 的核心约束《网络安全法》​2017.6.1网络空间基础性法律确立网络产品服务安全、网络运行安全、关键信息基础设施安全制度落实网络实名制《数据安全法》​2021.9.1数据分类分级保护制度关系国家安全、国民经济命脉、重要民生、重大公共利益的数据属国家核心数据实行更严格管理《个人信息保护法》​2021.11.1个人信息处理规则敏感个人信息生物识别、医疗健康、金融账户、行踪轨迹及不满十四周岁未成年人信息须单独同意《科学技术进步法》2022.1.1《生成式人工智能服务管理暂行办法》与《人工智能科技伦理审查与服务办法》的共同依据三者定位差异《网络安全法》管网络、《数据安全法》管数据、《个人信息保护法》管个人信息。对 AI 企业的直接含义训练语料涉及个人信息须满足 PIPL 的授权要求涉及重要数据/核心数据须满足 DSL 的分类分级要求。二者在推荐性国标中已被量化见 1.4。1.2 部门规章层四部按时间线递进①《互联网信息服务算法推荐管理规定》发布国家网信办、工信部、公安部、国家市场监管总局四部门联合施行2022.3.1核心制度算法备案——具有舆论属性或社会动员能力的算法推荐服务提供者应在提供服务之日起十个工作日内通过备案系统填报五类算法生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类监管体系算法分级分类 算法备案管理 算法安全评估 算法风险监测②《互联网信息服务深度合成管理规定》发布国家网信办、工信部、公安部令第 12 号施行2023.1.10技术定义利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景的技术含人脸生成/替换、三维重建、数字仿真等主体义务提供者、技术支持者、使用者、应用程序分发平台备案第十九条具有舆论属性或社会动员能力的深度合成服务提供者应履行备案手续技术支持者参照履行安全评估开发上线具有舆论属性或社会动员能力的新产品、新应用、新功能应开展安全评估③《生成式人工智能服务管理暂行办法》发布国家网信办联合国家发改委、教育部、科技部、工信部、公安部、广电总局七部门施行2023.8.15地位是全球首部针对生成式人工智能的专门立法网信专家解读适用利用生成式 AI 技术向境内公众提供生成文本、图片、音频、视频等内容的服务关键条文第十七条提供具有舆论属性或者社会动员能力的生成式人工智能服务的应开展安全评估并按《算法推荐管理规定》履行算法备案和变更、注销备案手续第十九条主管部门可要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明第二十条来源于境外向境内提供服务不符合规定的网信部门应通知有关机构采取技术措施和其他必要措施予以处置理解境外模型为何进不来的关键第二十三条外商投资生成式人工智能服务应符合外商投资相关法律、行政法规的规定原则包容审慎 分类分级监管④《人工智能生成合成内容标识办法》发布国家网信办、工信部、公安部、广电总局四部门联合2025.3.14施行2025.9.1核心明确 AI 生成合成内容标识包括显式标识和隐式标识规范内容制作、传播各环节标识行为它是 1.6 内容标识的直接上位依据。不引这部规章标识义务就无来源。四部规章递进关系规章管什么颗粒度算法推荐规定五类算法服务算法机制透明深度合成规定换脸/拟声/三维重建等具体技术形态生成式 AI 暂行办法生成式服务全链条服务提供者责任生成合成内容标识办法​生成内容本身​单条内容可溯源​1.3 规范性文件层伦理审查成为前置要求《人工智能科技伦理审查与服务办法试行》项内容文号​工信部联科〔2026〕75 号​印发​工信部、发改委、教育部、科技部、农业农村部、卫健委、人民银行、网信办、中科院、中国科协十部门联合​依据​《科学技术进步法》《关于加强科技伦理治理的意见》《科技伦理审查办法试行》核心要求高等学校、科研机构、医疗卫生机构、企业等是本单位伦理审查管理的责任主体应设立人工智能科技伦理委员会配备必要的工作人员、办公场所和经费保障委员会独立开展工作鼓励有资质单位开展 AI 科技伦理管理体系相关认证地方可建立专业性 AI 科技伦理审查与服务中心提供审查、复核、培训、咨询服务监管分工科技部负责统筹指导全国科技伦理监管工作工信部会同有关部门负责人工智能科技伦理治理工作各部门依照职责权限负责本行业、本系统人工智能科技伦理审查的监督管理工作。关键变化该办法将伦理审查设为AI 产品上线的前置要求压实研发运营主体伦理合规法定责任。这不再是建议。AI 伦理规范与伦理审查办法配套的规范性文件强调增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等伦理原则并要求伦理委员会保证应急审查的质量与时效、加强跟踪工作与过程监督。 国泰海通《全球人工智能趋势全景白皮书2026》将伦理审查列为中国人工智能政策体系的重要组成部分与场景培育、智能体规范、深度合成标准、AI 计量体系并列推进 。1.4 标准层TC260/国标 信通院评估体系 AI 计量体系核心修正GB/T 45654—2025 与 TC260-003 是升级关系不是并列TC260-003GB/T 45654—2025全称​《生成式人工智能服务安全基本要求》《网络安全技术 生成式人工智能服务安全基本要求》性质​全国网安标委SAC/TC260技术文件​推荐性国家标准​发布/实施​2024.2.29 发布2025.4.25 发布2025.11.1 实施​效力​不具有强制执行效力但监管部门据此开展大模型备案审核配套《暂行办法》支撑监管备案与第三方安全测评演进逻辑技术文件先行探索2024→ 升格为推荐性国标2025.11 实施。当前应以 GB/T 45654—2025 为准。标准体系全景按效力排序标准性质时间作用GB 45438—2025《人工智能生成合成内容标识方法》强制性国标​2025.2.28 发布2025.9.1 实施​配套《标识办法》规范标识活动GB/T 45654—2025《生成式人工智能服务安全基本要求》推荐性国标2025.11.1 实施备案技术依据、第三方安全测评GB/T 45652—2025《预训练和优化训练数据安全规范》推荐性国标—训练数据及其处理活动的安全要求GB/T 45674《数据标注安全规范》推荐性国标—配套训练数据安全TC260-003​技术文件2024.2.29已升格为 GB/T 45654TC260-005《人工智能应用伦理安全指引 1.0》技术文件—统一合规判定技术标尺GB/T 45654—2025 的量化指标合规实操关键维度量化门槛语料来源​违法不良信息5% 不得采集采集后核验 5%不得用于训练​训练数据抽检​人工抽检合格率≥98%技术抽检≥96%​生成内容安全性​合格率≥90%​拒答机制​该拒答拒答率≥95%不该拒答≤5%​关键词库​总规模≥10000 个每周至少更新一次测试题库​生成内容≥2000 题拒答≥500 题每月更新附录 A31 类安全风险分五大类违反社会主义核心价值观8 类歧视性内容9 类商业违法违规侵犯他人合法权益无法满足特定服务类型的安全需求——用于关键信息基础设施、自动控制、医疗信息服务、心理咨询、金融信息服务时内容不准确或不可靠第 5 类是重点它把医疗、金融、心理咨询、关键信息基础设施列为安全需求较高的特定服务类型要求具备与风险程度相适应的保护措施。(对应行业差异信通院评估体系中国信通院构建了覆盖大模型、智能体、RAG 等的可信 AI 评估体系并发布智能体市场规模等权威统计智能体市场 135.3 亿、增速超 70% 即出自信通院口径。评估体系的作用是把抽象的安全要求转化为可测量、可对比的评测结果为监管备案与采购选型提供依据。AI 计量体系人工智能行动的基础支撑中明确包含AI 计量体系建设 指向人工智能的计量测试基准、测评方法与量值溯源能力。它解决的是怎么测量才算准的问题——与 TC260 的安全标准要求是什么、信通院评估体系怎么评共同构成标准层的三个支点。1.5 双备案机制详解三者的区别关键别选错路径类型依据适用对象审核机制算法备案​《算法推荐管理规定》具备舆论属性或社会动员能力的算法服务五类线上系统提交大模型备案​《暂行办法》第十七条自研模型或基于第三方进行预训练/优化训练​省级网信初审 国家网信终审两级大模型登记​《暂行办法》配套指引仅通过 API 调用已备案模型不改动权重省级单级审核​双备案的含义生成式大模型的底层生成算法本身属于算法备案中的生成合成类范畴因此完成大模型备案的企业仍需补充办理算法备案实现模型本体 场景应用双重合规。来自第三方解读实操中须向属地网信部门确认。大模型备案材料1 表 5 附件《大模型上线备案申请表》含模型名称、主要功能、适用人群、服务范围附件1安全自评估报告附件2模型服务协议附件3语料标注规则附件4关键词拦截列表附件5评估测试题集标准流程六步1. 向属地网信部门报备获取备案表 2. 企业根据表格及评估要点准备材料 3. 企业内部开展评估编写材料准备测试账号 4. 提交材料和测试账号给省级网信部门审核 5. 省级材料审核 技术测试安全测试 └ 未通过修改材料或调整模型能力后再次提审 6. 上报国家网信部门 → 材料复审 技术评审 → 通过后下发备案号备案入口互联网信息服务算法备案系统 https://beian.cac.gov.cn公示通过后授予备案号/上线编号官网公示并定期更新周期与门槛项目数据口径北京一对一辅导后平均时长4 个月 → 2 个月​官方口径此前核实A 级第三方流传的周期3–6 个月、6–8 个月等未获官方确认仅参考​最大的门槛是一个词——舆论属性或者社会动员能力。不具此属性的服务无需备案。这是判定适用性的第一步很多企业误以为所有 AI 应用都要备案。1.6 内容标识显式 隐式制度演进阶段文件标识要求2023.1《深度合成管理规定》应添加不影响使用的标识提供智能对话、合成人声、人脸生成、沉浸式拟真场景等功能的应显著标识不得删除、篡改、隐匿标识​2025.9《标识办法》 GB 45438—2025明确显式标识和隐式标识强制添加两种标识的分工类型作用位置目的治理逻辑显式标识​信息呈现环节——可能导致公众混淆或误认的内容中加入提示公众该内容的生成合成特性保障知情权​内容治理​隐式标识​信息传播环节——通过技术保障措施添加到文件元数据中实现安全溯源、确保传播链条清晰、事后追责准确​行为治理​强制性与红线《标识办法》自 2025.9.1 施行要求强制添加显式和隐式标识GB 45438—2025 是配套《标识办法》的强制性国家标准适用于生成合成服务提供者和内容传播服务提供者任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识一句话理解显式标识让人看得出是 AI 做的隐式标识让监管追得到是谁做的。前者保知情权后者保可追责。1.7 中外对照两种监管哲学维度中国欧盟监管思路​按场景分部门监管​按风险分级监管AI 法案组织方式​网信办、工信部、科技部、公安部 行业主管部门各管一摊统一立法 AI 法案服务台 监管沙盒核心抓手​备案算法/大模型 安全评估 标识高风险系统合规认证 技术文档落地工具​备案系统、量化国标GB/T 45654决策树、自我评估工具、合规模板对中小企业​地方一企一策辅导北京、山东AI 法案服务台提供定制化合规指导欧盟《AI 大陆行动计划》五大核心领域扩大 AI 计算基础设施截至 2025 年 3 月选定13 个 AI 工厂覆盖17 个欧盟成员国及 2 个 EuroHPC 参与国2021—2027 总投资超100 亿欧元另通过公私合营部署5 个超级工厂InvestAI 计划筹 200 亿欧元提升高质量数据获取数据联盟战略 数据实验室ALT-EDIC 汇集 17 国语言资源加速战略行业 AI 应用Apply AI 战略瞄准14 个战略行业先进制造、航空航天、农业、金融、公共部门等目标改变 2024 年仅 13.5% 企业采用 AI 的局面强化 AI 人才培养AI 技能学院、RAISE 研究理事会、MSCA Choose Europe 与《签证战略》简化监管合规2025 年 7 月设AI 法案服务台成员国建监管沙盒2026 年全面运行补充对照美国与英国国家2025—2026 关键动作特点美国​1 月星际之门5000 亿美元7 月《赢得竞赛美国 AI 行动计划》30 项目标、103 条政策行动12 月行政令推动AI 监管联邦化限制各州自行立法建立负担最小全国标准强调技术管制、芯片出口限制、全栈生态绑定用联邦统一标准替代州级碎片化​英国​AI 机遇行动计划建多个AI 增长区、公共算力提高 20 倍、创建国家数据库、成立 AI 能源委员会三家科技公司承诺投资140 亿英镑​目标从全球第三大 AI 市场避免落后先测试后投资降低风险一个值得注意的交叉点欧盟在监管与合规部分与中国有相似性都强调降低中小企业合规成本。欧盟设 AI 法案服务台2025.7、开发决策树与自我评估工具、建立监管沙盒2026 全面运行中国则通过地方网信部门一对一辅导北京把备案平均时长从 4 个月压到 2 个月。差异在于欧盟用统一立法 分级目录界定高风险中国用部门分工 场景目录逐行业推进。前者确定性更高后者灵活性更强但对企业的合规判断能力要求更高——你需要自己判断落在哪个部门、哪个场景。共同的治理挑战最强模型透明度反而下降基础模型透明度指数平均得分从上年58 分骤降至 40 分IBM 以 95 分领跑xAI 的 Grok 和 Midjourney 仅 14 分负责任 AI 报告零散去年发布的 95 个知名模型中80 个未公开训练代码安全与准确性存在权衡改善一个负责任 AI 维度如安全可能降低另一个维度如准确性AI 事件上升记录在案的 AI 事件从 2024 年233 起升至 2025 年362 起这意味着治理不是管住了就安全而是一个需要持续投入、且存在内在张力的领域。安全评估是持续运营要求不是模型发布时的一次性步骤。附数据来源分级等级本卷来源A官方一手​中国网信网《暂行办法》原文含第二十条、第十七条、第十九条、答记者问国家标准全文公开系统GB/T 45654—2025中国网信网《标识办法》工信部《伦理审查办法》工信部联科〔2026〕75 号A–权威机构​欧盟《AI 大陆行动计划》13 工厂/17 国/100 亿欧元/AI 法案服务台/沙盒斯坦福《2026 AI Index》透明度 58→40、80 个未公开训练代码、事件 233→362B权威转述​国泰海通白皮书中国政策全景、伦理审查/深度合成标准/AI 计量体系美国 2025 三项计划星际之门/赢得竞赛/监管联邦化英国 AI 机遇行动计划140 亿英镑、公共算力 20 倍C第三方​备案流程与材料清单解读双备案表述D未采用​无来源的备案费用金额​特别提示本卷所有法规施行日期均经官方来源核实GB/T 45654—2025 的量化指标来自标准宣贯材料属权威转述实操应以标准原文为准合规费用公开渠道无权威统计本卷只给成本构成框架不给金额
返回列表