推动AI强化安全治理能力，行业标准明确可问责性等八大维度

11月起正式实施的行业标准，要求AI系统在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面具备控制风险的能力。

8月11日，中国信息通信研究院（下称“信通院”）就《人工智能 安全治理 系统风险管理能力要求》（YD/T 7173-2026）行业标准（下称“标准”）发布解读。该标准以风险评估方法表、识别清单、风险评估报告和应对报告，助力企业构建便捷实用的风险管理工具箱，引导企业从“事后补救”转为“前置主动防控”，减少人工智能安全事故。

标准由信通院联合22家高校、科研院所、科技企业共同编制，并在7月获工业和信息化部批准发布，将于2026年11月1日起正式实施。该标准旨在促进人工智能产业持续健康发展，明确规定了人工智能研发与应用主体的管理和技术能力要求，针对组织建设能力、流程管理能力、风险防护能力等方面进行规范。

第一财经记者从信通院了解到，标准基于人工智能系统全生命周期，通过分析影响程度，对人工智能的风险进行分级评估。标准要求，人工智能系统的研发、应用相关执行部门应对已识别风险开展风险分析，并对风险进行“严重、高、中、低”四级分级。同时，将不可接受的风险定义为隐患，划分为重大、中度、一般隐患。

例如，对组织（包括其他组织）造成小范围财产损失或声誉受损归为低风险；而对组织关键业务造成业务停摆、关键数据泄露、财产遭受严重损害，或信誉全面受损的风险被认定为严重风险。

就AI的风险来看，标准提供了风险识别清单。清单中不同的风险类别包含若干风险源，并匹配对应的风险控制能力。例如，应用服务安全这一风险就包含未向相关方告知模型能力和局限性、模型生成虚假信息未标识并广泛传播，以及未经同意处理个人信息等情况。

元股证券:ygzq.hk

近年来，人工智能技术快速发展并深度融入千行百业，同时模型幻觉、算法偏见、隐私泄露、智能体失控等风险显现，传统安全手段难以有效应对，人工智能技术在风险管理方面面临诸多痛点。

即将实施的标准要求AI研发和应用主体提高对AI系统的风险防护能力，具体体现在可靠性、可控性、安全性、公平性、透明性、可解释性、隐私保护性、可问责性等方面。

在可靠性方面，标准要求AI系统采用价值对齐机制，减少输出有害或不当内容的风险，确保结果符合预期目标与伦理规范。在透明性方面，标准要求AI系统通过显式和隐式标识或水印，提示模型生成内容，防止因模型生成内容未告知用户而被混淆、误认、广泛传播的风险。同时，标准还要求AI系统具有可问责性。标准要求引入模型审计机制，对系统运行过程和结果进行独立验证，确保具备外部监督渠道。

从技术发展角度看，人工智能技术跃迁导致风险暴露面增多、隐患分散，风险广泛分布于数据处理、模型建设、测试验证与部署上线等多个环节。从合规视角看，风险管理已成为各国人工智能治理的重要抓手。

当前，欧盟《人工智能法》、美国NIST《人工智能风险管理框架》、新加坡《2026年新加坡人工智能安全共识》、我国相关法律法规，均将风险管理作为人工智能安全核心管控手段，全球正加速形成风险治理共识。但从管理角度而言，企业仍面临技术管理割裂、综合防控缺位的治理难题。

信通院下一步将围绕金融、医疗等典型场景开展标准应用试点，总结可复制、可拓展的实施经验，支撑垂直行业提升人工智能风险管理能力。

举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者

宋婕

原创精选 相关阅读 DeepSeek V4 Pro来了！对标Fable 5、价格是flash版的三倍

有两项数据V4 Pro甚至超过了Fable 5。

9 25038 8小时前 腾讯跟投阿里千问前负责人，林俊旸相信AGI“应以此为目标”

新公司的研究方向为横跨数字世界和物理世界的下一代智能体（Agent）。

7 22093 昨天 10:26 首只离岸国债期货落地香港，资本市场双向开放再升级

第一财经了解到，部分外资机构已为产品上线做好前期准备。

34958 08-03 21:25 顺着说、假装做，大模型“讨好型人格”成智能体时代新挑战

看似对人类有求必应的大模型开始出现不诚实的行为。

配资专属服务平台 23271 07-30 07:41 50亿美元砸向AI初创企业：英伟达越投越大，“循环融资”疑问越来越响

这笔投资落在了一个敏感的时点上港股投资数据平台，它是AI芯片厂商与模型开发者之间一系列“循环融资”交易中的最新一笔。

8 43855 07-28 07:14 一财最热 点击关闭