跳到正文
原文
致同 · 微信· 致同·· 5 天前精选站内评分51

致同解读银行业保险业人工智能安全开发应用指导意见的32项意见,提出治理与审计落地建议

【致同咨询】金融行业应用AI:当“合规”成为人工智能的第一道防火墙

导读

致同解读国家金融监督管理总局2026年6月18日发布的《关于银行业保险业人工智能安全开发应用的指导意见》,主张AI合规应贯穿模型全生命周期。该指导意见围绕七大领域提出32项指导性意见,文章归纳为治理架构先行、开发应用可控、数据与算力自主、风险治理闭环四条主线,并提出可解释性验证、数据供应链管控、持续监控和AI专项审计等落地动作。

推荐理由

将32项意见归纳为四条主线,并按治理、合规、审计三个维度提出落地动作,可供金融机构对照体系缺口。

正文

2026年6月18日,国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》(以下简称《指导意见》),围绕治理架构、开发应用、数据治理、算力建设、风险管理等七大领域提出32项指导性意见,明确“谁使用谁负责、自主可控、务实高效、安全发展”基本原则。

对金融机构而言,红利与边界同时到来:合规不再是事后补救,而是贯穿AI全生命周期的核心约束——真正的挑战不在训练速度,而在每项决策能否可解释、可审计、可管控。

01

读懂监管逻辑:32项意见的四条主线

《指导意见》不是技术规范,而是一份治理框架文件,其逻辑可归纳为四条主线:

治理架构先行

健全全生命周期管理,AI风险纳入全面风险管理

开发应用可控

开发部署全流程管理,稳妥探索金融智能体

数据与算力自主

建设高质量数据集与自主可控算力底座

风险治理闭环

分类分级、高风险准入、人工干预与供应链管理

最需注意的是「谁使用谁负责」:责任不因外包而转移,使用机构仍须对结果负责——外包不豁免责任,采购不免除义务。

实务警示:现场检查已延伸至“模型训练数据来源是否可追溯”“算法决策是否可解释”“模型迭代是否有审批留痕”等AI专属领域。

02

打破“黑盒”:

可解释性从技术选项变为合规刚需

《指导意见》要求“提高透明度,促进可解释性”,高风险环节须设立人工监督与干预机制。机构长期重精度、轻可解释性,在信贷审批、核保等场景埋下偏差隐患——声誉与法律风险随之而来,可解释性由此成为合规刚需。

(一)治理维度:组织与流程基础

将可解释性写入开发规范:高风险场景强制采用高可解释性模型架构或增设“解释层”,准入与复核留痕。

(二)合规维度:标准与证据体系

制定分场景解释性标准与模型文档:明确各风险等级解释粒度;以图谱追踪数据来源,无法证明合法来源的数据即为“无效资产”。

(三)审计维度:实质有效性验证

开展实质性测试:验证解释与实际审批逻辑是否一致,穿透检验低置信度案例是否触发复核,识别“形式合规、实质空转”。

03

应对“脱钩”风险:

重构数据供应链的安全底座

《指导意见》要求完善数据管理运营体系、加强外包与供应链风险管理,布局自主可控算力底座。叠加“脱钩”讨论,数据供应链的独立性与可替换性已上升为战略议题——粗放接入开源数据集或第三方API,极易引入偏见、后门与泄漏风险。

(一)治理维度:战略管控架构

建立“数据隔离舱”:训练与生产数据物理或逻辑隔离,微调数据经隐私计算处理;供应商纳入外包台账分级管控,断供预案纳入业务连续性管理。

(二)合规维度:责任与证据

升级供应商尽职调查并重构合同条款:明确模型审计权、数据出境限制与算法变更通知,使“谁使用谁负责”可落地;对“已获授权”数据须取得独立证据。

(三)审计维度:供应链韧性

实测审计权的可执行性:核查断供预案是否经过演练、缺口是否整改;验证脱敏与隔离是否存在旁路,识别“制度上隔离、实操中混用”。

04

动态治理:从“静态合规”到“持续监控”

传统合规关注上线时点的状态,AI却处于持续演化:今天合规的模型,多轮迭代后可能产生不可控偏差,攻击者亦在用对抗样本发起更隐蔽的攻击。静态检查已然失效——《指导意见》要求AI风险纳入全面风险管理、实施分类分级管理。

(一)治理维度:动态治理机制

设立AI伦理与风险审查委员会,事前评估算法歧视、隐私与系统性风险;实施“影子测试”,明确降级与下线流程。

(二)合规维度:监控与预警规则

对输出分布、公平性、人工干预率设定预警阈值,超限自动复核;审计日志记录决策路径与版本,迭代须经审批,防止“静默漂移”。

(三)审计维度:审计模式升级

将AI专项纳入年度审计,从“抽样时点审计”升级为“持续审计”;面对深度学习模型须能读懂模型文档、质疑假设。

05

我们能提供的服务:

把监管要求转化为可执行、可审计的管理动作

这场升级横跨治理设计、模型验证、数据合规与供应链监控,单靠内部团队难以完成。我们整合咨询、鉴证与风险管理能力,提供五类服务:

  1. 治理与合规诊断

治理诊断与差距清单|模型资产盘点|迎检支持

  1. 体系与制度设计

AI风险管理体系|分级分类与全流程管控

  1. 数据与技术评估

数据治理与隐私合规|授权链穿透审计|脱敏验证

  1. 模型风险与验证

可解释性评估|高风险准入|持续监控设计

  1. 审计赋能与鉴证

AI专项审计 | 第三方鉴证

32项意见实质上是一张“可解释、可审计、可控”的治理路线图。早一步完成体系建设的机构,将在监管评级与市场信任上获得“治理溢价”;迟疑者面对的则是应用叫停与声誉损失。

建议将AI安全治理列为一级优先事项,尽快启动差距诊断;致同以中立第三方身份,帮助机构把监管要求转化为可执行、可审计、可持续的管理动作。

联系我们

致同咨询 信息科技咨询服务团队

若贵单位正在推进AI合规体系建设,或希望了解AI合规治理和体系建设、数据和技术以及模型风险评估、AI审计和鉴证等具体领域的深化方案,欢迎与致同咨询信息科技咨询服务团队取得联系。

钱芳利

致同信息科技咨询服务

全国主管合伙人

fangli.qian@cn.gt.com

卫田

致同信息科技咨询服务

合伙人

tian.wei@cn.gt.com

邢亚平

致同信息科技咨询服务

总监

yaping.xing@cn.gt.com

关于致同 Grant Thornton China致同咨询(北京)有限公司,隶属致同国际(Grant Thornton International Ltd),全球 73 家成员所、覆盖 140+ 国家和地区;在中国拥有 28 家分支机构、约 320+ 合伙人及 8,000+ 专业人士。以“鉴证 + 咨询”一体化视角,为中央企业、地方国资国企提供穿透式监管体系建设、数据治理与数字化转型、内控与合规体系建设等一体化咨询服务。

本内容版权归致同会计师事务所(特殊普通合伙)所有。未经我方授权,任何组织或个人不得转载、复制、修改、传播本内容,亦不得将本内容用于任何人工智能(AI)技术的开发、训练、优化或衍生内容生成(无论用于商业、研发、学术研究或其他目的)。经授权转载的,须完整转载原文并清晰注明来源为“致同官方微信公众号”。本内容仅供一般性参考,不构成针对任何个人或具体情况的专业建议,我方不对任何因使用本内容所造成的损失承担责任。

来源:致同 · 微信 · mp.weixin.qq.com

审计热点 是聚合摘要和阅读索引,原文版权归各来源所有,引用请以官方原文为准。如果你是来源方,希望更正、下架或调整展示方式,可以通过反馈页联系我们。

来自微信公众号的内容,本站仅呈现摘要与原文链接,不转载文章全文;文章权利归属原作者及原公众号

关于使用条款隐私信源