AI出了问题谁负责?8号文+司法解释给出明确答案
来源:中国银行保险报
发布时间:2026-11-05 02:03:25

6月18日,金融监管总局印发《关于银行业保险业人工智能安全开发应用的指导意见》(即“8号文”),针对信贷审批、承保理赔、投研风控等高风险业务,要求银行保险机构搭建覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出等全生命周期管控体系,设置人工兜底机制,明确外包开发、外购模型、联合建模都不能转移金融机构的主体责任,最终确立“谁使用谁负责”的监管原则。9月7日,最高人民法院出台涉及AI纠纷审理的司法解释,进一步划定民事责任边界,明确规定AI生成内容造成损害的,使用者不能以决策由算法自动生成为由免除赔偿责任。

一、金融机构AI应用必须坚守四项基本准则

对照“8号文”与资本市场监管新要求,金融机构推进AI落地,必须坚守四条底线:一是坚守谁使用谁负责。金融机构既是金融服务供给方,也是AI技术使用方,必须对AI大数据模型输出结果承担全部合规与法律责任。即便外购第三方大模型、外包技术开发,合作协议仅可约定技术运维、漏洞修复等技术层面的违约责任,金融业务合规的法定责任不得通过合作协议向外转移,必须由持牌机构自行承担。二是坚守自主可控。对高风险业务,不能单一依赖外部黑箱模型,必须配套多模型备选方案,筑牢技术供应链安全屏障,提升核心模型、软硬件、算力平台的自研能力,防范技术依赖带来的系统性风险。三是坚守务实高效。杜绝“重技术、轻实效”的数字形式主义倾向,避免为技术而技术、为概念而布局,把AI资源投向风控、投研、客户服务等能够提质增效的业务场景,平衡好技术投入与效益产出的关系。四是坚守安全发展。以数据安全、个人信息保护法规为底线约束,搭建技术防护与业务管控治理防线,落地数据脱敏、模型护栏、内容过滤等前置管控机制,建立覆盖算法漂移、模型幻觉、数据泄露等风险情形的突发事件应急处置体系。

二、压实责任的四项管控机制

金融机构必须紧扣金融AI全生命周期治理要求,以持牌机构主体责任为核心,通过准入审核、动态监控、溯源审计、责任处置协同发力,实现前端风险把关、运行过程监测、行为留痕可查、违规追责落地,构建完善权责清晰、可溯可责的金融AI法律责任管控机制。

管控机制之一:责任主体不可外包,业务责任不能转嫁。

金融机构对外开展信贷、承保、投研、资金风控等业务,业务后果只能由持牌机构承担,不能拿“算法自动决策”作为免责理由。金融机构要建立外部模型准入清单制度,对第三方API、外包模型开展前置评估;在技术合同中清晰划分权责:技术服务商只承担模型缺陷、数据泄露的合同违约赔偿,金融业务合规责任始终由金融机构自担,不得以外包条款向外转移风险。一旦出现AI幻觉导致投研失真、算法歧视造成信贷不公、虚假信息侵害消费者权益等问题,对外接受行政处罚、承担民事赔偿的主体,只能是使用AI的金融机构。只有在模型厂商明知机构违规使用、刻意隐瞒模型漏洞时,技术方才承担连带过错责任。

管控机制之二:全生命周期闭环管理,实现责任全程可追溯。

推动法律责任贯穿金融AI从立项到下线的全生命周期,覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出六大工程阶段,并依托事前、事中、事后的分层管控机制落地执行。事前环节,开展立项审查、数据合规审核与算法伦理评估,严禁将客户姓名、身份证号、银行卡信息等敏感个人信息用于模型训练,从源头堵住数据合规漏洞。事中环节,持续监测模型运行状态,紧盯算法漂移、输出失真、偏见歧视等问题,做到每一次模型迭代都可回溯,完整的全周期档案是后续责任追溯的关键证据。事后环节,常态化开展模型审计,对失效模型、高风险黑箱模型及时下线封存;所有AI系统必须具备一键关停、人工接管的功能,杜绝算法失控而无法终止。

管控机制之三:高风险场景从严准入,强制设置人工兜底防线。

实施场景分级管控,高风险金融业务不得交由AI自动决策。银行业保险业的信贷审批、承保理赔、资金交易、风险定价,以及证券期货业的自动化交易、智能投顾、投研结论输出、投资者适当性匹配全部划入高风险清单。这类场景必须经过风控委员会专项审批,未经准入不得上线。所有AI关键业务节点,必须设置人工复核、人工干预环节,配套备用人工业务流程。AI只能作为辅助工具,最终业务决定必须由在岗人员签字确认,并留存独立复核记录。所有没有人工复核痕迹的纯自动化决策,一律定性为违规操作。

管控机制之四:严守可解释性红线,落实事前报告与消费者告知义务。

模型可解释性已经从行业倡议升级为高风险场景的准入条件。AI决策逻辑无法溯源的黑箱模型,不能直接用于信贷、理赔、投研风控等核心业务,仅可用于低风险信息查询等辅助工作,以最大限度降低模型幻觉与算法偏见风险。同时,面向公众提供服务或在高风险场景使用生成式AI,金融机构必须提前向监管履行事前报告,要对AI自动生成的内容作出清晰标识,主动向客户提示算法局限性,充分保障金融消费者的知情权。

三、厘清三方的责任认定标准

(一)金融机构

金融机构作为AI的使用主体,需要承担全部对外责任,相关权责应当落实到具体岗位与个人。金融机构需要依法接受监管处罚、开展业务整改,暂停对应AI场景的上线运行;针对AI错误决策给客户带来的财产损失,履行相应的民事赔付义务。金融机构内部也应当严格落实责任管控要求,遵循谁审批、谁复核、谁签字、谁担责的原则,为每一笔业务决策确定对应的责任人员。即便损害后果源于第三方模型突发漏洞,金融机构面向客户与监管的对外责任并不因此免除,仅可在完成赔付后,依据合作合同向技术服务商追索相应经济损失。

(二)模型与算力服务商

服务商是技术提供方,原则上只承担合同约定的技术违约责任,不直接对外承担金融业务赔偿责任。只有存在以下过错情形,服务商才需要承担连带赔偿责任:一是明知金融机构将模型用于高风险业务,却刻意隐瞒算法缺陷;二是提供无法溯源的黑箱模型,拒不交付可解释性技术材料;三是未尽数据安全义务,泄露金融机构业务数据与客户隐私信息。

(三)合规规制体系

金融监管部门承担行业监管职责,可以进一步完善金融领域人工智能合规规制体系,聚焦机构全周期治理、人工兜底机制、数据合规管理、模型可解释性四项核心要求开展穿透式核查。对放任算法自主决策、违规采集使用客户隐私数据开展模型训练的市场主体,依法实施从严问责与处罚。

(作者:顾雷 北京大学普惠金融与法律监管研究基地副主任、中国地方金融研究院副院长)

编辑:郭涵 李祺