您的位置:首页> 金融科技> 【行业声音】另一只眼看人工智能与金融安全

【行业声音】另一只眼看人工智能与金融安全

来源:中国银行保险报时间:2024-10-29 08:10

□邓遵红

金融安全事关消费者权益、金融市场秩序、金融体系稳定,甚至关系整个经济社会和国家的安全与稳定。任何针对金融领域的创新首先要考虑的是防范风险确保安全。对于人工智能这种可能带来颠覆性影响的科技应用更应该慎之又慎。这也是为什么金融机构对人工智能的应用保持谨慎态度的根本原因。

金融机构的科技投入是最大的领域之一,有足够的财力物力大张旗鼓地研发试错。以大模型为代表的人工智能技术带来的不确定性很难逆料,真正的应用进展远没有想象的那么快,因此,金融机构大多处在内部或局部试用阶段。

对于人工智能与金融安全,专家学者和实践者们的探讨已经很多了。笔者这里再谈两个方面的问题。

一方面,人工智能对金融安全的影响,有哪些是对存量风险的增加变数,有哪些是新增的风险,需要弄清楚。其实在专业或技术层面,人工智能带来风险的大多是增加了现存风险的不确定性,比如隐私泄露、歧视和偏见、欺诈和道德风险等。而新增风险更多的是战略和法律合规风险。在战略方面,人工智能会重构企业组织架构、人力资源和经营模式,特别是对现有绩效评估和分配体系带来冲击,这些对于企业都是根本性的,需要经营管理者高度重视。在法律合规层面,人工智能应用的伦理和法律体系的构建尚需时日,人工智能带来的违法违规问题如何界定、责任如何承担,这些问题如果不能很好地解决,就会让人工智能的应用缩手缩脚,难有大的突破。人工智能应用的落后也是风险。

另一方面,人工智能会加剧金融机构与消费者之间、大金融机构与小金融机构之间、金融机构与监管部门之间的信息不对称。因为人工智能的掌握和使用需要更大成本和更高技能,人工智能会让个人的力量在机构力量面前、小机构在大机构面前更加处于弱势或被动,市场公平性和可持续性会受到威胁。

(作者系金融街集团信息总监)