您的位置:首页> 科技> 【专家观点】警惕大模型“幻觉”

【专家观点】警惕大模型“幻觉”

来源:中国银行保险报时间:2023-10-11 07:53

□车宁

近期,国产大模型产品面向公众密集“上新”,其中既包括来自头部互联网企业的百度“文心一言”、腾讯“混元”和华为“盘古”,也包括人工智能专业企业的商汤科技“商量SenseChat”、智谱AI“智谱清言”。在时代浪潮推动之下,人工智能大模型创新不但在基础层、中间层屡有突破,在应用层更是硕果累累,新一代商业模式创新和技术替代已然近在眼前。

在大模型产品瞄准的细分市场领域中,金融行业被普遍认为是值得深耕挖掘的“富矿”。一方面,金融机构展业需要在信息不对称环境中寻求确定性,对信息化需求强烈,投入巨大;另一方面,在大模型训练所必需的数据要素资源中,金融数据质量高、维度广,且与经济民生直接相关,在各类型数据中具有无可比拟的优势。正是基于上述认知,国产大模型产品一旦羽翼渐丰,金融赛道就成为“兵家必争之地”,不但头部互联网企业、人工智能企业纷纷下场,金融机构也纷纷谋划打造自有品牌大模型。大模型发展之“热”、竞争之“卷”,金融行业可称其“最”。

事实上,包括金融领域在内,十余年来被前沿信息技术反复冲刷、重塑的相关行业对于人工智能都不陌生,在营销、客服乃至风控工作中甚至已不乏人工智能具体应用的身影。然而,并不是所有的人工智能都是大模型。相较前代人工智能技术,基于深度学习和神经网络技术的大模型通常拥有海量(一般可达数亿至数百亿)参数量,因此能够有效处理复杂任务和大规模数据集,与过去“小”模型相比具有更强算力,可以为应用机构提供更为优秀的分析、预测乃至咨询方案,在自然语言理解、图像分析和语音识别等领域优势显著。

有着ChatGPT、Midjourney等明星产品助攻代言,人工智能大模型产品在金融领域迅速跨过了从“怎么看”到“怎么办”的鸿沟,落地应用已呈星火燎原之势。在智能客服领域,邮储银行积极探索数字员工、NLP(自然语言处理)对话机器人、预训练大模型等前沿技术与场景需求的融合应用。在智能投研领域,招商银行投产FinG-PT创意中心,加快大模型应用模式探索,重点发掘其在全流程财富管理中的应用;恒生电子发布基于大语言模型技术全新升级智能投研平台War-renQ。在智能营销领域,平安银行探索自研BankGPT平台在节日海报、个性化营销内容创作、交互式数据分析、非结构化数据洞察等场景中的应用落地。此外,各家金融机构及相关科技企业在智能办公、智能研发等领域的大模型应用探索更是方兴未艾、如火如荼。

不过,金融大模型的快速发展也带来一系列安全风险以及合规挑战。首先,由于数据来源可能包括虚假、违规和人为操纵的内容,后期也缺乏必要的矫治和纠正,大模型生成的结果可能有违公序良俗和法律法规,甚至成为电诈、洗钱等不法分子的犯罪工具。其次,大模型的发展依赖于海量数据的获取和训练提供,在当前激烈的竞争环境下,相关企业可能放松在数据收集、处理、存储、删除等方面的要求,从而在数据安全方面留下隐患,进而影响到引入其应用的金融机构。最后,大模型的内容生成需要借助此前的信息成果,在合规方案不成熟的情况下可能造成著作权等知识产权侵权。此外,目前的知识产品授权均以人类智慧成果为前提,金融机构通过大模型生成的内容可能无法正常获取相关权利,其权利瑕疵甚至带来合规风险。

随着数字金融的深入发展,全行业都在期盼继“ATM时刻”“手机银行时刻”之后的“大模型时刻”,然而,大模型应用始终局限于外围助理,无法触及核心系统的现状,又使部分从业人员发出警惕大模型“幻觉”的感慨。尽管如此,落地时间可能有所先后,但大模型对金融机构在知识密集业务领域提高效率、拓展应用、降低成本等方面的作用却不言而喻。

展望未来,金融机构应从自身业务场景、开发能力和资源禀赋的客观实际出发,审慎选择自研或引入路线,重点训练金融大模型的数理逻辑、业务逻辑,筑牢信息安全等合规底线,夯实场景迭代更新能力和数据应用基础能力,在新一轮技术井喷热潮中,寻找自身业务革新的“奇点时刻”。

(作者系北京前沿金融监管科技研究院高级研究员)