来源：中国银行保险报时间：2023-06-15 07:10
编者按：
当下，以ChatGPT为代表的人工智能技术广受关注，但技术发展也有两面性。用于AI诈骗的深度合成技术颠覆了公众眼见为实的认知。前段时间“AI换脸”事件广受关注，不免引起人们担忧。在人工智能迅猛发展的背景之下，对于金融机构和消费者而言，技术被用于诈骗该如何防范？又该如何治理？本专题将进行相关探讨。
有人用AI诈骗，银行反诈升级
□记者 于晗
随着AI技术迅猛发展，电信诈骗手段也逐渐科技化，一些诈骗团伙用上了“AI换脸”技术。近日，内蒙古包头警方公布一起利用AI实施电信诈骗的典型案例，引起公众对AI安全的广泛热议。作为反诈重点领域，银行业无疑也将遭遇新考验：当AI诈骗手段日渐丰富，各类案件层出不穷，该如何防范？
“AI换脸”引发诈骗案
近期，中国互联网协会发文提示称，当前利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜，提醒公众警惕“AI换脸”新骗局。其中，特别提到近期包头市公安局发布的一起使用智能AI技术进行电信网络诈骗的案件。
在该案件中，福州某科技公司的法人代表郭先生基于对好友的信任，加上已经视频聊天“核实”了身份，为“好友”提供了430万元的“过账资金”。事后，郭先生拨打好友电话才得知被骗，原来骗子通过“AI换脸”和拟声技术，佯装好友对其实施诈骗。
“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生说。幸运的是，在包头警方的介入下，336.84万元被骗资金已经被警方拦截。但案件公布后，仍引起外界对于AI安全的广泛讨论和担忧。
一位AI从业人士介绍，由于深度合成技术的开放开源、深度合成产品和服务的增多，深度合成内容制作的技术门槛越来越低。技术的“平民化”，使得利用“AI换脸”“AI换声”等虚假音视频进行诈骗、勒索、诬陷、诽谤等违法行为和事例出现。
AI诈骗案件增多，作为资金交易和转账的关键环节，银行业无疑将承担起更加艰巨的反诈压力。如何更有效地防范风险，成为银行机构需要面对的问题。
企业信息使用合规是关键
“目前，在典型的‘AI换脸’诈骗行为中，诈骗者往往会通过非法途径获取大量的高清人脸信息，然后利用AI技术软件分析脸部特征、实施换脸行为，再通过合成的视频或照片伪造成他人实施诈骗。因此，人脸信息的收集使用合规性，以及人脸合成技术的合规管理等需要引起重视。”TalkingData法务总监兼数据合规官葛梦莹说。
去年12月，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控，合成人声、仿声等深度合成技术提出明确约束。近日，国务院办公厅印发的《国务院2023年度立法工作计划》显示，人工智能法草案等预备提请全国人大常委会审议。可见，在法律规制方面，我国已对AI的快速发展及相关风险给予重视。
葛梦莹认为，如果企业（包括银行）涉及人脸信息处理行为，需要严格遵循最小必要原则来处理人脸信息，要特别关注人脸信息的全生命周期合规性，保证合规收集使用，禁止违法向第三方提供人脸信息，并应采取措施保护人脸信息的安全，防止信息泄露等安全事件的发生，使得诈骗者无法从此类企业处违规获取人脸信息。
如果企业（包括银行）提供人脸合成技术服务，则需要建立健全用户注册机制，便于进行个体追溯问责；落实生成内容显著标识义务，尽到提醒告知义务；通过发布管理规则、平台公约、服务协议等形式告知使用者不得利用人脸合成技术来实施诈骗等犯罪行为，并建立反电信网络诈骗、投诉举报、安全评估、监测鉴真、应急处置等制度来防范违法滥用人脸合成技术的行为，使诈骗者难以使用合成技术实施犯罪行为。
个人应加强信息安全保护
风险不可避免，对于相关平台和个人而言，又该如何利用“魔法”打败“魔法”？
《中国银行保险报》记者注意到，目前，针对AI诈骗，不少金融机构已采取了一定的防范举措与技术应用。比如，活体防伪、中介识别等技术在金融业务场景中得以落地。
“活体防伪、中介识别等技术的核心功能便是能够避免人脸识别的自身缺陷，有效识别照片、视频、面具、仿真模型等，特别是上述案件中出现的换脸、变声欺诈行为。”马上消费人工智能研究院智能核身专家冯月表示，基于此类技术创新，目前能够做到将99%的批量欺诈攻击拦截在外，有效防范伪造信息、伪冒申请、电信诈骗等风险。
“相较于处于整体环节末端的金融机构，再更前一步，社交平台亦有义务引入鉴伪机制，并实时对用户进行通话鉴真提醒，标记用户是否有行为异常、图像伪造异常、声音伪造异常。更早的风险提示信息，可以更有效地阻隔风险结果的发生。”冯月表示。
值得注意的是，近期，某社交媒体平台便发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严厉处罚。
而作为反诈的核心主体，社会公众也有必要建立起相应的认知和防护能力，加强对个人物品、信息安全保护。
“对于个人而言，不能随便点击不明的短信链接、邮件链接等，不随意扫描不明来源二维码、下载APP，不轻易提供人脸等个人生物信息给他人，不轻易透露自己的身份信息，不过度公开或分享动图、视频等。”冯月建议，个人可以定期清理微信聊天记录，隐藏具有亲近关系的人的相关痕迹，将手机相册加密或者启动手机数据保护功能等，这些日常行为都有可能将诈骗拦截在外。
贝叶思咨询研究员周香君表示，对整个社会来说，一是要全面普及AI诈骗的多种方式，提高全民警觉心。二是要加强监管，不断完善社会监测监督体系和相关法律法规。三是提高全民安全意识，保护个人信息。
相关链接：
