□车宁

正所谓“水能载舟，亦能覆舟”，自进入创新驱动发展的现代社会以来，一路高歌猛进的科学技术，带给人们的不但有物质文明的发展、生活质量的提升，也不乏技术滥用带来的血与泪。

随着OPEN AI现象级产品ChatGPT的火爆，其背后的人工智能技术特别是深度合成技术广受追捧。深度合成等人工智能技术的跃进，一方面，大幅度降低了不法分子获取潜在受害人隐私信息进行建模训练的成本，提升了工作质效；另一方面，也使声音合成、换脸等AI诈骗手段更加炉火纯青。不但如此，AI还与大数据技术结合，既能使不法分子高效率筛选出犯罪目标，又能准确把握受害人心理，为其上当受骗定制个性化“剧本”，从而提升了金融诈骗的危害性。

有鉴于此，近年来国家密集出台相关法律法规，力图建构完整的AI反诈制度防火墙。针对包括AI诈骗的电信网络诈骗，国家于2022年9月出台了《中华人民共和国反电信网络诈骗法》，对电信网络诈骗进行了明确定义，分门别类地对各种电信网络诈骗行为进行了责任规定。针对最可能被滥用为AI诈骗手段的深度合成技术，国家网信办、工信部和公安部于2022年12月联合发布了《互联网信息服务深度合成管理规定》，用定义及不完全列举的方式划定了深度合成技术的内涵外延，明确了从业人员的行为“红黄线”和监管手段、法律责任，与《刑法》《网络安全法》《数据安全法》《个人信息保护法》《反电信网络诈骗法》《互联网信息服务管理办法》等一道构成了多领域、跨部门的反诈立体防护网。

不过，面对在AI技术加持下日益严峻的电信网络诈骗形势，作为反诈重要主体的金融机构也不能仅以遵从国家法律法规、监管政策，被动进行反诈制防、技防、人防为满足，而是应更加主动地提升金融领域AI应用的规范治理，从源头上控制电信网络诈骗的泛滥，保障金融消费者及自身的资金、信息安全。

一方面，金融领域的AI应用要特别注意合法合规问题，这既是有效应对AI诈骗的要求，也能防范因无法有效遵从法律法规给机构带来的损失。不但要建章立制，常态化地应用前沿技术检验AI应用的安全性，也要扎实按照“最小必要原则”做好数据安全和客户信息保护等工作，避免泄露和滥用。

另一方面，即使金融机构技术实力雄厚，但相较于黑产，其看似强大的防护体系也不免被屡屡攻破。因此，特别需要凝聚整个行业力量，为金融领域AI技术规范应用提供更多的公共基础设施，探索形成细分领域的技术标准，促成关键反诈信息行业共享，在行业统一部署必要的安全防控和溯源技术等。

除金融机构外，金融消费者也是AI诈骗的主要对象。有鉴于此，金融消费者需要切实承担主体责任，做好分内之事，将资金、信息安全的主动权牢牢把握在自己手中。

首先是要“有心”，要在日常工作、生活各场景中绷紧防骗反诈的心理之弦，有意识地学习掌握相关知识。其次要积极向周围亲友传播反诈知识，特别是针对时新的AI反诈，要掌握必备的安全常识和识别能力。最后还要“慎行”，一方面要重点规范自身社交行为，避免在线上线下发布过多个人信息；另一方面要养成良好的金融安全行为习惯，设置与自身注意程度、资金多少相适应的安全策略，在安全环境下谨慎进行金融交易。

（作者系北京市法学会网络法学研究会副秘书长、中国政法大学法治与可持续发展研究中心副主任）