AI换脸背后的产业链详解，往后神仙姐姐背后有可能是......

news2024/11/25 4:34:03

近期在各大平台都可以看到换脸新闻，和大家分享一下最近让我心痛的一张图片

那除了大家用来恶搞之外，AI诈骗的新闻层出不穷。我们国内目前今天最大的是下面这起事件：

而国外，因为技术更加成熟一点，所以被诈骗的金额高达上亿美元：

可以看到，随着 深度合成技术的开放开源、深度合成产品和服务的增多，深度合成内容制作的技术门槛越来越低。技术的“平民化”，使得利用“AI换脸”、 “AI换声”等虚假音视频，进行诈骗、勒索、诬陷、诽谤等违法行为和事例屡见不鲜。

这其中，其实不只是给我们民众带来一定的困扰（比如你不再能够凭借容貌和声音来确认和你打电话的是不是你的领导），也给相应的行业定责带来的问题。尤其是金融行业。

今天我们就来深入讲一下，金融行业在面临AI欺诈方面的风险与挑战。

现有防御系统被全面攻破，谁为风险买单？

1. 银行损失

就目前AI诈骗问题，金融面临的挑战不仅限于资金损失，还包括法律诉讼、声誉受损和信任危机等难题。

首先是资金损失：

其次是诉讼压力：

这一部分，更多是因为定责的问题。虽然在实际操作过程中，是用户自己信息泄露，导致账户金融被转移，但是真正去定责的时候，肯定也会考虑银行自身风控系统的安全性。用户肯定会主张自己并没有去真正做这个动作，是因为银行的防御体系不够完善。双方各执一词，最后的审判结果因案例而异。
在这里插入图片描述

以及名誉危机：

2.银行防御体系问题

目前从案例来看，现有银行安全体系已无法防御新型黑产，每个防御环节均被攻破。重点领域集中在转账环节，人脸识别漏洞尽现，让银行的防御被动。

目前银行的防御体系可以参考：

从现实情况来看，所谓的“最新防御体系”依旧被新型黑产攻破，黑产眼中，安全防御环节全透明，新型攻击方式攻破

3.新型AI助力黑产，降低难度

1）技术升级

因为AI技术的升级，目前黑灰产主要有两种新型的攻击方式：

深度伪造

定义：深度伪造技术是一种利用人工智能和深度学习算法创建逼真的虚假图像、视频或音频的技术。这种技术使用生成对抗网络（GANs）等深度学习模型来生成逼真的内容，其中一个模型生成虚假的图像、视频或音频，而另一个模型则尝试区分真实内容和虚假内容。

简单来说，就是换脸技术（你想要的，它都有…）。

这种技术一个简单地应用场景就是代打卡。

对抗样本

定义：对抗样本（Adversarial Examples）是指对机器学习模型进行特定设计的输入样本，通过对输入样本进行微小的、有针对性的扰动，使得模型的输出结果产生误判或错误分类。

2）产业发展

更为重要的是，目前黑灰产欺诈的产业分工更加流程化，工具也更加自动化。下面是我们了解到的一些黑灰产的工具：

作弊工具及教程：

3）攻击全流程突破

黑灰产不仅工具齐全，组织结构完善，对金融银行的了解也很深入。从拿到用户的信息，到人脸绕过进行转账，再到风控对抗，黑灰产有着一整套完善的流程。

综上我们可以看到，目前来说，黑灰产手握最新AI技术，凭着自己的“专业”，对我们金融行业的防御提出了很大的挑战。那我们金融银行要如何应对呢？

AI诈骗金融风控解决方案

目前市面上比较成熟的一套方案，是以第三代人工智能技术为基础，然后加之对抗样本能力。

1）概念介绍

第三代人工智能：其实这个概念是基于IBM提出的知识驱动的第一代人工智能以及谷歌提出的数据驱动的第二代人工智能而言的。第三人工智能是多元驱动的AI，驱动因素包括知识、算法、算力、数据等，打造了一个可靠、可信、安全、可扩展的人工智能技术。

对抗样本攻击：这个概念我们直接以图来示例会更为清晰一些：

2）对抗思路

当前，黑灰产针对金融机构进行用户身份核验的关键节点已经有了完备且成熟的攻击模式，要想实现整体高成功率的风险识别，且避免黑灰产出现单点技术能力突破所带来的安全隐患，需要在身份核验的事前、事中、事后进行全面的风险防控:

即事前评估用户主体的设备、账号、手机号的安全态势;
事中进行关键人脸核验数据流的真伪判断;
事后进行异常事件的本人视频核验，对全链路节点数据进行综合研判。

为避免视频核身对用户带来的体验友好度降低风险，建议采用前置伪造检测探针进行风险等级预判，高风险客户启用视频核验。

整体架构：

AI安全威胁感知体系

在这里插入图片描述

3）效果展现

通过人脸环境监测信息、活体识别、图像鉴伪、智能核身、反诈数据等多维度信息对用户人脸图像进行智能风险评估、风险评级，迅速识别虚假认证风险。在确认威胁之后，系统支持自动执行防御策略，设备执行命中防御策略之后对应的防御处置，可以有效阻断风险操作。在防御策略管理模块，业务人员可以配置设备维度、异常行为等维度的策略，并支持上线审核等操作。

大盘展示-趋势、动态、详情、团伙分析