目录

深度伪造带来的新挑战

如何有效检测深度伪造？

多管齐下的安全策略

---

据香港公共广播公司报道，一家跨国公司香港分行的一名员工在一次电话会议后被骗支付了2亿港元（超过2500万美元）的资金。

据介绍，这起骗局始于2024年1月份，受骗员工收到一封自称是公司总部CFO（首席财务官）发来的电子邮件。受骗员工认为该电子邮件为网络钓鱼，并未在意。

随后，冒充CFO的欺诈分子组织了一次视频通话，邀请该受骗员工，以及其他几个异地办公的“同事”一起参加一个视频会议。

视频中，受骗员工发现CFO以及几个同事，外表和声音、谈话的语气等，与他认识的同事一样，于是打消了早期的疑虑，相信早期的有建议及视频会议中的人都是真实的。会议结束后，该名受骗员工在欺诈分子冒充的CFO指示下，一周内进行了15笔交易，金额达2亿港元（超过2500万美元）。在此过程中，诈骗分子还使用WhatsApp、电子邮件和一对一视频通话与该员工保持联系，并对受骗员工说，用相同的方法联系了该分行的另外两个同事。

事后，受骗员工向公司负责人汇报整个交易过程，才意识到自己被骗了。

警方分析发现，这是一起精心策划的骗局。欺诈分子通过社交媒体和视频平台上，寻找并下载了该公司CFO以及其他几个人的照片、视频，然后使用深度伪造技术伪造出不同人员声音，再合成到伪造的欺诈视频片段中。受骗员工参与的视频会议中，除了他自己是真人外，其他全部为伪造的欺诈视频。而被诈骗的资金被发送到五个当地银行账户，然后迅速被人分散转走。

香港警方还表示，2023年7月至9月期间，发现20多次，基于AI的深度伪造信息，用于贷款申请和银行账户注册。

香港媒体称，这是该市首例涉及如此巨额资金的深度伪造欺诈案。

深度伪造带来的新挑战

AI的日益普及带来了新的威胁，欺诈分子甚至普通人都能够利用AI工具 生成的深度伪造图片、视频、声音，从而进行传播、欺诈。毕马威最近的一份报告，在线提供的深度伪造视频同比增长了900%。

埃隆·马斯克（Elon Musk）、两位BBC主持人、YouTube红人野兽先生（Mr Beast）以及流行歌星泰勒·斯威夫特（Taylor Swift）都因在诈骗视频中伪造身份而成为受害者。

银行业最容易受到这种身份欺诈的影响，该行业 92% 的公司将合成欺诈视为真正的威胁，49% 的公司最近遇到了这种骗局。诈骗分子不仅伪造信息、声音、视频、图片，还会将真实和虚假的身份信息结合起来，以创建全新的人工身份，用于开设银行账户或进行欺诈性购买。

当然，深度伪造活动不仅限于金融部门，而是跨越各个行业。全球 46% 的组织在过去一年中经历过合成身份欺诈。

不过，52% 的受访者认为他们可以检测到深度伪造视频。这种情绪反映了消费者的过度自信，其实深度伪造已经达到了无法用肉眼检测到的复杂程度。除非接受过专门培训，否则AI生成的虚假身份可能很难被人识别出来。深度伪造质量的提高，检测的难度也在增加。用于检测深度伪造的技术，需要与物理和动态参数的反欺诈措施结合使用，例如面部活体检查、通过光学可变安全元件进行活体检查等。

如何有效检测深度伪造？

深度伪造的检测是一大难题。不仅肉眼无法有效识别，一些常规的检测工具也不能及时发现。运的是，随着技术的进步，检测识别深度伪造骗局的方法也在不断发展。企业和个人可以采用以下策略来检测深度伪造欺诈。

通过视觉识别：深度伪造虽然很复杂，但经常表现出不一致的面部特征。例如，微小的面部表情、眼球运动、头发和面部特征的交互方式存在异常。同时，深度伪造的算法也会显示不自然的光线和阴影，会有与光源不一致的阴影或未正确对齐的反射。

通过听觉识别：深度伪造可以复制声音，但也可能包含不自然的语调、节奏或微妙的失真，仔细聆听后会显得格外突出。同时，语音分析软件可以帮助识别语音异常。

通过文件识别：在涉及文件的情况下，自动文档验证系统可以分析文档是否存在不一致之处，例如字体更改或布局差异。

AI自动识别：欺诈分子已经学会了欺骗传统的检测方法，机器学习已成为检测深度伪造不可或缺的工具。大数据模型可以快速分析大量视频和音频数据，以超出人类能力的速度识别异常。并且，机器学习模型可以识别深度伪造生产算法的特征模式，从而识别深度伪造的内容。而且机器学习模型可以重新训练和调整，保持实时的迭代进化。

多管齐下的安全策略

在深度伪造越来越多地被用于金融诈骗的时代，防范它们变得越来越重要。

增加生物与活体验证。采用活体验证方法，利用先进的生物识别技术，如面部识别，结合运动分析和红外扫描，在一定程度上发现深度伪造视频。

增加数字签名验证。数字签名和区块链账本具有唯一性，可以对行为来源跟踪，并对其进行标记以供审查。

增加设备与操作验证。基于曾有过身份验证或识别的设备，对设备信息、地理位置以及行为操作进行比对识别，能够发现并防范操作异常。

顶象设备指纹是指通过收集和分析设备的硬件、软件和行为数据，对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。 

增加账号验证频次。账号异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证。此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。

顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。用户在进行登录、注册等操作时，无需繁琐地输入操作和验证码识别，即可快速完成身份验证。这不仅提高了用户体验的便捷性和流畅性，还大大降低了因人为操作失误导致的风险。由于顶象无感验证基于AIGC技术，能够防止暴力破解、自动化攻击和钓鱼攻击等威胁，有效防止未经授权的访问、账户被盗用和恶意操作。

增加反欺诈系统验证。基于人工审查与AI技术相结合的反欺诈系统，能助力企业提升反欺诈能力。例如，顶象Dinsight实时风控引擎日常风控策略的平均处理速度在100毫秒以内，聚合数据引擎，集成专家策略，支持对现有风控流程的并行监测、替换升级，也可为新业务构建专用风控平台；聚合反欺诈与风控数据，支持多方数据的配置化接入与沉淀，能够进行图形化配置，并快速应用于复杂策略与模型；能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制；集成专家策略，基于系统+数据接入+指标库+策略体系+专家实施的实战；支持对现有风控流程的并行监测、替换升级，也可为新业务构建专用风控平台。

减少社交媒体的敏感信息分享。减少或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息，防范欺诈分子盗用下载后，进行图片和声音的深度伪造，而后进行身份伪造。

加强公众安全培训与教育。持续对公众进行深度伪造技术及其相关风险的教育至关重要。通过模拟练习，模仿网络钓鱼和深度伪造攻击，鼓励公众保持警惕并快速报告异常情况，也可以显著提高组织检测和响应深度伪造威胁的能力。

技术在不断发展，新的欺诈也在不断涌现。尽可能随时了解AI和深度伪造技术的最新发展，以相应地调整保障措施。