01

AI诈骗层出不穷

近年来，深度伪造行为呈现出快速增长的趋势。据统计，2019年至2020年期间，深度伪造网络内容的数量增加了900%，这一令人担忧的趋势预计将在未来数年内持续发展。一些研究人员甚至预测，到2026年，多达90%的网络内容都可能是由AI合成的。

然而，深度伪造技术往往被滥用于欺骗和进行社会工程攻击，并严重侵蚀了我们对数字技术的信任，对个人和企业构成了日益严重的威胁。

最近，包头警方公布了一起利用AI进行电信诈骗的典型案例。4月20日中午，郭先生的好友通过微信视频联系他，声称需要430万保证金竞标项目。郭先生相信了好友的身份，并没有核实资金是否到账就将430万分两笔转入好友朋友的银行账户。事后，郭先生才发现自己被骗了。

嫌疑人通过智能AI换脸和拟声技术，冒充好友进行诈骗。幸运的是，福州、包头两地警方迅速启动止付机制，成功止付了336.84万元，但仍有93.16万元被转移，目前正在全力追回。此事件引起了网友的广泛关注，成为全国热门话题。

在其他行业也面临着深度伪造带来的高昂损失。据统计，在过去的一年中，有26%的小公司和38%的大公司经历过深度伪造欺诈，导致的损失高达48万美元。更为严重的是，深度伪造还可能破坏选举结果、社会稳定乃至国家安全。特别是在虚假信息活动的背景下，攻击者可以利用深度造假来操纵公众意见或传播假新闻，导致公众的不信任和混乱现象。

02

采取措施刻不容缓

这种行为给人们的财产和安全带来了极大的威胁，因此需要采取措施来应对。

个人层面：

我们需要提高自身的防范意识。

在互联网上谨慎对待陌生人的信息和链接，不轻易泄露个人信息，避免上当受骗。同时，应该加强对互联网安全知识的学习和了解，及时掌握最新的防范知识和技巧，以便更好地应对风险。为了减轻这些复杂的风险，我们必须采取多管齐下的方法。这包括投资于更复杂的深层造假检测技术以及改进身份验证系统（包括使用生物识别和活体验证），以防止深度伪造在身份盗窃中被滥用。

政府和企业层面：

政府和企业应该加强监管和技术防范手段，建立起完整的安全体系。政府应该出台相关法律法规，对于违法犯罪行为进行处罚，同时对于安全技术进行投入和支持，提高安全技术的水平。

政府和监管机构可以在制定政策方面发挥重要作用，以规范深度伪造技术，促进透明、可问责且负责任的技术开发和使用。企业方面也应该加强安全意识，采取一系列措施来保护用户信息安全，例如数据加密、多重认证等。

技术层面：

我们可以利用AI技术来对抗AI诈骗。

利用人工智能技术，我们可以对于异常数据和行为进行监控和筛选，及时发现并拦截可疑的行为，减少欺诈行为的发生。随着深度伪造技术的发展，能够检测这种威胁的技术和工具也在不断出现。

现在，深度造假检测器可以帮助从生物特征（如心跳或人声频率）确定视频或音频内容是否真实。尽管如此，人工智能仍然是一把双刃剑。犯罪分子甚至可以训练模型来生成专门用于逃避当前深度造假检测工具检测的合成内容，使事情进一步复杂化。