目录
社交媒体的欺诈现象
欧盟要求科技公司加强虚假信息处理
借助技术识别虚假社交账号
据英国劳埃德银行（TSB）5月份发布的一份报告披露，社交媒体平台上的金融欺诈正在以令人担忧的速度增加，消费者应对Facebook、Instagram和WhatsApp上的欺诈保持警惕。
TSB欺诈预防总监Paul Davis表示：“社交媒体公司必须紧急清理他们的平台，以保护每天使用他们服务的无数无辜者。与此同时，我们敦促公众对潜在的诈骗内容保持谨慎，并传播信息以帮助保护您周围的人。”
TSB分析了2021年至2022年期间的内部客户欺诈数据发现，假货、仿冒账号和投资欺诈等形式的诈骗占所有案件的80%。三个社交媒体平台上欺诈行为侧重点有所不同。
Facebook：购买欺诈案件最多，主要原因是对广告和卖家资料的审查最少，以及缺乏支持安全交易的综合支付平台。
WhatsApp：冒充欺诈案件激增，有需要的“朋友”或“家人”通过该平台索要钱财。
Instagram：投资欺诈案件频发，投资者应警惕社交媒体上的“快速致富”计划。
此外，英国朴次茅斯大学（UoP）的一项研究发现，社交媒体上的仿冒账号正在促进假冒商品的交易。研究小组分析了对英国2000名消费者的调查结果，大量活跃社交媒体用户购买了名仿冒账号推广的产品，这对社会和经济产生深远影响。根据欧盟知识产权局的研究，每年造假产品使欧盟损失60亿欧元，导致43.4万人失业。
数据显示，欺诈已成为英国最常见的犯罪行为，每年造成近7亿英镑的损失，每15人中就有1人成为受害者。
社交媒体的欺诈现象
顶象防御云业务安全情报中心的分析发现，社交媒体平台上的欺诈分子利用各种手段进行批量注册账号、盗取内容、编造虚假信息和仿冒名人账号，给用户带来了巨大的风险。
据顶象防御云业务安全情报中心的数据显示，欺诈分子利用注册机进行大规模自动化账号注册。为了规避社交平台的风控防护，他们还使用改机工具来伪造设备属性信息，以绕过平台的安全措施。令人震惊的是，仅需2-3分钟的改机工具就能完成1000个设备属性的伪造，这使得欺诈分子能够快速、高效地创建大量虚假账号。
此外，欺诈分子还开发出恶意网络爬虫软件，用于盗取原创内容。这些被盗取的数据包括用户信息以及用户原创的文章、图片、视频等内容。这种盗取行为不仅侵犯了用户的知识产权，也对社交媒体平台的内容质量和用户体验造成了严重影响。
更为令人担忧的是，欺诈分子利用AI技术编造虚假信息。在社交媒体时代，人人都可以创作内容，而欺诈分子利用ChatGPT等技术工具，能够高效地编写大量虚假文案，进一步混淆信息池，增加信息的杂乱性和不确定性。这种虚假信息的传播不仅误导了用户，也对社交媒体平台的公信力和可信度造成了严重威胁。
此外，欺诈分子还制作大量冒充知名人物的账号，吸引粉丝并进行推广、推销和诈骗等活动。例如，某老年粉丝曾因沉迷于一个冒充“靳东”的视频账号，误以为与自己的偶像相恋，导致茶饭不思，甚至离家出走。然而，这个账号实际上是利用视频剪辑和配音等技术手段制作的虚假账号。一旦吸引了足够多的粉丝，欺诈分子就会利用这些仿冒名人账号进行各种宣传，向粉丝兜售虚假商品或骗取钱财。
这些欺诈行为给社交媒体用户带来了巨大的风险和损失。社交媒体平台需要加强对账号注册的监管，提高对内容的安全保护，以及加强对冒充和欺诈行为的打击。同时，用户也应保持警惕，提高对虚假信息和仿冒账号的辨别能力，以免成为欺诈分子的受害者。
欧盟要求科技公司加强虚假信息处理
欧盟对大型科技公司的最新打击措施在本周末之前开始。从周五开始，共有19家大公司必须遵守《数字服务法》（DSA）的全面规则。DSA是一个具有里程碑意义的内容审核规则手册，旨在授权和保护在线用户免受有害或非法内容，虚假信息的侵害。
2023年8月25日，欧盟的《数字服务法》全面生效。该法规涵盖社交媒体审核、电商广告推送以及打击假冒商品等多个方面，旨在确保用户在使用过程中的安全，阻止非法或违反平台服务条款的有害内容传播，并希望保护用户隐私等。违反《数字服务法》的公司可能会被处以其全球营业额6%的罚款，罚金或将高达数十亿欧元。而在屡次严重违规的情况下，涉事公司将可能被禁止在欧盟市场内运营。报道称，包括亚马逊、苹果、谷歌、Meta、微软等在内的约20家科技公司都将受到《数字服务法》的影响，其中包括Facebook，Instagram和WhatsApp等多个社交媒体平台
《数字服务法》要求，大型科技公司必须遵守的如下关键义务。
1、删除非法内容。指定公司必须识别并从其平台上删除欧盟或国家层面法律定义的任何非法内容，以防止假冒和危险商品或服务。
2.、禁止某些类型的定向广告。大型科技巨头不能再使用基于未成年人分析或敏感个人数据（如种族、性取向或）的定向广告。
3、 增强用户授权。用户将拥有一系列新权利，例如标记非法内容，对平台在自己的内容被删除时做出的决定提出异议，甚至对任何违反规则的行为寻求赔偿。用户还将能够接收有关广告实践的信息，包括广告是否以及为什么专门针对他们选择退出。
4、 限制有害内容和虚假信息。入选的公司还必须进行年度风险评估，并采取相应措施，以减少虚假信息、恶作剧、网络暴力和对弱势群体的伤害。
借助技术识别虚假社交账号
针对社交媒体平台上虚假账号的肆虐问题，顶象防御云业务安全情报中心建议，首先精准识别虚假账号，然后才能有效防范欺诈行为。
针对虚假账号修改IP和GPS的问题，建议及时发现是否存在刷机改机、Root、越狱、劫持注、风险注入、hook、模拟器等风险。通过与真机进行比较，可以有效分辨模拟器作弊行为，例如运营商信息、系统信息、硬件信息、用户行为、CPU指令以及模拟器特征等。
针对虚假账号使用虚假设备的问题，建议快速识别同设备多次激活、同设备关联IP行为异常，以及同IP短时间大量聚集、同一渠道中老设备型号占比异常、同一渠道中老操作系统占比异常等维度。同时，建议建立本地名单动态运营维护机制，通过注册数据、登录数据、激活数据等，沉淀并维护对应黑白名单数据，包括用户ID、手机号、设备等维度的黑名单。
针对社交媒体虚假账号异常行为的问题，建议基于用户行为进行策略布控。通过风控数据和业务的沉淀数据，对注册、登录、浏览、发布行为进行建模，以便及时识别出异常操作。这些模型的输出可以直接在风控策略中使用，提升社交媒体平台的安全性。
顶象防御云与顶象Dinsight风控引擎相结合，一系列工具和解决方案，帮助社交媒体平台有效防范虚假账号风险。机器学习和规则导向相结合的风控体系，通过多维度和深层次的分析，能够准确识别出异常操作，为消费者画像进行深度画像，并进行大数据匹配。由此帮助社交媒体平台可以及时发现可疑操作，评估风险，并追踪并阻止制作虚假仿冒社交账号的欺诈行为。
首先，通过使用外部手机号风险评分、IP风险库和代理邮箱检测等工具，可以及时排查恶意欺诈账户，并拦截注册登录。
其次，通过检测设备指纹的合法性以及是否存在注入、hook和模拟器等风险，可以有效遏制虚假账号的登录注册。
此外，建立本地名单动态运营维护机制，沉淀并维护对应黑白名单数据，及时对风控策略进行更新。
最后，基于风控数据和业务沉淀数据，对虚假账号行为大数据进行建模，以挖掘潜在风险并提升社交媒体的安全保障水平。
