PayPal的CISO谈GenAI如何提高网络安全

news2024/10/7 12:23:43

在最近一个季度(2023财年第二季度)，PayPal报告收入为73亿美元，同比增长7%，5%的交易增长和37%的增值服务收入增长带来了强劲的季度业绩。截至2022年，PayPal的营收为275亿美元。

在进入PayPal之前，Keren创建了两家网络安全初创公司，担任Verint安全产品管理主管，并担任以色列电子政务部门的CISO。

PayPal AI驱动的网络安全战略正在奏效

在10%的交易增长的支撑下，PayPal的总支付量增长了11%，而严格的费用控制推动非交易成本下降了11%。尽管为即将到来的BNPL出售而发放的贷款带来了12亿美元的影响，但PayPal产生了强劲的自由现金流，并向股东返还了15亿美元。总体而言，PayPal表现出了健康的销量和用户参与度增长，显著提高了盈利能力，并在战略计划方面取得了进展。

PayPal以其使用AI、ML的深度专业知识以及培训和部署深度学习模型以加强网络安全和减少欺诈而闻名，PayPal在最近一个季度随着交易量的增长减少了11%的亏损，这表明AI正在带来规模价值。通过改善风险管理实现两位数的损失减少，表明该公司的AI支持的网络安全防御、欺诈检测模型和AI支持的风险管理正在减少交易损失。

以下是采访节选。

记者：GenAI如何在不对客户体验产生负面影响的情况下增强安全性?

Keren：虽然GenAI可能被攻击者用于恶意目的，如生成虚假身份或创建恶意软件变体来逃避传统安全措施，但它也将使PayPal等安全转发组织能够探索由GenAI驱动的防御机制，如下一代自动威胁检测系统和响应能力。我们始终将安全放在我们工作的中心，并在设计时将安全考虑在内。有了Gen AI，我们将有机会增强我们的能力，消除摩擦，推动更大的客户价值。

记者：使用Gen AI有哪些风险，对于处理大量私有数据的平台来说，如何缓解这些风险?

Keren：与任何新技术一样，GenAI必须仔细评估和部署，并将安全和责任作为首要任务。数据质量、知识产权、安全、隐私和合规性等重要因素是关键考虑因素。为了降低风险，重要的是，技术领导者在部署GenAI以保护客户和维护他们的信任之前，必须仔细检查这些方面。改变我们对测试和攻击性安全的思考方式，包括快速注入、检查偏见和识别模型幻觉等攻击模式，将允许以对客户有利的方式部署GenAI。

记者：GenAI能帮助侦破诈骗吗?如果是这样，你如何验证它的准确性?

Keren：是的，从某种意义上说，它已经是这样了。PayPal一直是AI的早期采用者，十多年来，我们一直在建设我们的AI能力和专业知识。多年来，我们一直在使用基于转换器的深度学习，这是像ChatGPT这样的大型语言模型背后的关键技术。今天，我们在业务中的广泛领域使用AI和ML，包括减少欺诈、客户保护、个性化服务、风险管理和全球商务赋权。

记者：你能分享一下PayPal使用AI进行欺诈检测所取得的成果吗?

Keren：这带来了巨大的影响：从2019年到2022年，当我们的年支付量几乎翻了一番，从7120亿美元增加到1.36万亿美元时，我们的亏损率降低了近一半，这在一定程度上要归功于我们在AI算法和技术方面的进步。

今天，随着我们在AI方面的进步，我们能够迅速适应不断变化的欺诈模式，以保护我们的客户。PayPal的深度学习模型可以在2到3周内训练并推向生产，更简单的算法甚至更快，这使我们能够用最新的生产数据训练模型，纳入新的欺诈模式，并整合内部代理和PayPal客户的反馈。