根据VIPRE安全集团在其2024年第二季度电子邮件威胁趋势报告中指出，AI生成的电子邮件在商业邮件欺诈BEC尝试中占比约40。该报告于周三发布。
该安全公司表示，他们通过多种工具检测发送给客户的BEC邮件，包括GPTZero、Quillbot、ZeroGPT、Sapling和Scribbr，这样得出了40的比例。
BEC邮件总体上占据VIPRE在2024年第二季度检测到的22645百万封垃圾邮件的49。SC Media向VIPRE询问了分析这些邮件以检测AI生成内容的数量，但未收到回应。
不过，与SC Media交谈的安全专家表示，生成式AI在钓鱼攻击中的使用无疑是一个日益严重的问题。
“VIPRE安全集团报告的AI生成商业邮件欺诈BEC攻击的上升，正是我们观察到复杂的钓鱼诱饵在过去一年显著增加的体现，”SlashNext电子邮件安全领域首席技术官Stephen Kowski在给SC Media的邮件中表示。
在过去一年中，SlashNext发布了两份报告，指出像ChatGPT这样的生成式AI应用在制作钓鱼邮件方面的作用。第一个报告在2023年10月发布，提到自ChatGPT发布以来，到2023年第一季度，钓鱼攻击数量增长了1265。第二个报告于今年5月发布，发现钓鱼攻击上升了856，BEC增幅达27，SlashNext研究人员将这种增长归因于生成式AI的日益普及。
生成式AI似乎已经成为网络犯罪分子的工具之一。Hoxhunt联合创始人兼首席技术官Pyry vist告诉SC Media，基于AI的钓鱼套件正在成为在线诈骗者的新选择。他表示：“我们注意到攻击显著增加，很可能来自新一代可在暗网中获得的黑客AI钓鱼套件。这些套件的价格正在下降，生成的钓鱼邮件在本地化文本、图形和着陆页面的质量上比老一代钓鱼套件显著提升。”
除了对生成式AI在电子邮件垃圾邮件中使用的洞察外，VIPRE还报告了比去年增加了74的恶意链接。这可能是由于不断演变的链接伪装策略，旨在绕过传统电子邮件安全扫描。
外网加速器VIPRE指出，这些共计1691万个链接是通过其链接隔离工具捕获的，该工具在沙箱中测试链接，以抓住可能逃脱安全扫描的攻击。
随着AI生成的BEC骗局和其他复杂钓鱼策略的上升，亟需采用利用AI检测恶意内容、链接和附件的解决方案，因为较为基础的解决方案和人工用户可能无法察觉到这些红旗。
Kowski表示：“组织必须采用先进的威胁检测解决方案，利用AI和机器学习实时识别和阻止这些日益逼真的AI生成骗局。此外，为员工实施持续的安全意识培训，并采用多因素身份验证，可以显著增强组织在AI时代的BEC攻击的抵御能力。”
Darktrace战略网络AI副总裁Nicole Carignan对此表示认同，认为防御者将需要以AI对抗AI，因为网络攻击者在技术使用上的范围不断扩展，从基本的钓鱼邮件发展到更特定的目标钓鱼诱饵，甚至利用生成式AI来生成恶意软件脚本。
Carignan表示：“随着威胁行为者越来越多地使用生成式AI，我们对传统威胁情报或基于规则和签名的防御系统的依赖将减弱。因为威胁行为者现在能够快速适应并更改签名、哈希和妥协指标以逃避防御。组织必须使用能够理解员工与其邮箱的
