人工智能超越人类能力……网络钓鱼成功率也“逆转”

芬兰网络安全公司 Hoxhunt 最近在过去两年进行了一项实验，比较了人工智能创建的网络钓鱼电子邮件和由安全专家红队创建的网络钓鱼电子邮件的成功率。成功率是通过点击网络钓鱼链接的用户数量与攻击尝试总数的比率来衡量的。最初，它只是基于单一提示的简单攻击，但最近，已经可以创建反映情感表达和为用户定制信息的复杂消息。特别是，随着情商（EI）的提高，刺激人类心理的说服力得到加强，AI钓鱼攻击的效率也大幅提高。本次实验中，Hawkhunt部署了自主研发的AI钓鱼攻击代理“JKR（Joker）”。该模型反复学习并生成激发情感的信息，从而获得很高的点击率。结果，在实验初期的2023年，AI的成功率比人类低31%，但到了2025年3月，AI竟然超越了人类24%。短短两年时间，AI的网络钓鱼成功率提高了55%。

IBM Red Team 也曾在 2023 年做过类似的实验，当时利用 ChatGPT 进行提示工程编写的钓鱼邮件成功率为 11%，低于人类的识别率。 IBM分析这是AI缺乏情商。当时，专家们表示担忧，称“如果人工智能获得了表达情感的能力，未来网络钓鱼攻击的水平可能会变得更加复杂和有针对性。”Hochhunt 首席执行官 Piri Avist 表示：“现在已经证明，人工智能可以进行网络钓鱼攻击，其规模和精确度等各个方面都胜过人类。” “随着基于人工智能的网络钓鱼攻击变得越来越复杂，安全策略也必须转向能够检测和应对这些攻击的基于人工智能的防御系统。”