随着人工智能技术的不断进步，网络钓鱼诈骗的手法也愈加隐蔽和智能化。这类诈骗通常通过电子邮件或社交媒体信息，伪装成值得信赖的来源，试图从无辜的受害者那里提取敏感数据。如今，诈骗者借助人工智能机器人和个性化信息，使得这些诈骗方案愈加难以识别，导致网络犯罪呈现出前所未有的上升趋势。
诈骗者利用人工智能技术，持续抓取社交媒体上的公司或个人信息。这些程序可以收集大量关于某人的社交媒体习惯、兴趣主题及其关联的信息。拥有这些具体的细节，网络犯罪分子可以轻松构建有效的大规模网络钓鱼方案，模拟真实个体的语气和风格。值得注意的是，最近针对企业高管的钓鱼诈骗事件也显著增加。“这种情况越来越严重，而且变得非常个人化，我们怀疑人工智能是其背后的推手，” 英国保险公司 Beazley 的首席信息安全官 Kirsty Kelly 在接受《金融时报》采访时表示。“我们开始看到一些经过精心策划的攻击，这些攻击能够抓取大量关于某人的信息。”
尽管网络犯罪分子在利用钓鱼策略窃取信息方面得心应手，但企业也可以运用人工智能来反击这些网络犯罪分子。开发者们正在努力创造同样智能的人工智能机器人，以帮助检测由人工智能生成的内容和代码，并在攻击发生之前将其拦截。根据 PYMNTS 的一项调查，超过一半的公司已经在使用某种形式的人工智能来对抗网络犯罪，许多受访者预计在未来七年内，人工智能将全面应用于打击网络犯罪。
除了技术手段，员工培训同样至关重要。教导各级员工如何识别钓鱼电子邮件，及时了解最新的诈骗手法，能够帮助公司避免支付巨额赔款，避免尴尬的网络攻击公告，例如 Stop & Shop 在2024年11月遭遇的网络攻击。