As campanhas de phishing estão a tornar-se mais frequentes e eficazes graças à IA. Em 2024, 67,4% dos ataques de phishing globais utilizaram ferramentas baseadas em IA, sendo o setor financeiro um dos principais alvos. Os e-mails fraudulentos são agora altamente personalizados, livres de erros gramaticais e praticamente indistinguíveis de comunicações legítimas. Um dos exemplos mais alarmantes ocorreu na Hungria, onde um ataque de Business Email Compromise (BEC) resultou numa perda de 15,5 milhões de euros, após os atacantes enviarem mensagens que imitavam na perfeição o estilo de comunicação da empresa.
Para além dos e-mails, os cibercriminosos estão a explorar os deepfakes — conteúdos visuais e sonoros criados por IA — que recriam de forma realista rostos, vozes e vídeos. Esta tecnologia já esteve na origem de ataques bem-sucedidos, como o desvio de 35 milhões de dólares nos Emirados Árabes Unidos, uma fraude de 25 milhões de dólares em Hong Kong durante uma reunião virtual e tentativas no Reino Unido envolvendo vídeos manipulados e vozes clonadas para enganar colaboradores.
A IA é ainda utilizada para analisar padrões de comportamento e comunicação das vítimas, identificando vulnerabilidades e o momento ideal para atacar. Em 2024, na Índia, um banco foi alvo de um ataque sofisticado em que a IA replicou o estilo de escrita do CEO, permitindo aceder a dados sensíveis e comprometer bases de dados financeiras.
Para a Check Point, esta nova fase da guerra cibernética exige uma combinação de tecnologias defensivas baseadas em IA, formação contínua das equipas e respostas integradas. A empresa disponibilizou o eBook "AI & Speed in Cyber", que explora o impacto da IA no cibercrime e apresenta recomendações para proteger empresas e instituições.
