A tecnologia está a ser utilizada para criar e-mails de phishing em inglês impecável, gerar vídeos deepfake de executivos e automatizar malware que se adapta em tempo real para evitar sistemas de deteção tradicionais. Este cenário força as organizações a repensarem as suas defesas, uma vez que as táticas convencionais já não são suficientes para travar ameaças tão dinâmicas.
A adoção corporativa da IA também introduz vulnerabilidades internas preocupantes. Segundo os dados, 66% das empresas estão a desenvolver aplicações personalizadas de IA, mas 88% admitem receio face a ataques de prompt injection e 80% temem a fuga de dados sensíveis. A dependência da cloud e de vastos volumes de informação aumenta a superfície de ataque, tornando as infraestruturas vulneráveis a manipulações que podem comprometer a integridade dos modelos e a privacidade dos dados de treino.
A Microsoft identifica cinco categorias principais de ameaças que estão a redefinir a segurança moderna. Entre elas destacam-se os ataques de envenenamento (poisoning), que corrompem dados de treino, e os ataques de evasão, que manipulam inputs para contornar filtros de segurança. Outras técnicas incluem a extração funcional e a inversão, onde os atacantes tentam replicar modelos ou reconstruir dados sensíveis a partir de consultas repetidas, além da já mencionada injeção de prompts para forçar ações maliciosas.
Para enfrentar estes desafios estruturais, a cibersegurança exige agora uma abordagem integrada de proteção nativa na cloud (CNAPP). Ferramentas que combinam a gestão da postura de segurança (CSPM) com a proteção de cargas de trabalho (CWPP) tornaram-se essenciais para garantir visibilidade total. A Microsoft destaca o papel do Defender for Cloud, que processa triliões de sinais diários para detetar anomalias específicas de IA, como tentativas de jailbreak ou configurações incorretas em ambientes multicloud, protegendo o ciclo de vida da aplicação desde o código.
Em última análise, a segurança na era da IA generativa exige que os líderes empresariais unifiquem a governança e a proteção em tempo real. A evolução das estratégias deve acompanhar o ritmo da inovação tecnológica para manter a confiança dos utilizadores e o cumprimento das normas regulatórias. A defesa proativa, alimentada pela própria inteligência da rede, é agora a única forma eficaz de neutralizar adversários que utilizam a automação e a IA para escalar os seus ataques a nível global.
