De acordo com uma pesquisa realizada pelo fundo de capital de risco Team8, quase 25% dos CISOs (Chief Information Security Officers) afirmaram que suas empresas sofreram ataques movidos por inteligência artificial no ano passado. O estudo revela que o risco associado ao uso malicioso de IA é considerado o principal desafio na área de segurança cibernética atualmente.
Risco crescente e dificuldades na diferenciação de ataques
O relatório destaca que o número real de ataques com uso de IA pode estar subestimado, já que muitas ações realizadas por invasores são difíceis de distinguir de atividades humanas tradicionais. Segundo o documento, a tecnologia tem sido empregada em campanhas sofisticadas de phishing e deepfake, que são incrivelmente convincentes e difíceis de identificar.
“Já vimos o impacto de ataques impulsionados por IA, especialmente campanhas de phishing e deepfake que são extremamente convincentes”, afirmou Mandy Andress, diretora de segurança da Elastic, em nota relacionada ao estudo.
Vulnerabilidades e corrida armamentista na IA
O relatório aponta que estamos em uma fase inicial de uma espécie de corrida armamentista digital, na qual os invasores já estão em vantagem. Entre os exemplos de ataques impulsionados por IA, estão clonagem de voz, manipulação de imagens em tempo real e exploração de vulnerabilidades de forma automatizada — o que pode resultar na criação rápida de malware e outras táticas maliciosas.
“Eles podem explorar vulnerabilidades em escala e usar IA para escrever software malicioso de forma muito mais rápida”, explica Noa Hen, diretora de estratégia do Team8.
Desafios na proteção de agentes de IA e segurança dos funcionários
Quase 40% dos entrevistados apontaram que a proteção dos agentes de IA que realizam tarefas específicas para usuários representa um grande desafio na segurança cibernética. Muitos desses agentes podem ser enganados por invasores ou tomar ações incorretas, aumentando os riscos de vulnerabilidades.
Além disso, uma preocupação recorrente é a segurança do uso de IA entre os funcionários, com quase o mesmo percentual de CISOs manifestando inquietação sobre essa questão.
Uso da IA para reforçar defesas e o dilema do combate
Apesar dos riscos, muitos profissionais acreditam no potencial da IA para melhorar a defesa cibernética. Segundo a pesquisa, 77% dos CISOs esperam que agentes autônomos de IA substituam analistas menos experientes em centros de operações de segurança, contribuindo para uma resposta mais rápida a incidentes.
Mike Rogers, ex-diretor da Agência de Segurança Nacional dos EUA, comenta: “A IA tem tudo a ver com velocidade e escala, ajudando os defensores a enfrentarem os invasores nessa corrida.”
Vulnerabilidades persistentes e desafios organizacionais
O estudo aponta que mais de 40% das vulnerabilidades críticas permanecem sem correção após o prazo estabelecido para resolução. A principal razão seria a falta de pessoal ou de tempo para implementar as atualizações necessárias, além de dificuldades na disponibilização de soluções seguras.
Conforme o relatório, a maioria das organizações enfrenta um dilema entre restringir o acesso, o que pode sufocar a inovação, ou permitir o uso de IA sem controles suficientes, assumindo riscos elevados.
Perspectivas para o futuro da segurança com IA
Os especialistas consultados pelo estudo alertam que estamos no início de uma batalha sofisticada, na qual invasores utilizam IA para aumentar a velocidade e a escala de seus ataques. A evolução dessas táticas reforça a importância de desenvolver estratégias de defesa cada vez mais avançadas.
Para ler a notícia na íntegra, acesse a fonte original.
