Engenheiros de software, cientistas de dados e desenvolvedores que trabalham com inteligência artificial estão na mira de uma nova ameaça cibernética chamada Hades. O golpe foca em plataformas onde os profissionais baixam pacotes de códigos para usar em projetos e usa uma técnica conhecida como injeção de prompt, que insere um texto no meio do código exigindo instruções para criar armas biológicas e nucleares.

O objetivo dessa tática é confundir as IAs que escaneiam o arquivo em busca de vírus. Quando um bot tenta ler o pedido sobre armas, ela trava por questões de segurança, e a verdadeira ameaça passa despercebida para o computador da vítima ou os servidores de uma empresa.

Como um texto sobre armas nucleares engana uma IA?

A resposta está nos filtros éticos integrados aos modelos de linguagem. Quando os hackers escondem o malware dentro do pacote que o desenvolvedor vai baixar, eles inserem um comentário de texto direcionado ao sistema de segurança exigindo um passo a passo para fabricar uma arma de destruição em massa.

Ao se deparar com o pedido proibido, o mecanismo da IA entra em ação na hora, travando e abortando a leitura do documento. Como a verificação para na metade, a parte final do código, que é onde o vírus está escondido, dribla a análise.

Se um desenvolvedor perguntar à IA se o pacote recém-baixado está livre de vírus, ele receberá um falso “sinal verde”, simplesmente porque o arquivo não foi examinado até o fim.

O que o vírus rouba e como domina os servidores?

Enganar o antivírus de IA é apenas o primeiro passo. Segundo um relatório da plataforma de segurança Socket.dev, o alvo dos criminosos não é apenas o computador do funcionário que baixou o pacote infectado. Assim que se instala, o malware Hades vasculha a máquina do desenvolvedor atrás de credenciais de alto escalão, caçando chaves de acesso e senhas temporárias de servidores na nuvem, como os da AWS.

Com esses dados na mão, os invasores conseguem pular do computador de um único engenheiro para toda a infraestrutura de uma empresa.

Como se proteger?

Até agora, especialistas estimam que 37 pacotes Python e 106 pacotes JavaScript já foram contaminados por essa onda de ataques. Ainda assim, o sucesso do golpe depende de descuido humano. Embora os alvos sejam profissionais qualificados, muitos acabam esquecendo de regras básicas de segurança cibernética e baixam os arquivos sem checar quem o verdadeiro autor.

Para as equipes de segurança, a lição que fica é que a inteligência artificial não deve ser a única linha de defesa. Métodos tradicionais continuam sendo indispensáveis, como a análise humana do código-fonte e o teste do arquivo dentro de uma sandbox (ambiente virtual fechado e seguro que não coloca o computador real em risco).

Malware cita armas nucleares, engana IA e invade servidores