0
0
Pesquisador da empresa conseguiu fazer a AI utilizar da esteganografia para burlar a política de não aceitar conteúdos maliciosos.
A Forcepoint divulgou um alerta sobre a capacidade do ChatGPT em produzir malwares indetectáveis. A técnica é realizada por meio da esteganografia, que “camufla” arquivos menores (não necessariamente maliciosos) dentro de maiores.
A descoberta foi feita por Aaron Mulgrew, um pesquisador da Forcepoint. Inicialmente, ele solicitou à inteligência artificial que fosse escrito linhas de malware, o que foi recusado, respeitando uma norma da ferramenta de não executar atividades ilegais. O pesquisador então começou a dar comandos para efetuar pequenas etapas do processo de criação de um malware para o ChatGPT. Desta maneira, de pouco em pouco, a tecnologia foi criando com simples comandos um vírus indetectável.
O primeiro passo foi fazer com que a inteligência artificial gerasse um código que achasse no disco local imagens maiores que 5MB. Depois, pediu para que a inteligência gerasse outro código para que ele colocasse dentro dessas imagens arquivos menores que 1MB. Luiz Faro, Diretor de Engenharia de Sistemas na da Forcepoint na América Latina, explica o método: “a IA involuntariamente, se utiliza da esteganografia para montar o sistema do malware. A técnica consiste em esconder arquivos dentro de outros, de forma ofuscada, camuflando os dados possivelmente confidenciais, dentro das imagens, e fazendo upload dessas imagens para um Google Drive público.”
Para checar a eficiência do malware criado, a Forcepoint realizou testes em serviços que analisam URLs e arquivos para identificar possíveis ataques. Nessa primeira tentativa, 69 engines de anti-malware diferentes detectaram que o arquivo era de fato malicioso. Já na versão seguinte, não houve nenhuma detecção, assim criando um vírus não detectado com apenas comandos do ChatGPT.
FONTE: IT SECTION