0
0
O ChatGPT conquistou o mundo depois que o OpenAI o abriu para testes em 30 de novembro de 2022. Para uma indústria insensível por anos de IA insatisfatória e “inovações” de aprendizado de máquina, as reações foram bastante reveladoras. Como muitos que estão entusiasmados com seu potencial, acredito que este é finalmente o momento de clareza de como a IA pode ser verdadeiramente revolucionária para a segurança da informação.
Também é bastante preocupante, pois já existem inúmeros exemplos de como isso muda o jogo para chapéus pretos de todos os tipos. Em uma das primeiras provas de conceito, o professor da NYU Brendan Dolan-Gavitt usou o ChatGPT para explorar uma vulnerabilidade de estouro de buffer. Outros exemplos incluem escrever malware na velocidade da luz e criar e- mails de phishing convincentes e gramaticalmente corretos .
A armação da IA na segurança cibernética não é nova, mas o que mais me entusiasma no ChatGPT é seu potencial para fechar a maior lacuna da segurança da informação: a falta de talento suficiente, tanto na amplitude quanto na profundidade das habilidades de segurança cibernética (ou seja, especializações). Para ilustrar isso ainda mais, aqui estão três maneiras pelas quais o ChatGPT mudará a infosec em 2023.
Avanço da inteligência de ameaças de crowdsourcing
Por algum tempo, um dos santos graals da indústria tem sido o crowdsourcing de inteligência de ameaças . A promessa decorre da capacidade de ver o que está acontecendo em uma ampla gama de empresas em um único setor vertical. Infelizmente, o maior impedimento tem sido a falta de confiança entre as organizações para compartilhar a inteligência.
Este é o problema que a variedade de ISACs em todas as indústrias tem tentado resolver – com resultados mistos. No futuro, um centro de compartilhamento e análise de informações (ISAC) poderia fazer uma iteração do modelo ChatGPT com sua interface de linguagem natural e alimentá-lo com dados de registro enviados pelos constituintes do ISAC, com base na confiança implícita dentro do grupo. O ISAC pode então usar o ChatGPT para correlacionar conexões de rede, categorias de endereços IP e domínios maliciosos e comportamentos semelhantes. Os resultados podem produzir um conjunto de regras de IDS que os constituintes do ISAC devem implementar para se protegerem de ameaças. O ISAC também obteria informações sobre a postura geral de risco da indústria que representa.
Fazendo mais com os recursos existentes
A economia incerta está pressionando as organizações de segurança a implementar congelamentos de contratações para espremer mais produtividade dos recursos existentes. O ChatGPT pode ser extremamente benéfico aqui como um multiplicador de força que permite que um analista faça o trabalho de várias pessoas.
Generalistas e funcionários iniciantes podem descrever o que estão vendo em alertas e detecções e, em seguida, pedir ao ChatGPT para decifrar suas observações para iniciar o processo de triagem. Um exemplo específico é ajudar na desofuscação diária de códigos maliciosos suspeitos dos profissionais, o que normalmente leva uma hora ou mais. Agora pode ser executado em segundos .
O ChatGPT também tem o potencial de transformar a resposta a incidentes . Uma equipe pode usar o modelo existente e o processamento de linguagem natural para alimentar todos os dados disponíveis sobre um incidente e descrever a justificativa para uma possível resposta. O ChatGPT poderia provar ou refutar imediatamente uma teoria sobre um compromisso. Hoje, isso envolve vários dias de trabalho de um líder de resposta a incidentes, um engenheiro e vários analistas para resolver totalmente um incidente. Posso prever um futuro em que o processo não precise de nenhum analista.
Levando o jogo de gato e rato de malware para um novo nível
Hoje, os adversários geram 100 milhões de novas amostras de malware por ano. Como todos exigem codificação manual, ainda é uma quantidade finita e gerenciável para detecção de assinatura. Com o ChatGPT, no entanto, um hacker pode dizer: “Aqui está o que estou tentando fazer e aqui está o sistema operacional no qual estou tentando fazê-lo” e pode gerar centenas de milhares de iterações de um malware.
Isso significa que os modelos de ML dos mecanismos de detecção devem ser recalculados mais rapidamente. É muito mais complicado, porque eles estão trabalhando com um conjunto de dados muito maior. Felizmente, o ChatGPT irá sobrecarregar o processo de engenharia reversa e dar uma chance aos esforços anti-malware.
Por exemplo, um desafio significativo de engenharia reversa é trabalhar com um nome de arquivo genérico, que não fornece o contexto necessário sobre onde foi encontrado. Isso requer muito mais trabalho manual para identificar o sistema para o qual foi construído. Há pequenas alterações no assembly binário que marcaram alterações no resultado final — por exemplo, ele foi escrito para uma arquitetura de 32 ou 64 bits? O sistema está usando Little Endian ou Big Endian? As respostas determinam a direção na qual você lê a linguagem de máquina (para frente ou para trás).
Todos esses esforços requerem tentativa e erro se você não tiver nenhum contexto. O ChatGPT pode executar essas iterações em alta velocidade e fornecer aos engenheiros reversos a linguagem de montagem final e processá-la a partir daí. Eles podem ir além e fazer com que o ChatGPT diga a eles o que acha que o aplicativo está fazendo – em linguagem natural. Mais importante, o ChatGPT poderia fazer tudo isso em escala, analisando centenas de milhares de amostras binárias e fornecendo informações a um analista.
Também pode ajudar a combater as técnicas comuns de gato e rato. Por exemplo, o malware geralmente contém técnicas anti-engenharia reversa, como loops aninhados, para tornar muito mais difícil para os engenheiros reversos acompanhar o que está acontecendo e o estado final. O ChatGPT pode descobrir isso muito mais rápido que os humanos. Ele também pode analisar o código genético do malware e ver onde pode haver reutilização de código para identificar a impressão digital do autor mais rapidamente.
Implicações a longo prazo
Sempre que surgem novos avanços na IA, surge a preocupação inevitável sobre se ela substituirá os humanos e seus empregos. Não acredito que o ChatGPT fará isso acontecer, mas nos tornará consumidores de informação mais poderosos. O efeito multiplicador de força será profundo em todos os níveis. Posso ver os CISOs alimentando-o com um conjunto de informações sobre seu registro de riscos para que ele retorne políticas e procedimentos, planos de resposta a incidentes e muito mais – tudo sob medida para seus ambientes.
Embora o ChatGPT seja apenas uma prévia da pesquisa, compartilho a empolgação de meus colegas do setor sobre sua promessa de revolucionar a forma como os profissionais de segurança trabalham.
FONTE: DARK READING