0
0
Estamos em uma era de ouro da inteligência artificial? É difícil fazer previsões – e provavelmente mal aconselhado. Quem quer prever o futuro de uma tecnologia tão nova?
Podemos, no entanto, dizer algumas coisas com certeza. Muito está sendo feito da aplicação da IA em trabalhos criativos, desde dublagem até primeiros rascunhos de roteiros. Mas é provável que a IA seja mais útil ao lidar com o trabalho. Esta é uma boa notícia para os desenvolvedores, se a promessa corresponder aos primeiros experimentos – os primeiros rascunhos de código podem ser facilmente criados e prontos para os desenvolvedores ajustarem e iterarem.
No entanto, é importante lembrar que nem todo codificador está trabalhando para um negócio legítimo. Assim como os agentes de ameaças de segurança cibernética emularam seus alvos para se tornarem mais semelhantes aos negócios, eles também estão adotando novas tecnologias e técnicas. Podemos esperar que a IA ajude no desenvolvimento de malware e outras ameaças nos próximos anos, quer estejamos entrando em uma era de ouro da IA ou não.
Elaboração de Código e Golpes
Uma tendência que vimos nos últimos anos é um aumento das ofertas “como serviço”. Os primeiros hackers eram funileiros e fazedores de travessuras, enganando sistemas telefônicos ou causando caos principalmente como um exercício de diversão. Isso mudou fundamentalmente. Os agentes de ameaças são profissionais e muitas vezes vendem seus produtos para outros usarem.
A IA vai se encaixar muito bem nessa forma de trabalhar. Capaz de criar código para resolver problemas específicos, a IA pode alterar o código para atacar vulnerabilidades ou pegar o código existente e alterá-lo, para que não seja tão facilmente detectado por medidas de segurança que procuram padrões específicos.
Mas as possibilidades de uso indevido da IA não param por aí. Muitos e-mails de phishing são detectados por ferramentas de filtragem eficazes e acabam em pastas de lixo. Aqueles que chegam à caixa de entrada são muitas vezes obviamente golpes, escritos tão mal que são limítrofes incompreensíveis. Mas a IA pode quebrar esse padrão, criando milhares de e-mails plausíveis que podem escapar da detecção e ser bem escritos o suficiente para enganar tanto os filtros quanto os usuários finais.
O spear-phishing, a forma mais direcionada desse ataque, também pode ser revolucionado por essa tecnologia. Claro, é fácil ignorar um e-mail do seu chefe pedindo que você transfira dinheiro ou compre cartões-presente com urgência — o treinamento em segurança cibernética ajuda os funcionários a evitar esse tipo de golpe. Mas e quanto a um telefonema deep-fake ou bate-papo por vídeo? A IA tem o potencial de pegar aparições de transmissão e podcasts e transformá-los em um simulacro convincente, algo muito mais difícil de ignorar.
Lutando contra ataques cibernéticos de IA
Existem duas maneiras principais de lutar contra os benefícios que a IA conferirá ao inimigo – melhor IA e melhor treinamento – e ambas serão necessárias.
O advento dessa nova geração de IA deu início a uma nova corrida armamentista. À medida que os cibercriminosos o usam para evoluir seus ataques, as equipes de segurança também precisarão usá-lo para evoluir suas defesas.
Sem IA, as defesas dependem de pessoas sobrecarregadas e monitoramento de certos padrões pré-programados para evitar ataques. As ferramentas defensivas de IA serão capazes de prever vetores de ataque e identificar áreas sensíveis da rede e dos sistemas. Eles também poderão analisar códigos maliciosos, permitindo uma melhor compreensão de como novos ataques funcionam e como eles podem ser evitados.
A IA também pode funcionar, em um piscar de olhos, como uma parada de emergência – desativando a rede ao detectar uma violação e bloqueando todo o sistema. Embora não seja o ideal do ponto de vista da continuidade de negócios, isso pode ser muito menos prejudicial do que uma violação de dados.
Mas combater a IA com IA não é a única resposta. Precisamos também de inteligência humana. Não importa o quão inteligente e direcionado, a melhor defesa contra um ataque de phishing é um funcionário ou cliente que sabe o que procurar e é suspeito o suficiente para não pegar a isca. A implementação de políticas de segurança robustas e de melhores práticas de higiene cibernética continuará sendo fundamental para a defesa contra ataques.
Isso significa que o treinamento precisará ser atualizado para incluir os sinais de um ataque de IA… sejam quais forem. O treinamento precisará evoluir com a IA – um único curso de treinamento a cada poucos anos não vai mais cortá-lo quando esse treinamento estiver rapidamente desatualizado.
Embora os possíveis sinais de um ataque cibernético impulsionado por IA estejam mudando rapidamente, em geral, os ataques são:
- Rápido e escalável, explorando várias vulnerabilidades em um curto espaço de tempo.
- Adaptativo e evasivo, mudando táticas e técnicas para evitar detecção e resposta.
- Direcionado e personalizado, usando IA para criar e-mails de phishing convincentes ou campanhas de engenharia social.
- Enganoso e manipulador, usando IA para criar conteúdo falso ou alterado, como deepfakes, clonagem de voz ou geração de texto.
- Furtivo e persistente, escondendo-se na infraestrutura de rede por muito tempo sem ser notado.
Esses sinais não são exaustivos, e alguns ataques impulsionados por IA podem não exibir todos eles. No entanto, eles indicam o nível de ameaça que a IA representa para a segurança cibernética.
Para combater efetivamente os ataques cibernéticos impulsionados por IA, as empresas devem pensar além dos maus atores individuais e se preparar para ataques coordenados por atores patrocinados pelo Estado ou organizações criminosas que podem usar IA para lançar campanhas sofisticadas usando uma abordagem baseada em risco. Eles também devem ter uma estratégia proativa que inclua auditorias de segurança regulares, backups, criptografia e planos de resposta a incidentes. Isso é mais facilmente realizado através da obtenção de uma certificação de segurança bem conhecida, como o PCI-DSS.
Por fim, é imperativo que as organizações melhorem a segurança cibernética de seus próprios sistemas de IA, garantindo sua integridade, confidencialidade e disponibilidade, e mitigando os riscos de ataques adversários, envenenamento de dados e roubo de modelos.
Essas estratégias ajudarão a proteger as empresas, mas não devem ser autônomas – a segurança deve ser colaborativa. Ao colaborar com outras organizações, pesquisadores e autoridades para compartilhar informações, melhores práticas e falhas que podem ser aprendidas, as empresas estarão mais bem preparadas para a nova onda de ameaças à segurança da IA.
A IA é uma nova ameaça e uma continuação de ameaças mais antigas. As empresas terão que evoluir a forma como lidam com as ameaças cibernéticas à medida que essas ameaças se tornam mais sofisticadas e mais numerosas, mas muitos dos fundamentos permanecem os mesmos. Acertar continua sendo fundamental. As equipes de segurança não precisam se afastar de ideias antigas, mas se basear nelas para manter seus negócios seguros.
FONTE: DARK READING