0
0
Com o aumento do interesse público no ChatGPT , o Europol Innovation Lab levou o assunto a sério e conduziu uma série de workshops envolvendo especialistas no assunto de vários departamentos da Europol. Esses workshops tiveram como objetivo investigar possíveis maneiras pelas quais grandes modelos de linguagem (LLMs), como o ChatGPT, podem ser explorados por criminosos e como eles podem ser utilizados para ajudar os investigadores em suas tarefas diárias.
ChatGPT e aplicação da lei
Suas percepções são compiladas no primeiro relatório Tech Watch Flash da Europol , ChatGPT – o impacto dos modelos de linguagem grande na aplicação da lei, que fornece uma visão geral sobre o potencial uso indevido do ChatGPT e oferece uma visão do que ainda pode estar por vir.
“Quando os criminosos usam o ChatGPT, não há barreiras de idioma ou cultura. Eles podem solicitar que o aplicativo colete informações sobre as organizações, os eventos dos quais participam, as empresas com as quais trabalham, em uma velocidade fenomenal. Eles podem solicitar que o ChatGPT use essas informações para escrever e-mails fraudulentos altamente confiáveis. Quando o alvo recebe um e-mail de seu banco, CEO ou fornecedor ‘aparente’, não há sinais de linguagem que indiquem que o e-mail é falso. O tom, o contexto e o motivo para realizar a transferência bancária não fornecem evidências que sugiram que o e-mail seja uma farsa. Isso torna os e-mails de phishing gerados pelo ChatGPT muito difíceis de detectar e perigosos”, disse Julia O’Toole, CEO da MyCena Security Solutions.
ChatGPT e potencial abuso criminoso
Como os recursos de LLMs como o ChatGPT estão sendo aprimorados ativamente, a potencial exploração desses tipos de sistemas de IA por criminosos fornece uma perspectiva sombria .
As três áreas de crime a seguir estão entre as muitas áreas de preocupação identificadas pelos especialistas da Europol:
Fraude e engenharia social: a capacidade do ChatGPT de redigir textos altamente realistas o torna uma ferramenta útil para fins de phishing. A capacidade dos LLMs de reproduzir padrões de linguagem pode ser usada para representar o estilo de fala de indivíduos ou grupos específicos. Essa capacidade pode ser abusada em grande escala para induzir vítimas em potencial a colocar sua confiança nas mãos de criminosos.
Desinformação: o ChatGPT se destaca na produção de texto com som autêntico em velocidade e escala. Isso torna o modelo ideal para fins de propaganda e desinformação, pois permite aos usuários gerar e espalhar mensagens que refletem uma narrativa específica com relativamente pouco esforço.
Cibercrime: Além de gerar linguagem semelhante à humana, o ChatGPT é capaz de produzir código em várias linguagens de programação diferentes. Para um potencial criminoso com pouco conhecimento técnico, este é um recurso inestimável para produzir códigos maliciosos.
À medida que a tecnologia progride e novos modelos se tornam disponíveis, será cada vez mais importante para a aplicação da lei permanecer na vanguarda desses desenvolvimentos para antecipar e prevenir abusos.
FONTE: HELPNET SECURITY