0
0
67% dos consumidores estão cientes das tecnologias de IA generativa, mas superestimam sua capacidade de detectar um vídeo deepfake, de acordo com a Jumio.
Conscientização de IA generativa entre os consumidores
A conscientização sobre IA generativa e deepfakes entre os consumidores é alta – 52% dos entrevistados acreditam que poderiam detectar um vídeo deepfake. Esse sentimento reflete o excesso de confiança por parte dos consumidores, dada a realidade de que os deepfakes atingiram um nível de sofisticação que impede a detecção a olho nu.
Isso é preocupante, dado que dados recentes da UK Finance descobriram que os golpes de falsificação de identidade custaram ao Reino Unido £ 177 milhões em 2022. A pesquisa apontou especificamente como isso foi impulsionado por golpes que se tornaram mais difíceis de detectar, já que sinais de alerta, como erros de digitação ou sites de aparência falsa, são menos prevalentes devido ao uso de ferramentas de IA generativas.
Nos EUA, os consumidores perderam US$ 2,6 bilhões com golpes de falsificação de identidade em 2022, ante US$ 2,4 bilhões em 2021, de acordo com a Comissão Federal de Comércio.
Deepfakes estão ficando exponencialmente melhores
Os dados da Jumio também mostram um aumento constante no uso de deepfakes cada vez mais sofisticados em todo o mundo e em todos os setores, com uma presença mais pesada nos setores de pagamentos e criptomoedas.
“Muitas pessoas parecem pensar que podem identificar um deepfake. Embora certamente haja sinais reveladores para procurar, os deepfakes estão ficando exponencialmente melhores o tempo todo e estão se tornando cada vez mais difíceis de detectar sem a ajuda da IA”, disse Stuart Wells, CTO da Jumio.
“Embora a tecnologia alimentada por IA seja cada vez mais exigida pelas empresas para detectar e proteger suas redes e clientes de deepfakes, os consumidores podem se proteger tratando imagens, vídeos e áudios provocativos com ceticismo. Algumas pesquisas rápidas geralmente descobrirão se é falso ou não”, acrescentou Wells.
Preocupações com roubo de identidade
À medida que os consumidores se tornam mais conscientes dessas tecnologias, também há uma compreensão emergente de como elas podem ser usadas para alimentar o roubo de identidade.
57% acreditam que o roubo de identidade on-line se tornará mais fácil como resultado, e os consumidores em Cingapura mostraram o mais alto nível de compreensão de seu uso prejudicial potencial (73%). Esses níveis diminuem entre os consumidores do México (62%), dos EUA (49%) e do Reino Unido (43%).
“As organizações têm o dever de educar seus clientes sobre as nuances das tecnologias de IA generativa para ajudá-los a desenvolver expectativas mais realistas de sua capacidade de detectar deepfakes”, disse Philipp Pointner, chefe de identidade digital da Jumio.
“Ao mesmo tempo, mesmo a melhor educação nunca será capaz de impedir completamente o uso de tecnologias em evolução por um fraudador. As organizações on-line devem procurar implementar sistemas de verificação multimodais baseados em biometria que possam detectar deepfakes e impedir que informações pessoais roubadas sejam usadas. Encorajadoramente, nossa pesquisa indicou um forte apetite do consumidor por essa forma de verificação de identidade, na qual as empresas devem agir rapidamente.”
68% dos consumidores estão abertos a usar uma identidade digital para se verificarem online. Os principais setores em que eles preferem uma identidade digital em vez de uma identidade física (como carteira de motorista ou passaporte) são serviços financeiros (43%), governo (38%) e saúde (35%).
FONTE: HELPNET SECURITY