Instagram sinaliza conteúdo gerado por IA

Views: 143
0 0
Read Time:2 Minute, 21 Second

O Instagram parece estar implementando um recurso que rotularia as postagens de mídia social criadas pelo ChatGPT e outras inteligências artificiais como “conteúdo gerado por IA”. É um movimento que os pesquisadores de segurança dizem ser um passo importante para tornar a Web mais segura.

O recurso foi descoberto recentemente pelo pesquisador de aplicativos Alessandro Paluzzi , e vem logo após a Meta, controladora do Instagram, e outras seis grandes empresas de tecnologia se reunirem na Casa Branca para anunciar compromissos voluntários para proteger a IA . Esses compromissos incluem a implementação de uma marca d’água para sinalizar o conteúdo originário de usuários “sintéticos”.

“Já vimos um aumento dramático nos abusos de imagens e vídeos deepfake circulando online”, disse Eduardo Azanza, CEO da Veridas, por e-mail. “À medida que a inteligência artificial avança, será cada vez mais desafiador distinguir entre mídia autêntica e gerada artificialmente. Sem algum tipo de rótulo, o público pode confiar apenas em sua intuição pessoal.”

Deepfakes e mídia criada por IA tornaram-se um tópico de discussão nacional graças à greve dos roteiristas do SAG-AFTRA em Hollywood, aos movimentos contínuos do governo Biden para criar políticas nacionais coesas para o desenvolvimento e uso seguro da IA ​​e à presença crescente da IA ​​tanto online quanto online. crimes do mundo real. Em uma prova de como a situação é preocupante na frente do crime cibernético em particular, o FBI emitiu recentemente um alerta sobre uma quadrilha de sextorcionistas usando postagens falsas de mídia social para enganar crianças e adultos. E em outro exemplo, um cibercriminoso no início deste ano tentou extorquir $ 1 milhão de uma mulher do Arizona cuja filha ele alegou ter sequestrado, usando um clone da voz da criança em um pedido de ajuda deepfake . 

Enquanto isso, as detecções de conteúdo geradas por IA por ferramentas de segurança têm uma taxa de sucesso bastante alta por enquanto, mas os pesquisadores estão alertando que os cibercriminosos estão ficando cada vez melhores em escapar dessas proteções .

Por enquanto, ajudar as pessoas comuns a diferenciar entre o que vem de um chatbot e o que não é, e o que é real e o que não é, é um primeiro passo crucial para mitigar o variado espectro de ameaças da IA, dizem os pesquisadores.

“Vemos esse movimento em direção a um cenário de mídia mais transparente como extremamente positivo”, disse Azanza sobre o esforço de rotulagem do Instagram. “Se quisermos integrar a IA com sucesso em nossas vidas diárias, é importante que empresas grandes e impactantes liderem o processo de alinhamento com padrões e regulamentos que imponham responsabilidade e responsabilidade”.

Nem o Meta nem o Instagram retornaram imediatamente um pedido de comentário de Dark Reading.

FONTE: DARKREADING

POSTS RELACIONADOS