Google lança ferramenta para identificar imagens geradas por IA

Views: 126
0 0
Read Time:1 Minute, 54 Second

O Google SynthID coloca marcas d’água em imagens geradas por IA

Marcas d’água são comumente usadas para mostrar a propriedade dos direitos autorais, mas podem ser facilmente cortadas ou editadas com ferramentas comuns de edição de imagens.

SynthID incorpora uma marca d’água digital diretamente nos pixels de uma imagem gerada com Imagen, tornando-a invisível ao olho humano, mas detectável por meio de software específico.

“Projetamos o SynthID para que não comprometa a qualidade da imagem e permita que a marca d’água permaneça detectável, mesmo após modificações como adição de filtros, alteração de cores e salvamento com vários esquemas de compactação com perdas – mais comumente usados ​​para JPEGs”, disseram os pesquisadores do Google.

A ferramenta usa dois modelos de aprendizado profundo que foram treinados em uma variedade de imagens. Um adiciona uma marca d’água imperceptível e o outro determina a probabilidade de uma imagem ser criada com Imagen, fornecendo três níveis de confiança de identificação de imagem.

Marcas d'água de imagens de IA do Google
Fonte: Google DeepMind

Embora os metadados – dados que armazenam detalhes sobre quem criou um arquivo de imagem e quando – também sejam comumente usados ​​para identificação, eles podem ser alterados ou perdidos durante a edição. A marca d’água do SynthID, integrada aos pixels da imagem, permanece detectável mesmo quando faltam metadados.

Uma corrida em direção à IA segura

“O SynthID não é infalível contra manipulações extremas de imagens, mas fornece uma abordagem técnica promissora para capacitar pessoas e organizações a trabalharem de forma responsável com conteúdo gerado por IA. Esta ferramenta também pode evoluir junto com outros modelos e modalidades de IA além de imagens, como áudio, vídeo e texto”, observaram os pesquisadores .

O Google acredita que num futuro próximo poderá ser expandido para outros modelos de IA, integrado em mais produtos Google e disponibilizado a terceiros.

Anteriormente, a empresa juntou-se a vários outros gigantes da IA ​​dos EUA – Amazon, Anthropic, Inflection, Meta, Microsoft e OpenAI – no compromisso público de desenvolver tecnologia de IA segura, transparente e ética. Uma das coisas com que se comprometeram é “desenvolver e implementar mecanismos que permitam aos utilizadores compreender se o conteúdo áudio ou visual é gerado por IA, incluindo proveniência robusta, marca de água, ou ambos, para conteúdo áudio ou visual gerado por IA”.

FONTE: HELP NET SECURITY

POSTS RELACIONADOS