O Google está testando uma marca d’água (que consiste em um logotipo ou texto adicionados à uma imagem para mostrar propriedade, evitando plágio ou uso indevido) para identificar imagens criadas por Inteligência Artificial. Desenvolvido pela DeepMind, divisão de IA do Google, o SynthID pretende identificar imagens geradas por computador em um esforço para combater a desinformação.
A ferramenta funciona realizando alterações em pixels individuais nas imagens, tornando as marcas d’água invisíveis ao olho humano, mas detectáveis por computadores. Apesar disso, a DeepMind afirmou que isso não é prova de uma manipulação extrema nas imagens.
Os geradores de imagens de IA se popularizaram com o Midjourney, que já conta com mais de 14,5 milhões de usuários. A ferramenta permite que as pessoas criem imagens em segundos a partir de instruções em texto, o que levanta questões sobre direitos autorais e propriedade em todo o mundo.
O Google possui seu próprio gerador de imagens, chamado Imagen, e seu sistema para criar e verificar marcas d’água deve se aplicar apenas às imagens criadas por ele. Imagens utilizadas por veículos de notícias também utilizam marcas d’água, mas essas são visíveis e podem ser facilmente editadas ou cortadas. Já o sistema do Google criará uma marca d’água efetivamente invisível, permitindo que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.
Para o chefe de pesquisa da DeepMind, Pushmeet Kohli, o sistema modifica as imagens de forma tão sutil que “para um humano, não muda”. Mesmo se a imagem for cortada ou editada, o software da empresa ainda pode identificar a presença da marca d’água.
“Você pode mudar a cor, o contraste, até redimensioná-la, e a DeepMind ainda conseguirá ver que é gerada por IA”, acrescenta Kohli.
Entretanto, ele alerta que este é um lançamento experimental do sistema, e que a empresa precisa que as pessoas usem para aprender mais sobre suas capacidades. Em julho, o Google foi uma das sete principais empresas de Inteligência Artificial a aderir a um acordo voluntário nos EUA para garantir o desenvolvimento e o uso seguro da IA, o que inclui garantir que as pessoas possam identificar imagens feitas por computador implementando marcas d’água.
Kohli diz que esse foi um passo que reafirmou esses compromissos, mas Claire Leibowicz, do grupo de campanha Partnership on AI, defende que precisa haver mais coordenação entre as empresas.
“Acredito que a padronização seria útil para o campo… Muitas instituições estão explorando diferentes métodos, o que adiciona graus de complexidade, já que nosso ecossistema de informações depende de diferentes métodos para interpretar e negar que o conteúdo seja gerado por IA”, declara.
Microsoft e Amazon estão entre as grandes empresas de tecnologia que, assim como o Google, se comprometeram a adicionar marcas d’água em conteúdos gerados por IA. Além das imagens, a Meta, de Mark Zuckerberg, publicou um artigo de pesquisa para seu gerador de vídeos ainda não lançado, o Make-A-Video, que afirma que marcas d’água serão adicionadas aos vídeos gerados para atender à demandas semelhantes de transparência sobre produtos gerados por IA.
Impacto das imagens geradas por IA
À medida que a tecnologia evolui, está se tornando cada vez mais complexo distinguir imagens reais das geradas artificialmente, como foi o caso das supostas fotos do set de filmagens de ‘Coringa 2’, estrelado por Joaquin Phoenix, que deve chegar aos cinemas em outubro de 2024. No fim do ano passado, imagens de Lady Gaga vestida como a personagem Arlequina teriam sido vazadas pela equipe de produção do filme. Mas, apesar da cantora estar no elenco do longa-metragem, foi comprovado que as imagens haviam sido geradas e manipuladas por IA.
Na época, diversos portais de notícias e comunicadores analisaram as imagens para comprovar que eram falsas, como Pablo Peixoto, do canal Qu4tro Coisas. De acordo com o youtuber, um fator que derrubou as teorias sobre a autenticidade das fotos foi a presença de mais de dez dedos em uma das mãos da atriz. A IA, apesar de eficaz para recriar cenários e figurinos, ainda não consegue replicar os dedos humanos.
Outro caso que viralizou nas redes sociais foi a imagem do Papa Francisco vestido de uma maneira fora do comum para o representante do Vaticano, com uma jaqueta puffer branca. Assim como no exemplo anterior, este é mais um excelente trabalho da IA.
Fotos do Papa Francisco ‘estiloso’ fizeram sucesso nas redes sociais. (Foto: Reprodução/Internet)
Diante do crescente desafio de diferenciar imagens verdadeiras das produzidas artificialmente, a iniciativa de desenvolver o SynthID é mais um passo para combater a disseminação de desinformação. A padronização dessas ferramentas é crucial, tendo em vista que nos deparamos com um cenário no qual a inteligência artificial está cada vez mais presente no cotidiano.
* Com informações da BBC
Acompanhe o Adnews no Instagram, LinkedIn e Threads. #WhereTransformationHappens ????
