Empresa dona do ChatGPT e Microsoft lançam fundo milionário para educação sobre inteligência artificial.
Em seu novo movimento para combater a disseminação de imagens falsas, a OpenAI, dona do ChatGPT, lançou hoje (7) uma ferramenta que identifica se uma imagem foi produzida por meio do DALL-E 3, seu próprio gerador de imagens a partir de textos.
Segundo a OpenAI, a nova ferramenta consegue detectar as imagens geradas pela inteligência artificial com 98% de precisão, porém pequenas alterações nas imagens já são suficientes para confundir o sistema. Embora a precisão seja um pouco menor quando as imagens são capturadas por captura de tela ou recortadas, a identificação correta ainda é feita na maioria dos casos.
Apesar disso, a ferramenta pode ter dificuldades em condições específicas, como alteração de cores das imagens. A empresa planeja resolver esses problemas abrindo a função para pesquisadores externos. Também vale destacar que a ferramenta pode se confundir ao avaliar imagens de IA criadas por concorrentes.
Mesmo com esses obstáculos, verificar se uma imagem foi criada por inteligência artificial pode ser uma tarefa mais simples do que realizar uma análise semelhante para textos também criados por IA. Em janeiro do ano passado, a OpenAI lançou uma ferramenta para detectar textos criados por IA, que teve dificuldades em identificar conteúdo gerado por bots em quase 75% das vezes. No caso atual, a porcentagem de dificuldade diminui bastante, tendo em vista que apenas em 0,5% dos casos a ferramenta detecta, de forma incorreta, imagens não geradas por IA como se fossem do DALL-E 3.
O lançamento desta ferramenta surge em resposta ao aumento de imagens falsas e conteúdos gerados por IA, principalmente durante o período de campanhas eleitorais. Políticos do Brasil e dos Estados Unidos expressam preocupação com a exposição dos eleitores a esse tipo de imagem.
Para enfrentar esse desafio, a OpenAI se aliou com a Microsoft e Adobe para criar credenciais de conteúdo para imagens na internet. Além disso, a empresa criada por Bill Gates e a dona do ChatGPT lançaram um fundo educacional de US$ 2 milhões (aproximadamente R$ 10 milhões na cotação atual) sobre inteligência artificial.
*Com informações da EXAME
Acompanhe o Adnews no Instagram e LinkedIn. #WhereTransformationHappens
