OpenAI vai colocar marca d’água invisível em imagens geradas pelo ChatGPT

A OpenAI vai colocar marca d’água nos metadados das imagens geradas pelo ChatGPT e pela API do Dall-E 3, seguindo os padrões da C2PA (Coalizão pela Proveniência e Autenticidade de Conteúdo). As criações também terão um logo no canto superior esquerdo.

A C2PA é um grupo de empresas que inclui nomes como Adobe e Microsoft. Ele foi formado para criar padrões que permitam rastrear a origem de diferentes tipos de mídia. O grupo desenvolveu a marca d’água invisível Content Credentials, que mostra qual foi a ferramenta usada para gerar uma imagem. O padrão vai além de IA e inclui câmeras e programas de edição de imagem.

Segundo a empresa, a mudança não terá efeito significativo na qualidade das imagens geradas, nem fará o processo demorar mais. Alguns arquivos podem ficar um pouco maiores.

Ferramenta Content Credentials mostrando informações sobre imagem criada usando ChatGPT — Ferramenta Content Credentials mostra que imagem foi criada em “dois passos”: o Dall-E gerou e o ChatGPT entregou o arquivo (Imagem: Divulgação/OpenAI)

A marca d’água não é garantia de que todas as imagens criadas por IA que circulam na internet poderão ser identificadas. A OpenAI admite que os metadados podem ser “facilmente removidos, seja acidental ou intencionalmente”. Redes sociais geralmente removem metadados de arquivos, e mesmo tirar um print da imagem já faz com que estas informações se percam.

Mesmo assim, a companhia acredita que essa iniciativa pode ajudar. “Acreditamos que adotar estes métodos para estabelecer a proveniência e encorajar os usuários a reconhecer estes sinais é essencial para aumentar a confiabilidade da informação digital”, diz a empresa em seu site.

Meta vai identificar imagens criadas por IA

A medida da OpenAI vem alguns dias após a Meta anunciar que acrescentará rótulos para identificar imagens geradas por inteligência artificial. A informação vai aparecer nas redes sociais da empresa: Facebook, Instagram e Threads.

Imagem gerada por IA recebe selo de notificação de conteúdo no Instagram — Publicação no Instagram informa que a foto realista foi gerada por uma plataforma de IA (Imagem: Divulgação/Meta)

O sistema será implementado nos próximos meses e vai funcionar para as IAs de várias empresas, como OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google, entre outras. Imagens criadas com ferramentas da própria Meta já recebem essa identificação.

Com informações: OpenAI, The Verge

OpenAI vai colocar marca d’água invisível em imagens geradas pelo ChatGPT