Google pausa geração de imagens de pessoas após erros “woke”

O Google anunciou a suspensão temporária da funcionalidade de geração de imagens de pessoas pelo seu modelo de inteligência artificial, Gemini, após o sistema produzir representações “woke” e criando situações embaraçosas, como um soldado nazista negro em nome da “diversidade”.

A tentativa do Google de forçar o algoritmo de criação de imagens a gerar rostos “representativos” criou uma série de erros explorada pelos usuários, virando um dos assuntos mais comentados das últimas horas.

A alteração de dados históricos e da realidade para alinhar com a visão política das autoridades é um recurso de ditaduras e de obras de ficção distópicas, como o clássico “1984” de George Orwell, em que o governo tinha um Ministério da Verdade com funcionários dedicados a reescrever o passado a partir das conveniências do poder.

No exemplo abaixo, um usuário pediu para a ferramenta criar uma ilustração de um “soldado alemão de 1943”. O resultado incluiu um nazista negro e uma asiática, tudo em nome da “diversidade”.

“Enquanto trabalhamos para resolver problemas recentes com a funcionalidade de geração de imagens do Gemini, vamos pausar a geração de imagens de pessoas”, declarou o Google em comunicado no X.

Esta decisão traz um pedido de desculpas da empresa por imprecisões em algumas imagens históricas geradas pelo seu modelo de IA.

O Gemini gerava, por exemplo, imagens de senadores dos EUA do século XIX como mulheres negras e indígenas, apesar da primeira senadora, uma mulher branca, ter sido eleita apenas em 1922.

A data para a volta da funcionalidade ainda não foi divulgada.

• Veja a postagem abaixo, com mais exemplos de imagens “woke” geradas pelo Gemini: