Google pausa geração de imagens de pessoas após erros “woke”
Falha do algoritmo criou situações constrangedoras como um soldado nazista negro
O Google anunciou a suspensão temporária da funcionalidade de geração de imagens de pessoas pelo seu modelo de inteligência artificial, Gemini, após o sistema produzir representações “woke” e criando situações embaraçosas, como um soldado nazista negro em nome da “diversidade”.
A tentativa do Google de forçar o algoritmo de criação de imagens a gerar rostos “representativos” criou uma série de erros explorada pelos usuários, virando um dos assuntos mais comentados das últimas horas.
A alteração de dados históricos e da realidade para alinhar com a visão política das autoridades é um recurso de ditaduras e de obras de ficção distópicas, como o clássico “1984” de George Orwell, em que o governo tinha um Ministério da Verdade com funcionários dedicados a reescrever o passado a partir das conveniências do poder.
No exemplo abaixo, um usuário pediu para a ferramenta criar uma ilustração de um “soldado alemão de 1943”. O resultado incluiu um nazista negro e uma asiática, tudo em nome da “diversidade”.
“Enquanto trabalhamos para resolver problemas recentes com a funcionalidade de geração de imagens do Gemini, vamos pausar a geração de imagens de pessoas”, declarou o Google em comunicado no X.
Esta decisão traz um pedido de desculpas da empresa por imprecisões em algumas imagens históricas geradas pelo seu modelo de IA.
O Gemini gerava, por exemplo, imagens de senadores dos EUA do século XIX como mulheres negras e indígenas, apesar da primeira senadora, uma mulher branca, ter sido eleita apenas em 1922.
A data para a volta da funcionalidade ainda não foi divulgada.
- Veja a postagem abaixo, com mais exemplos de imagens “woke” geradas pelo Gemini:
