Em resposta às críticas feitas pelos seus usuários, o Google anunciou melhorias em seus novos recursos baseados em Inteligência Artificial (IA) generativa usados nos resultados de busca.

Uma das mudanças iminentes pretende corrigir respostas absurdas que circularam nas redes sociais, como a alegação erroneamente gerada de que Barack Obama seria o primeiro presidente muçulmano dos Estados Unidos.

Essa medida vem em resposta aos vários exemplos de falhas apontadas pelos usuários, que incluem respostas pouco usuais e até mesmo bizarras, questionando a confiabilidade das informações providas pela ferramenta.

Por que o Google está mudando os “Resumos de IA”?

A ferramenta conhecida como “Resumos de IA” do Google tem sido objeto de escrutínio depois que usuários identificaram respostas notavelmente incorretas divulgadas amplamente nas mídias sociais.

A resposta gerada sobre Barack Obama evidencia problemas significativos na verificação de fatos pela inteligência artificial, levantando questões consideráveis sobre a precisão do conteúdo online acessado por bilhões de pessoas.

O porta-voz do Google explicou que a maioria das falhas identificadas veio de consultas atípicas ou manipuladas.

A tecnologia da IA por trás dos “Resumos de IA” geralmente confia nas tendências de interação dos usuários e no que é comumente pesquisado, podendo ser levada ao erro por interações de má-fé ou pouco convencionais.

Google se movimenta para evitar disseminação de desinformação

Diante do alastramento de desinformação, o Google já iniciou a implementação de mudanças para garantir que os erros flagrados não se repitam.

“Estamos tomando medidas rápidas quando apropriado em virtude de nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas“, disse um porta-voz da empresa.

A série de modificações inclui ajustes nos critérios de seleção do que deve ser respondido pela IA intensificando a verificação de fatos e procurando criar barreiras mais fortes contra informações potencialmente prejudiciais ou imprecisas.

Impacto das mudanças

Os “Resumos de IA”, que buscam simplificar e destacar informações pertinentes de consultas frequentes, já representam um dos maiores avanços do sistema de busca do Google desde a sua criação.

Entretanto, esses resumos também podem alterar substancialmente a percepção pública sobre fatos e dados.

Com as adaptações planejadas, espera-se que a precisão dessas sínteses informativas melhore significativamente, reforçando a confiança do usuário nas respostas oferecidas pela plataforma.

Além disso, com a previsão de expansão desses recursos para outros países, a ação rápida do Google não é apenas uma medida interna, mas também uma preparação para atender de forma mais eficaz e precisa a um público global cada vez mais dependente de informações digitais rápidas e confiáveis.