Cuidado com o que você diz, pede, pergunta, confessa ou compartilha no bate-papo com a IA. O Google pode indexar conversas antes consideradas privadas entre usuários e o ChatGPT, convertendo trocas compartilhadas em pequenos grupos (familiares, amigos, companheiros) em resultados de busca visíveis para milhões.

De acordo com informações do site Fast Company, links gerados pelo recurso “Compartilhar” do ChatGPT foram rastreados pelo buscador e exibidos como resultados de busca, permitindo que qualquer um acesse diálogos (tidos como) confidenciais.

Relatos de abuso físico, tratamento contra vícios e crises de saúde mental foram publicados. Ironicamente, até mesmo alguns debates sobre o temor de que a própria inteligência artificial estivesse monitorando os usuários apareceram nos registros.

Embora os nomes dos autores não fossem exibidos, muitos se identificaram ao detalhar informações muito específicas. Não ficou claro se esses usuários sabiam da acessibilidade pública de seus diálogos.

Reação da OpenAI

Até a desativação do recurso, feita horas depois de o incidente ser revelado, aproximadamente 4.500 conversas haviam aparecido nos resultados de busca. O número real pode ser maior, já que o Google não indexa todo o conteúdo disponível. Tecnicamente, o Google indexa qualquer conteúdo público na web.

A situação é ainda mais preocupante considerando que, no último ano, só nos EUA, quase metade dos usuários utilizou modelos de linguagem para suporte psicológico. Uma parcela expressiva procurou ajuda para ansiedade, questões pessoais e depressão. Mas, ao contrário de uma sessão com um terapeuta humano, essas conversas não ficaram no consultório terapêutico.

Dane Stuckey, diretor de segurança da informação da OpenAI, declarou que a decisão de desabilitar o recurso foi tomada porque a ferramenta “criava oportunidades demais para que as pessoas compartilhassem conteúdos que não pretendiam tornar públicos”. Também afirmou que a empresa está trabalhando para retirar o material já indexado dos buscadores.

Ceticismo a respeito da segurança

A atitude da empresa não deixou tranquilos alguns especialistas em ética digital. Carissa Véliz, da Universidade de Oxford, considerou o caso como “mais uma prova de que a OpenAI não é confiável, que não leva a privacidade a sério, independentemente do que diga”.

Rachel Tobac, analista de segurança digital, declarou que “há uma expectativa de privacidade ao usar ferramentas como o ChatGPT”, e ponderou que “realidade é que muita gente não compreende que esses sistemas têm recursos que podem, sem querer, expor suas perguntas mais íntimas, histórias e medos”.

O CEO da OpenAI, Sam Altman, havia alertado os usuários sobre o risco de se compartilhar dados íntimos e a possibilidade de divulgação legal obrigatória. Outros chatbots, como os da Meta, também têm lidado com as críticas por tornarem públicas consultas de usuários em feeds visíveis nos próprios aplicativos.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se