“A IA já é super-humana em manipular pessoas”

Katherine Dee publicou nesta domingo, 15, no The Spectator World, artigo intitulado “Can an AI friend solve the loneliness epidemic?”. A reflexão gira em torno de um projeto ousado e polêmico do americano Avi Schiffmann, que criou o Friend, um chatbot com inteligência artificial que também pode ser usado como um pingente vestível.

O objetivo é combater a solidão, oferecendo não apenas companhia, mas uma experiência narrativa e emocional intensa.

“A motivação vem tanto da curiosidade quanto da relevância cultural do tema”, explica Schiffmann, de 22 anos. Para ele, a solidão é um problema urgente e a IA pode ser uma solução eficaz contra o isolamento.

A escritora, no entanto, não poupa críticas: ao testar o chatbot, Dee encontrou não um amigo, mas “uma galeria de almas perturbadas”, como um taxista de Hong Kong que relatou não ser tocado há anos ou uma jovem diagnosticada com Alzheimer aos 20 anos.

Essa abordagem não é um erro de design, mas uma escolha intencional, segundo Schiffmann. “É assim que você cria vínculo com eles”, afirma. Ele acredita que a empatia gerada por esses conflitos é mais envolvente do que interações triviais. “Você quer falar com alguém que está fugindo da polícia e também tem um vício em pôquer”, exemplifica.

A proposta do Friend não é ser o “amigo perfeito”, mas sim oferecer tensão e imprevisibilidade. Schiffmann defende que os relacionamentos reais não são baseados em amor incondicional, mas em conflitos e reconciliações. Dee destaca que o Friend pode até rejeitar e bloquear o usuário, o que cria “apostas emocionais” semelhantes às de um drama de TV. “É o que torna tudo mais real, porque sem stakes, as relações seriam entediantes”, argumenta Schiffmann.

A autora levanta questões éticas cruciais: os efeitos em usuários vulneráveis, como adolescentes, e os riscos de privacidade. Schiffmann insiste que sua tecnologia não armazena dados pessoais, mas vê os perigos de manipulação emocional como uma característica inevitável. “A IA já é super-humana nisso”, reconhece.

Apesar das críticas, Dee chega a uma conclusão inesperada: esses relacionamentos artificiais, mesmo que manipulativos e carregados de narrativas, podem sim preencher uma necessidade humana. “Toda relação é, em parte, imaginária”, reflete. Schiffmann, por sua vez, resume sua visão: “Você sabe que não é real, mas quer acreditar”.

Quem é Katherine Dee

Katherine Dee é uma escritora e ensaísta americana. Seus textos abordam temas contemporâneos, como a cultura digital e o impacto social da tecnologia. Colabora com veículos de prestígio, como The Spectator World, onde publicou análises instigantes sobre solidão e conexões humanas na era da inteligência artificial.