Fonte-fantasma esconde textos que só humanos enxergam

E se existisse um jeito de esconder o que escrevemos dos modelos de IA generativa?

Foi nisso que pensou o designer americano Eric Lu ao criar a Ghost Font, tipografia experimental que se aproveita de uma fragilidade dos sistemas de inteligência artificial: a incapacidade de interpretar mensagens formadas por pontos em movimento.

A técnica usa centenas de partículas em vídeo, organizadas para que o cérebro humano decifre palavras a olho nu, enquanto modelos como GPT e Claude enxergam apenas ruído visual. O projeto ganhou repercussão expressiva nas redes sociais nos últimos dias.

A imagem que ilustra esta nota está pausada. Nem eu, nem você, nem o Claude, nem o ChatGPT lemos. Quando em movimento no sistema, porém, conseguimos ler; eles (ou elas, as IAs), não.

Como funciona a ilusão?

Nos arquivos criados por Lu, os pontos que compõem as letras se deslocam para cima, enquanto os do fundo seguem para baixo. Essa diferença de direção permite que a visão humana agrupe os elementos e reconheça o texto durante a reprodução do vídeo.

Ao pausar a imagem, porém, a composição se desfaz e não resta nenhuma palavra identificável. Isso ocorre porque os modelos multimodais de IA analisam vídeos como sequências de quadros isolados, e a mensagem da Ghost Font não existe em nenhum quadro individual — apenas no movimento entre eles.

Parece que o jogo virou, não é mesmo?

Os arquivos da tipografia incluem ainda uma mensagem falsa, usada como isca para os sistemas automatizados. Nos testes conduzidos por Lu, ferramentas de IA declararam esse conteúdo simulado como se fosse verdadeiro, sem indicar dúvida sobre a leitura.

Segundo o material analisado, a palavra que aparece com frequência nas discussões sobre a iniciativa é “por enquanto”, numa referência ao caráter temporário da limitação identificada. Técnicas como a análise de fluxo óptico, ou instruções específicas direcionadas ao sistema, já seriam suficientes para reverter o efeito.

Lu, que também desenvolve uma plataforma de geração de fontes por inteligência artificial, afirma não ter intenção de transformar o projeto em ferramenta de uso prático imediato.

Ele avalia, no entanto, aplicar o mesmo princípio em sistemas de verificação humana, como os testes CAPTCHA, hoje frequentemente resolvidos por programas automatizados sem dificuldade.

Nunca foi tão fácil ficar bem informado com O Antagonista

Inscreva-se