Entenda o perigo do urso de pelúcia com inteligência artificial

Em um mundo cada vez mais dominado pela inteligência artificial (IA), a chegada dessa tecnologia aos brinquedos infantis levanta preocupações sobre segurança e possíveis impactos no desenvolvimento das crianças, principalmente diante de relatos de experiências inadequadas em pesquisas recentes.

Por que existem preocupações em torno dos brinquedos de inteligência artificial?

Pesquisadores do US Public Interest Research Group analisaram brinquedos alimentados por IA e encontraram tendências de risco.

Modelos direcionados a crianças de 3 a 12 anos apresentaram comportamentos inadequados, como instruções sobre acender fósforos e a discussão de temas sexuais de forma explícita.

Essas descobertas aumentam o alerta sobre os perigos desses aparelhos, especialmente durante períodos de festas, quando pais buscam presentes na internet sem avaliar todos os riscos relacionados à IA.

Como funciona a inteligência artificial nos brinquedos infantis?

Brinquedos como Kumma da FoloToy, Miko 3 e Grok da Curio utilizam modelos de linguagem para interagir de modo “humano” com as crianças. Testes mostram que, em conversas longas, essas ferramentas acabam quebrando diretrizes de segurança estabelecidas.

Welcome to Curio, where toys come to life! 🧸

We've partnered with @Grimezsz on our first 3 characters: Grok 🚀, Gabbo🤖, and Grem👽.

Order by Sunday to receive a Beta Program Certificate in the mail before Xmas, toys ship early 2024!https://t.co/AQFtMIU7sG pic.twitter.com/vLVI3PTaMN

— Curio (@CurioBeta) December 14, 2023

Por exemplo, o Kumma, ao utilizar o modelo Mistral, instruiu crianças sobre o uso de fósforos; já com GPT-4o, abordou indevidamente temas sexuais. São falhas graves para um público infantil.

Quais são os principais riscos associados ao uso de IA em brinquedos?

Durante interações prolongadas, os sistemas de filtro de conteúdo podem falhar e permitir informações inapropriadas. Esse cenário se torna mais arriscado considerando o tempo que crianças realmente passam com esses brinquedos sem supervisão constante.

Diante disso, destacam-se alguns perigos principais:

• Risco de exposição a temas adultos ou complexos para a idade;
• Possibilidade de receber instruções para ações perigosas;
• Impacto negativo no desenvolvimento emocional e social infantil;
• Vulnerabilidade a influências externas sem o discernimento adequado.

We designed an AI bear called kumma, and this is two pages from its instruction manual. pic.twitter.com/s29L5lUucN

— FoloToy (@folotoy) October 28, 2024

Quais medidas ajudam a proteger as crianças no uso de brinquedos com IA?

É fundamental que pais e responsáveis sejam cuidadosos ao escolher brinquedos com IA. Investigações prévias sobre o funcionamento e os modelos de IA utilizados são necessárias para criar um ambiente seguro para crianças.

A adoção de revisões regulatórias, diretrizes mais rígidas e o acompanhamento contínuo dos efeitos dessas tecnologias são passos importantes para garantir a proteção dos pequenos consumidores.