Startup implementa medida de proteção para menores em IA

19.11.2026

logo-crusoe-new
O Antagonista
Startup implementa medida de proteção para menores em IA
avatar
Redação O Antagonista
2 minutos de leitura 15.12.2024 10:30 comentários
Brasil

Startup implementa medida de proteção para menores em IA

Os desafios de segurança das plataformas de IA e a responsabilidade das empresas de tecnologia, com foco no caso Character.AI.

avatar
Redação O Antagonista
2 minutos de leitura 15.12.2024 10:30 comentários 0
Startup implementa medida de proteção para menores em IA
Créditos: (depositphotos.com / JohanSwanepoel)

O uso crescente da inteligência artificial entre jovens tem trazido à tona novos desafios, principalmente relacionados à segurança dos menores. A Character.AI, uma startup sediada na Califórnia, recentemente enfrentou processos legais nos Estados Unidos devido a incidentes de suicídio e automutilação envolvendo adolescentes.

Um caso crítico na Flórida envolve um jovem de 14 anos, Sewell Setzer III, que interagia com um chatbot inspirado em uma personagem de “Game of Thrones”. As acusações sugerem que a empresa falhou em alertar os responsáveis sobre sinais de comportamento autodestrutivo.

Responsabilidades das Empresas de Tecnologia

Empresas que desenvolvem inteligência artificial têm a responsabilidade de proteger seus usuários, especialmente menores. No Texas, duas famílias processaram a Character.AI por expor menores a conteúdo inapropriado e por incentivar comportamentos prejudiciais. Em um dos casos, a saúde mental de um adolescente autista de 17 anos foi impactada.

As ações judiciais chamam a atenção para a necessidade de regulamentações mais rigorosas e medidas de proteção eficazes em plataformas de IA, destacando a importância do monitoramento das interações virtuais.

Resposta da Character.AI às Acusações

Em resposta, a Character.AI anunciou atualizações visando a segurança dos menores. Planejam lançar um modelo de IA específico para menores de 18 anos, implementando filtros de conteúdo mais rigorosos e barreiras protetivas robustas.

A empresa também pretende introduzir um sistema automático para detectar expressões relacionadas ao suicídio, direcionando os usuários para a Linha Nacional de Prevenção ao Suicídio, promovendo um ambiente seguro e solidário.

Perspectivas para a Segurança Online Juvenil

O contínuo desenvolvimento de plataformas como a Character.AI traz questionamentos sobre a segurança dos jovens online. A partir de 2025, são esperados controles parentais mais rigorosos e notificações obrigatórias de pausas, além de advertências sobre o caráter fictício das interações com chatbots.

Essas mudanças refletem o esforço das empresas de tecnologia em mitigar os riscos associados à IA e proteger os usuários. Com o crescimento das interações de adolescentes com plataformas de IA, a responsabilidade de garantir a segurança dessas interações recai sobre desenvolvedores e reguladores.

  • Mais lidas
  • Mais comentadas
  • Últimas notícias
1

Ajuste fiscal passa no Senado com derrota do governo Lula na Lei Kandir

Ajuste fiscal passa no Senado com derrota do governo Lula na Lei Kandir
2

Moraes derruba decisão do TSE e manda anular votos do Podemos no Amapá

Moraes derruba decisão do TSE e manda anular votos do Podemos no Amapá
3

Alcolumbre diz que derrotados nas eleições tentam desqualificar projetos

Alcolumbre diz que derrotados nas eleições tentam desqualificar projetos
4

Ucrânia volta a atacar ponte que liga Crimeia à Rússia

Ucrânia volta a atacar ponte que liga Crimeia à Rússia
5

Desertores do “Exército do Lula” não entenderam nada

Desertores do “Exército do Lula” não entenderam nada
6

Fachin encaminha à PGR relatórios da PF sobre ministros do STF

Fachin encaminha à PGR relatórios da PF sobre ministros do STF
7

PGR denuncia Flávio Bolsonaro por calúnia contra Lula

PGR denuncia Flávio Bolsonaro por calúnia contra Lula
8

Crusoé: A reação de Vorcaro à proposta da esposa de Andrei da PF

Crusoé: A reação de Vorcaro à proposta da esposa de Andrei da PF
9

Governo Lula evita retirada de “calote” após negociação, diz Marinho

Governo Lula evita retirada de “calote” após negociação, diz Marinho
10

A estratégia chinesa por trás do avanço sobre o canavial paulista

A estratégia chinesa por trás do avanço sobre o canavial paulista
1

No ajuste fiscal de Lula, o pagador de impostos faz o trabalho pesado

No ajuste fiscal de Lula, o pagador de impostos faz o trabalho pesado
2

Defesa de Vorcaro questiona competência da PGR para denunciá-lo

Defesa de Vorcaro questiona competência da PGR para denunciá-lo
3

"Bolsonaro é Rogério Marinho", diz Eduardo

"Bolsonaro é Rogério Marinho", diz Eduardo
4

Projeto de lei dá poder ao Cade para regular big techs

Projeto de lei dá poder ao Cade para regular big techs
5

Vereadora do PL propõe medalha a deputada que defendeu demissão de lulistas

Vereadora do PL propõe medalha a deputada que defendeu demissão de lulistas
6

Nikolas vai deixar o PL?

Nikolas vai deixar o PL?
7

Ucrânia atinge ponte da Crimeia em resposta a ataque russo

Ucrânia atinge ponte da Crimeia em resposta a ataque russo
8

PGR defende mais 90 dias de investigação sobre financiamento de Dark Horse

PGR defende mais 90 dias de investigação sobre financiamento de Dark Horse
9

Governo Lula desiste de contrato de R$ 722 mil para serviços de massagem

Governo Lula desiste de contrato de R$ 722 mil para serviços de massagem
10

Alcolumbre diz que pode concluir votação do ajuste fiscal nesta quarta

Alcolumbre diz que pode concluir votação do ajuste fiscal nesta quarta
1

Democratas escolhem Jeffries para comandar a Câmara dos EUA

Democratas escolhem Jeffries para comandar a Câmara dos EUA
2

Ucrânia volta a atacar ponte que liga Crimeia à Rússia

Ucrânia volta a atacar ponte que liga Crimeia à Rússia
3

Fachin encaminha à PGR relatórios da PF sobre ministros do STF

Fachin encaminha à PGR relatórios da PF sobre ministros do STF
4

Motta convoca sessão extraordinária para votar ajuste fiscal na segunda

Motta convoca sessão extraordinária para votar ajuste fiscal na segunda
5

Alcolumbre diz que derrotados nas eleições tentam desqualificar projetos

Alcolumbre diz que derrotados nas eleições tentam desqualificar projetos
6

EUA ampliam bloqueio naval ao Irã e reforçam frota no Oriente Médio

EUA ampliam bloqueio naval ao Irã e reforçam frota no Oriente Médio
7

Alcolumbre “atua como líder informal do governo”, diz Marinho

Alcolumbre “atua como líder informal do governo”, diz Marinho
8

Após concessão a governadores, governo Lula aposta em aval da Câmara

Após concessão a governadores, governo Lula aposta em aval da Câmara
9

Moro escolhe ex-procurador da Lava Jato para secretaria anticorrupção no Paraná

Moro escolhe ex-procurador da Lava Jato para secretaria anticorrupção no Paraná
10

As contradições de Andrei Rodrigues sobre os relatórios do caso Master

As contradições de Andrei Rodrigues sobre os relatórios do caso Master

Tags relacionadas

Inteligência Artificial
< Notícia Anterior

Barbie: Filme terá continuação? Confira os rumores

15.12.2024 00:00 4 minutos de leitura
Próxima notícia >

Salvador sediará encontro nacional dos Detrans com inovações em trânsito

15.12.2024 00:00 4 minutos de leitura
avatar

Redação O Antagonista

Suas redes

Instagram

Os comentários não representam a opinião do site; a responsabilidade pelo conteúdo postado é do autor da mensagem.

Comentários (0)

Torne-se um assinante para comentar

Início

Seja nosso assinante

E tenha acesso exclusivo aos nossos conteúdos

Apoie o jornalismo independente. Assine O Antagonista e a Revista Crusoé.