Um caso ocorrido na cidade de DeLand, Flórida, nos EUA, acendeu um alerta para pais e educadores. Um adolescente de 13 anos foi preso após perguntar ao ChatGPT como matar um amigo durante a aula.

• Uso de IA na segurança escolar
• Consequências legais para adolescentes
• Importância da orientação dos pais

Como a inteligência artificial está monitorando escolas?

O caso do adolescente em DeLand destaca o uso de inteligência artificial para monitorar o comportamento de alunos. A ferramenta chamada Gaggle analisa documentos e e-mails escolares em busca de conteúdos preocupantes, sinalizando possíveis riscos à segurança.

Os temas que acionam alertas incluem abuso de substâncias, ameaças de violência, automutilação e cyberbullying. O sistema está presente em cerca de 1.500 distritos escolares nos EUA, visando garantir a segurança dos alunos.

Quais as consequências de perguntas inadequadas?

O adolescente, ao perguntar sobre matar um amigo, foi detido e encaminhado ao centro de custódia. As autoridades destacam que tais ameaças, mesmo como “brincadeiras”, têm graves repercussões legais e emocionais.

A escola envolvida, com o alerta do Gaggle, conseguiu agir rapidamente. Isso serve como um lembrete para os pais conversarem com seus filhos sobre os riscos e responsabilidades do uso responsável da tecnologia.

Quais os limites da privacidade escolar?

A atuação do Gaggle levantou debates sobre privacidade. Em Kansas, alunos alegaram que o sistema invadiu sua privacidade, levando a uma ação judicial contra a empresa. Porém, a ferramenta defende que seu maior compromisso é com a segurança estudantil sem comprometer a privacidade.

• A orientação dos pais é crucial para evitar incidentes semelhantes.
• Ferramentas como o Gaggle, embora controversas, visam aumentar a segurança.
• Conscientização sobre as consequências legais de ações online é vital para os jovens.

Leia também: ChatGPT Plus é realmente melhor que a versão gratuita?