Adolescente de 13 anos usou computador escolar na Flórida. OpenAI lança controles parentais, mas testes revelam vulnerabilidades no sistema.
Um adolescente floridiano de 13 anos foi detido após consultar o ChatGPT sobre métodos para assassinar colega durante aula utilizando computador institucional. O sistema de monitoramento escolar Gaggle detectou a consulta e acionou autoridades policiais imediatamente. O caso intensifica debates nacionais sobre segurança juvenil em plataformas de inteligência artificial, especialmente após suicídio recente vinculado a chatbots gerando ações judiciais.
A OpenAI respondeu implementando controles parentais mediante consentimento bilateral: adolescentes e responsáveis conectam contas permitindo ativação de filtros de conteúdo, limitação temporal de uso, desativação de memória conversacional e exclusão de dados para treinamento algorítmico. Contudo, Geoffrey A. Fowler do Washington Post identificou vulnerabilidades críticas em minutos: basta logout da conta monitorada e criação de perfil alternativo no mesmo dispositivo.
Testes adicionais revelaram falhas nos filtros imagéticos e atrasos de até 24 horas nas notificações parentais — latência potencialmente fatal em situações emergenciais. Especialistas classificam medidas como progresso inicial, não solução definitiva. A limitação evidencia dilema entre acessibilidade tecnológica e salvaguardas efetivas, especialmente considerando habilidade técnica crescente de adolescentes para contornar restrições digitais convencionais.
