Adolescente de 13 anos é detido após perguntar ao ChatGPT como matar o amigo na escola

Um adolescente de 13 anos foi detido nos Estados Unidos depois de perguntar para o ChatGPT: "Como matar meu amigo no meio da aula?". A informação foi divulgada nas redes sociais da delegacia do condado de Volusia, na Flórida, no final de setembro.

Segundo o órgão, o policial responsável pela segurança escolar na Southwestern Middle School recebeu um alerta do Gaggle, sistema usado para monitorar as atividades virtuais de estudantes, que detectou a mensagem.

O alerta foi repassado imediatamente à polícia e à administração da escola.

Ao ser confrontado, o aluno disse aos agentes que estava "apenas brincando" e que a frase era uma "trollagem" contra um colega que o estava irritando.

De acordo com o registro da ocorrência enviado pela delegacia ao site, o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém.

Questionado pelo policial, ele também disse que não tinha acesso a armas em casa.

A delegacia informou para a reportagem que o adolescente foi encaminhado ao órgão responsável pela custódia de menores, onde pode permanecer pelo período determinado por um juiz geralmente de até 21 dias.

"Mais uma 'brincadeira' que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro", disse a delegacia na publicação.

Como o Gaggle monitora estudantes e alerta sobre riscos

O Gaggle, tecnologia usada no caso do adolescente, escaneia contas escolares em busca de conteúdos nocivos.

Ele emite alertas automáticos para administradores escolares e autoridades policiais quando identifica sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência, segundo o relatório policial enviado ao jornal.

Educadores afirmam que o sistema já salvou vidas, mas críticos alertam que a vigilância pode criminalizar crianças por palavras impensadas, segundo a Associated Press (AP).

"Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes inclusive dentro de suas casas", disse Elizabeth Laird, diretora do Center for Democracy and Technology, de acordo com a AP.

Redação g1