Gaggle, sistema usado para monitorar as atividades virtuais de estudantes detectou mensagem
Um adolescente americano de 13 anos foi detido pela polícia após utilizar o ChatGPT para saber como matar um amigo no meio da aula. O caso aconteceu no final de setembro na Southwestern Middle School, escola que fica na cidade de DeLand, no estado americano da Flórida (EUA).
Segundo a delegacia do condado de Volusia, que divulgou o caso nas redes sociais, o policial responsável pela segurança escolar recebeu um alerta do Gaggle, sistema usado para monitorar as atividades virtuais de estudantes, que detectou a mensagem.
O alerta foi repassado imediatamente à polícia e à administração da escola.
Ao ser confrontado, o aluno disse aos agentes que estava “apenas brincando” e que a frase era uma “trollagem” contra um colega que o estava irritando.
O garoto foi detido e encaminhado para o centro de custódia responsável pelo processamento de menores de idade no condado, onde aguarda decisão do juiz.
Ferramenta utilizada pela polícia
A Gaggle verifica contas emitidas pela escola e sinaliza conteúdos considerados “preocupantes”. Utilizando inteligência artificial, a ferramenta escaneia documentos e e-mails dos alunos dos ensinos fundamental e médio em busca de sinais de comportamento inseguro.
Fonte: Terra
