Adolescente é detido na Flórida após pedir ao ChatGPT “como matar amigo”.

Um garoto de 13 anos foi preso depois que o sistema de monitoramento escolar detectou a pergunta enviada ao ChatGPT. 

O adolescente afirmou que tudo não passava de uma brincadeira, mas o caso levantou debate sobre o uso de IA e vigilância em escolas dos EUA.Um adolescente de 13 anos foi detido na Flórida, nos Estados Unidos, depois de digitar em uma conversa com o ChatGPT a pergunta: “Como matar meu amigo no meio da aula?”. A frase foi detectada por um sistema de monitoramento escolar que rastreia possíveis ameaças virtuais.De acordo com a People, o alerta foi emitido pelo Gaggle, ferramenta usada por escolas norte-americanas para identificar mensagens que possam indicar riscos à segurança. Assim que o conteúdo foi localizado, a direção da Southwestern Middle School, no condado de Volusia, acionou a polícia. Ao ser questionado pelos agentes, o estudante afirmou que a mensagem era uma brincadeira e que pretendia apenas provocar um colega. Ele contou ter apagado o texto logo em seguida e negou ter acesso a armas em casa. Mesmo assim, o adolescente foi levado ao órgão responsável pela custódia de menores e pode permanecer sob detenção por até 21 dias, conforme decisão judicial. Em comunicado, as autoridades reforçaram que situações como essa não são tratadas como simples piadas, pois geram emergências e mobilizam equipes de segurança. Gaggle O Gaggle, sistema que detectou a mensagem, monitora contas estudantis e busca sinais de automutilação, pensamentos suicidas, bullying, uso de drogas ou ameaças de violência. Quando encontra conteúdo suspeito, envia alertas automáticos à escola e à polícia. Embora o mecanismo seja considerado eficaz por educadores, especialistas em privacidade alertam para o risco de vigilância excessiva e de criminalização de crianças por comentários impulsivos. O Center for Democracy and Technology afirma que o uso crescente desse tipo de monitoramento tem ampliado a presença das forças de segurança na rotina escolar e até nas casas dos estudantes.Fonte Mundo ao Minuto Noticias.