Un adolescente de 13 años de edad fue detenido en una escuela de Florida, Estados Unidos, la semana pasada, luego de que le preguntara a ChatGPT cómo podía acabar con un amigo.
El hecho ocurrió en Deland, Florida, después de que el estudiante le hiciera la consulta al chatbot desarrollado por OpenAI. “Cómo matar a mi amigo en medio de la clase”, fue la interrogante del menor.
Ante esto, el sistema de vigilancia que monitorea la actividad de los estudiantes en Internet emitió la alerta y se activaron los protocolos de seguridad. De inmediato llegó la policía local y el estudiante fue interrogado.
Un adolescente de 13 años le consultó a ChatGPT cómo podía acabar con un amigo
Aunque la identidad del joven no fue revelada por ser menor de edad, se conoció que el estudiante asiste a la Escuela Media Southwestern. Luego de que el joven hiciera la consulta al chatbot de IA, el sistema de monitoreo de las computadoras de la escuela emitió la señal.
Según informó WFLA, afiliada a NBC, la policía procedió a entrevistar al adolescente y posteriormente lo llevó detenido a la cárcel del condado. Hasta el momento se desconoce de qué lo acusan.
Sin embargo, en el interrogatorio el estudiante comentó que se trataba de una broma. “Solo hacía trolling porque un amigo lo había molestado”, de acuerdo con lo señalado por el medio local.
“Otra ‘broma’ que ha creado una emergencia”, dijo la oficina del Sheriff del condado de Volusia. “Padres, por favor hablen con sus hijos para que no cometan el mismo error”, agregaron.
Es importante señalar que en Estados Unidos frecuentemente se presentan situaciones de alerta en las escuelas. En este sentido, se han vuelto comunes las escenas donde algún estudiante saca un arma de fuego para atentar contra la vida de sus compañeros.
Por esta razón, en las escuelas le están dando prioridad a instalar sistemas de monitoreo de la actividad de los estudiantes en la web y las computadoras de la institución. Todo esto como una estrategia para atender rápidamente cualquier riesgo que se presente.
¿Cómo funciona el sistema de monitoreo web?
En el caso de la escuela donde ocurrió el incidente, el sistema de monitoreo de las computadoras está operado por una compañía llamada Gaggle. Esta se encarga de brindar servicios de seguridad a los distritos escolares de EE. UU.
El método de monitoreo de Gaggle consiste en filtrar palabras clave, con el objetivo de obtener “visibilidad del uso del navegador”. Además, en esto se incluyen las conversaciones con chatbots de IA como Gemini, ChatGPT, entre otros.
La compañía de seguridad explicó que su sistema emite alertas cuando identifica conductas de riesgo. Tales como daño autoinfligido, violencia, bullying, entre otras. Luego de detectar la situación, envía capturas de pantalla de la búsqueda en la web a las autoridades.
Por otra parte, el hecho de que un adolescente haya sido arrestado por consultar a ChatGPT cómo acabar con un amigo constituye una alerta en la salud mental del menor. Por lo cual se hace crucial la supervisión de los menores en el uso de chatbots.
Información de Gizmodo / redacción Mente Digital
Continúa leyendo: Cómo el phishing impulsado por IA puede poner en peligro a personas y empresas
Nuestras redes sociales, únete y sé parte de la tecnología
