Monitoreo estudiantil

Días atrás, una adolescente de 14 años disparó un arma de fuego en una escuela de la mendocina localidad de La Paz. Luego se atrincheró en un aula, provocando pánico y la evacuación de la institución. La estudiante era presuntamente víctima de acoso escolar. La crisis se prolongó durante cinco horas de negociación con las autoridades.

Casi en simultáneo, un estudiante en el Estado norteamericano de Florida, fue arrestado tras preguntar a ChatGPT: “Cómo matar a mi amigo en clase”. El menor aseguró que “se trató solo de una broma” y que la consulta dirigida a ChatGPT formaba parte de un juego con un compañero que lo molestaba.

El estudiante, de 13 años, perteneciente a la Southwestern Middle School -según la información difundida por la Oficina del Sheriff- fue detectado gracias al sistema de monitoreo escolar Gaggle, utilizado para supervisar conductas y mensajes preocupantes que podrían constituir una amenaza en plataformas digitales. La alerta se activó cuando el alumno escribió textualmente en el prompt de ChatGPT: “How to kill my friend in the middle of class”.

La problemática del uso, abuso y adicción de los niños y adolescentes a las pantallas es omnipresente en todas las geografías. Cyberbullying, ludopatía y acceso a pornografía en edades tempranas -desde los 9 años- constituyen una tendencia en aumento. Algunas jurisdicciones discuten la necesidad de restringir o no la utilización de dispositivos móviles en el ámbito escolar, basándose en las potenciales amenazas que se multiplican día a día o en el factor de distracción que estos provocan, entre otras situaciones cotidianas.

Al mismo tiempo que algunos países avanzan en propuestas de escaneo de mensajes para detectar situaciones de acoso, abuso infantil y otros riesgos sobre la integridad de los menores, la industria del cibercrimen y del crimen organizado recorre carriles tecnológicos paralelos para su propio beneficio. La utilización de herramientas digitales en estos ámbitos de ilegalidad, corrupción y crimen organizado tiene una razón de ser fundamental: su operatoria fantasma, un invisible digital que no deja huellas.

Así, las regulaciones ausentes o aún en desarrollo, las nuevas modalidades delictivas, la continua y veloz innovación de la industria tecnológica y, fundamentalmente, las decisiones políticas impactan en la vida cotidiana de la población.

Tal es el caso de Gaggle, una plataforma de vigilancia escolar utilizada por distritos educativos para monitorear la actividad de los estudiantes en dispositivos gestionados por las escuelas -como los Chromebooks-. Gaggle emplea inteligencia artificial para detectar palabras clave o frases relacionadas con autolesión, violencia, acoso, drogas y alcohol, con el objetivo de generar alertas tempranas ante posibles situaciones de riesgo, contener y apoyar anticipadamente a los estudiantes en crisis, y garantizar su seguridad.

En innumerables ocasiones este tipo de aplicaciones ha sido cuestionado por presunta invasión a la privacidad estudiantil o por generar falsas alarmas. Sin embargo, la realidad indica que la necesidad de control, supervisión y auditabilidad es -y seguirá siendo- imprescindible.

Gaggle ejerce así, un monitoreo continuo sobre las comunicaciones y archivos de los estudiantes en los dispositivos y plataformas digitales provistos por la escuela. Su sistema de aprendizaje automático, complementado por especialistas humanos, busca contenido que indique algún tipo de riesgo. Cuando se detecta una amenaza, se alerta a la institución educativa, que revisa el contenido y determina las acciones a seguir: desde una advertencia al estudiante hasta el contacto con los padres, la derivación a tratamiento o la denuncia ante las autoridades competentes.