IA en el aula y datos de menores: las cuatro preguntas que un centro debe hacer antes de dejarla entrar

Clyra no le pregunta a ningún alumno cómo se llama. No es una promesa: es que no hay ninguna casilla donde escribirlo. Empiezo por ahí porque es la respuesta a la primera de las cuatro preguntas que un centro debería hacerle a cualquier herramienta de inteligencia artificial antes de dejarla entrar en un aula. Incluida la mía.

Por qué ahora

El Plan IA360 dice que la protección de los menores es una prioridad y anuncia más supervisión sobre la IA que llega a los chavales. Bien. Pero un director no puede esperar a que esa supervisión exista para decidir qué usan sus alumnos este curso. Lo que sí puede hacer es preguntar. Y el proveedor que no sepa contestar en una página, por escrito, no debería entrar.

Las cuatro preguntas

Uno. ¿Qué le pide al alumno? Nombre, correo, una cuenta, una contraseña, una foto. Cada dato que se pide es un dato que hay que proteger después. La mejor protección es que no haya nada que proteger.

Dos. ¿Por dónde pasa lo que escribe, y quién puede entrenar con ello? Casi ninguna herramienta de IA funciona sola: lo que el alumno escribe viaja a uno o varios proveedores de modelos. Hay que saber cuáles, dónde están y si tienen prohibido usar esos textos para entrenar. Si el proveedor no publica esa lista, es que no quiere que la leas.

Tres. ¿Quién responde ante las familias? Cuando una herramienta trata datos de alumnos por encargo de un centro, el responsable es el centro y el proveedor trabaja para él, con un contrato que lo obliga. Si el proveedor te dice que los datos son suyos, o que las familias tienen que dirigirse a él, algo está mal montado.

Cuatro. ¿Qué ve el alumno? Una calificación que sale de un algoritmo. Un ranking con sus compañeros. Una notificación a las diez de la noche. Una racha que se pierde si no entra mañana. Todo eso está diseñado para que vuelva, y un chaval de primero vuelve. Pregunta qué ve el alumno y qué le hace sentir.

Las respuestas de Clyra

Uno. El alumno entra con un código de seis caracteres que le da su profesor. Sin nombre, sin correo, sin cuenta. Si el centro conecta su Google Classroom para que el profesor vea a quién corresponde cada código, los nombres se piden a Google al mostrarlos y no se guardan; de cada alumno queda un identificador que no permite reconstruir su nombre. Esas etiquetas son del profesor, y él las controla.

Dos. Lo que escribe el alumno pasa por proveedores de IA que tienen prohibido entrenar con ello, y la lista está publicada en la página de subencargados, con quién es cada uno y dónde está. Es una lista que revisamos, porque los proveedores cambian sus condiciones y hay que mirarlo.

Tres. Clyra trata los datos por cuenta del centro. El centro decide y responde ante las familias; nosotros trabajamos para él y le ayudamos a contestar. Lo que se guarda se borra a los dieciocho meses de la última actividad, y el borrado se puede pedir antes.

Cuatro. El alumno no ve nunca una nota. El profesor recibe lo que el alumno escribió, citado tal cual, y decide él. No hay ranking, no hay app, no hay notificaciones, no hay racha. Y antes de empezar, el alumno lee que va a hablar con una inteligencia artificial y que puede equivocarse.

La protección de la que nadie habla

Hay una quinta protección que no cabe en ningún contrato y que es la que más me importa. La sesión de Clyra pasa en clase, con el profesor delante, y dura lo que dura una unidad: una vez. El profesor lee todo lo que escribe cada alumno, y el alumno lo sabe antes de escribir la primera línea. Sin el profesor delante sería un juego; con el profesor delante es educación. Cuando suena el timbre, la narradora no le sigue a casa. No hay nada que abrir a las once de la noche.

Esa es la diferencia entre una herramienta que quiere que el alumno vuelva y una que quiere que el alumno piense una hora y se vaya. Las dos pueden cumplir la ley. Solo una protege al chaval de verdad.

Lo que queda por exigir

Las cuatro preguntas no cambian con el plan. Lo que cambia son las respuestas de cada proveedor, y hay que volver a hacérselas cada curso, porque las condiciones se mueven. Las nuestras, con qué guardamos, cuánto tiempo y quién lo ve, están en la página para el centro. Está escrita para que la lea un director, no un abogado.