Tratamientos Empleando Sistemas de Inteligencia Artificial

El uso de sistemas de inteligencia artificial (IA) en el ámbito educativo representa una oportunidad para la innovación en la enseñanza y el aprendizaje. Estas tecnologías presentan un gran potencial para personalizar la educación y mejorar los métodos de evaluación. Sin embargo, su implementación viene acompañada de importantes retos, en particular en lo que respecta a la protección de los datos personales del alumnado y profesorado.

El tratamiento de datos personales empleando estos sistemas siempre deberá cumplir con el RGPD. Adicionalmente, determinados sistemas de IA se encontrarán regulados por el Reglamento de Inteligencia Artificial (RIA) (En el momento de la publicación de esta Guía, el RIA aún no ha sido publicado, el cual entrará en vigor en el plazo de 20 días tras su publicación y será aplicable en la mayoría de sus disposiciones a los dos años de esta. ). Bajo este Reglamento, ciertos usos de la IA estarán prohibidos en el entorno escolar, como los sistemas diseñados para inferir las emociones del alumnado, debido a los riesgos que podrían representar para la privacidad y los derechos fundamentales de los mismos. Además, sistemas de IA que se utilicen para determinar la admisión del alumnado, para evaluar sus resultados académicos o vigilar su comportamiento durante los exámenes, serán clasificados como de alto riesgo y estarán sujetos estrictos requisitos normativos antes de poder ser empleados.

En cualquier caso, el hecho de que un sistema de IA cumpla con los requisitos establecidos en el RIA no implicará automáticamente que su uso sea legal con arreglo al RGPD y la LOPDGDD. En consecuencia, se recomienda seguir las siguientes pautas de carácter general que facilitarán el cumplimiento del marco normativo de protección de datos:

Formar un equipo multidisciplinar desde las fases iniciales del proyecto.
Definir claramente la cadena de responsabilidad dentro del sistema de IA, asignando los roles específicos de responsable, encargado y subencargados de tratamiento.
Asegurar la licitud del tratamiento de datos, respetando el principio de limitación de la finalidad.
Realizar pruebas y validaciones previas al despliegue para minimizar errores y efectos discriminatorios en las personas.
Asegurar la lealtad y transparencia del tratamiento, asegurando que los interesados comprendan cómo serán tratados sus datos personales.
Establecer procedimientos adecuados para responder a solicitudes de ejercicio de los derechos de los interesados.
Establecer la vigilancia permanente de los efectos del uso del sistema de IA en las personas.
Realizar de forma temprana y periódica una evaluación de impacto relativa a la protección de datos detallada y rigurosa.