El director del Consejo de Transparencia y Protección de Datos de Andalucía, Jesús Jiménez, ha señalado hoy que la actividad del sector público se apoya cada vez más en soluciones tecnológicas, basadas en algoritmos, en su caso sistemas de inteligencia artificial, para avanzar en la denominada administración digital, un avance tecnológico “que no debe desvincularse del principio de legalidad, de la protección del interés público ni de los derechos y libertades de los ciudadanos”.
Así lo ha asegurado Jiménez durante su intervención en la mesa redonda ‘Profundizar en una administración pública más transparente, íntegra y participativa’ en el marco del Congreso de Innovación Pública, Novagob, que se celebra estos días en Cádiz, foro en el que ha precisado que “todo proyecto innovador ha de tener en cuenta diferentes realidades interrelacionadas y debidamente atendidas, como son la tecnología, la perspectiva jurídica, la transparencia y la protección de los datos personales, vinculadas estas dos últimas a la rendición de cuentas y a la protección de los derechos fundamentales”.
Para la consecución y el buen desarrollo de estos proyectos, ha relatado el director de la autoridad de control, es necesario conformar “equipos multidisciplinares” en el seno de la Administración que deben contar “con las estructuras institucionales al servicio de la transparencia y, sobre todo, con los delegados de protección de datos, que también habrán de velar por esta transparencia”. De la misma forma, ha remarcado la importancia de la existencia de una adecuada relación entre el responsable del desarrollo tecnológico y el responsable del tratamiento de los datos personales.
Desde el punto de la eficacia que la ciudadanía demanda a los poderes públicos, ha continuado Jiménez, “las ventajas de los procesos algorítmicos que ayudan a la toma de decisiones son evidentes, como evidentes son también sus riesgos”. Así, ha subrayado que el uso de determinadas tecnologías por las Administraciones Públicas, por sus especiales características, “ha dado lugar a la creación o percepción de un espacio oscuro, falto de luz, del que se puede incluso desconocer su alcance y dimensión”.
Transparencia y visibilidad
Por ello, en palabras del director, “es necesario dar transparencia y visibilidad al uso de herramientas tecnológicas, algorítmicas, en el sector público, de forma que se alcance un equilibrio adecuado entre la eficiencia, la complejidad técnica, el riesgo que genera en los derechos y libertades de las personas, los intereses públicos y privados afectados, y la transparencia necesaria o posible”.
“Las administraciones no se pueden permitir un espacio de oscuridad en la acción pública, sin regulación precisa, huérfano de control ciudadano ni jurisdiccional, bajo el pretexto de la complejidad de la materia a que se refiere”, ha enfatizado, para posteriormente apostar por “la construcción de un modelo, estándar de transparencia, de geometría diversa, perfectamente asumible por los poderes públicos”.
“El sector público necesita un espacio de certeza en el que adoptar decisiones de publicidad y explicación, con un contexto de seguridad jurídica, en el que la sociedad y las personas afectadas necesitan una protección adecuada y cierta de sus derechos”, ha remarcado.
En este sentido, ha advertido que “un espacio de oscuridad u opacidad en la acción pública tiene consecuencias como las vinculadas a la falta de transparencia, a la dificultad de la participación ciudadana en los asuntos públicos, al riesgo de vulnerar los derechos fundamentales y los asociados a la posible existencia de sesgos, determinantes de discriminación”.
Como respuesta a esta realidad, Jiménez ha apostado por la imposición de obligaciones de publicidad activa específicas al ser considerados estos elementos algorítmicos información pública, jurídicamente relevante. También ha trasladado la posibilidad de crear un Registro Público específico de herramientas algorítmicas usadas por la Administración como instrumento de transparencia.
De otro lado, ha defendido “la claridad, la precisión, la actualización, la comprensión y la relevancia” de la información a difundir, evitando que, por el volumen, por la forma en la que se ofrece, por las características técnicas o el alcance, se convierta en “una transparencia ilusoria que realmente estaría al servicio de la oscuridad”.
Por tanto, ha culminado Jiménez, todo proyecto tecnológico basado en algoritmos debería poner al alcance de la ciudadanía la información relativa a la decisión de utilización de la herramienta algorítmica, al objetivo de su uso, a la información de organización del proyecto, a las personas directa o indirectamente afectadas, a la documentación existente sobre la evaluación de los riesgos de derechos y libertades, particularmente en lo que se refiere a la protección de los datos personales, a los mecanismos específicos de rendición de cuentas y de transparencia, a la descripción de su diseño y funcionamiento y a las herramientas y métodos de explicabilidad de las decisiones algorítmicas, entre otros.