Administración y control

El pasado 31 de agosto el Consello de la Xunta en su reunión semanal (aunque en verano siempre hay alguna menos, jeje) aprobó un informe para presentar/lanzar «EdugalIA», un proyecto para incorporar la Inteligencia Artificial a la «Gobernanza» del sistema educativo. Y digo a la Gobernanza, porque en el ámbito formativo ya lleva unos años ocupando titulares, sin perjuicio de su despliegue efectivo o no. La reseña del acuerdo puede consultarse en las páginas 33 y siguientes del archivo pdf del enlace: https://www.xunta.gal/c/document_library/get_file?folderId=31605&name=DLFE-51109.pdf

En la práctica, el informe suponía la publicidad previa (con el alcance en prensa, RRSS,… de los acuerdos del Gobierno) de la consulta preliminar del mercado (art. 115 de la LCSP) para decidir cómo aplicar la IA a las grandes decisiones de la política educativa. O eso parece, porque las demás cuestiones que se plantean en el informe «unificar datos, digitalización, plataforma de comunicación familias-docentes,…» ya tienen actualmente una solución (o varias) en la Administración autonómica (Abalar,…). Mejorables, sin duda, pero ya existen.

Y la cuestión de un único expediente educativo, después de hacer recientemente un traslado de expediente de primaria a Secundaria «en papel», con toda la digitalización de datos de asistencia, cualificaciones, etc, que ya constaban en Abalar y en los demás sistemas de datos de educación, parece obedecer simplemente a la conocida regla constitucional de «siempre se ha hecho así», o al gusto por la firma «tradicional» para título y oficios de algunas personas dentro de la administración.

Además, esta cuestión de la IA aplicada al sistema educativo también me suena de fecha recientes, en concreto de finales de 2021, porque creo recordar que el Premio de emplead@s públicos innovadores de la III edición que se concedió a finales de 2021 proponía ya la aplicación de «métricas» y algoritmos en el ámbito educativo (como se puede comprobar en el enlace del Diario Oficial porque el enlace al proyecto premiado no lo he encontrado): https://www.xunta.gal/dog/Publicados/2022/20220104/AnuncioG0198-171221-0001_es.html

Y como siempre en contratación pública, pero sobre todo cuando suma con la innovación,…, lo más importante es ir a la «fuente», ¿qué se propone contratar? La consulta preliminar del mercado puede descargarse del perfil de la Consellería competente: https://www.contratosdegalicia.gal/resultadoAnuncios.jsp?N=327

El producto debe ser novedoso, por supuesto, no pudiendo tratarse de soluciones de mercado que ya se comercialicen actualmente, lo cual sería realmente novedoso, de no ser porque se incluye una «puerta de atrás» al permitir soluciones ya comercializadas pero yendo «más allá de sus soluciones actuales proponiendo desarrollos y funcionalidades innovadoras que no estén en el mercado». Buf… difícil distinguir esta opción del párrafo anterior que permite «incluir funcionalidades o soluciones complementarias, siempre y cuando acerquen valor en el marco estratégico expuesto».

Pero en concreto ¿qué se incluye de IA? Del análisis de la documentación publicada en el perfil, podemos comprobar que uno de los retos prioritarios es:

«Disponer de sistemas que implementen algoritmos avanzados de análisis de la información disponible para la evaluación y reporte la diferentes niveles de gestión (principalmente direcciones generales, subdirecciones generales, jefaturas de servicio y asesorías) para evaluar: los factores que inciden en el abandono temprano y fracaso escolar a nivel predictivo; la vulnerabilidad del entorno de cada centro educativo para la priorización de recursos para la atención de necesidades específicas de apoyo educativo y la optimización de la distribución de recursos orientados a su atención».

Y como en todo lo que tiene que ver con algoritmos y más en la atención directa a la ciudadanía: «debe abordarse de forma íntegra la problemática del sesgo en sistemas de inteligencia artificial, para que los posibles modelos no reflejen perjuicios o inclinaciones hacia ciertos perfiles, y que esto no afecte al funcionamiento ni los resultados, por lo que se prestará especial atención en las estrategias propuestas para la mitigación de estos riesgos». Salvo error, se echa en falta una cita específica a las Orientaciones éticas de la Comisión en la materia, que pueden consultarse en el siguiente enlace: https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en

Pero la pregunta es: ¿Quién va a auditar estos algoritmos? ¿Quién tiene la preparación, formación, experiencia,… dentro o fuera de la Xunta de Galicia o de cualquier administración pública para auditar los algoritmos que resulten de todo este proceso? Porque la idea puede ser una fuente de beneficios y/o problemas, pero quién va a velar porque, como exige la UNESCO, se garantice «una utilización ética, transparente y comprobable de los datos y algoritmos de la educación»: https://es.unesco.org/themes/tic-educacion/inteligencia-artificial

El Tribunal de Cuentas de Países Bajos (NCA) ha desarrollado un marco de auditoría para algoritmos que puede resultar de utilidad para quien tenga que asumir estas funciones en un futuro muy próximo. Todo ello parte de un informe de principios de 2021: https://english.rekenkamer.nl/publications/reports/2021/01/26/understanding-algorithms

Toda la información de su trabajo y el marco de auditoría desarrollado se encuentran publicados (e incluidos desde la 1ª edición en el curso de la Escola Galega de Administración Pública – EGAP sobre fondos Next Generation cuya 8ª edición empieza en un par de semanas): https://english.rekenkamer.nl/publications/publications/2021/01/26/audit-framework-for-algorithms

Por último, lo que preocupa realmente a la ciudadanía, aunque puede no ser lo más relevante… ¿cuánto me va a costar esto? De acuerdo con la documentación del expediente se estima un coste para el proyecto definitivamente seleccionado de entre 5 y 10 millones de euros. ¿Por qué esa cifra? De momento en el expediente publicado no hay más información.

¿Y por qué esta «inquina/insistencia» en qué se controle y audite todo? Porque coincido en que todo lo que se mide y se analiza (sin sesgos), suele mejorar. Pero en el ámbito educativo, tampoco querría que se impidiese el clásico ejemplo de estudiante que, a pesar de algoritmos que los desterraban de cualquier éxito académico y que recomendaban no invertir un segundo de tiempo ni un euro, consiguió su objetivo.

Porque en ocasiones los algoritmos se equivocan, y quien los alimenta con sesgos, más.