Notas XXXI sobre Contratación Pública: Inteligencia artificial en el ámbito educativo, algoritmos,… ¿y su control?

El pasado 31 de agosto el Consello de la Xunta en su reunión semanal (aunque en verano siempre hay alguna menos, jeje) aprobó un informe para presentar/lanzar «EdugalIA», un proyecto para incorporar la Inteligencia Artificial a la «Gobernanza» del sistema educativo. Y digo a la Gobernanza, porque en el ámbito formativo ya lleva unos años ocupando titulares, sin perjuicio de su despliegue efectivo o no. La reseña del acuerdo puede consultarse en las páginas 33 y siguientes del archivo pdf del enlace: https://www.xunta.gal/c/document_library/get_file?folderId=31605&name=DLFE-51109.pdf

En la práctica, el informe suponía la publicidad previa (con el alcance en prensa, RRSS,… de los acuerdos del Gobierno) de la consulta preliminar del mercado (art. 115 de la LCSP) para decidir cómo aplicar la IA a las grandes decisiones de la política educativa. O eso parece, porque las demás cuestiones que se plantean en el informe «unificar datos, digitalización, plataforma de comunicación familias-docentes,…» ya tienen actualmente una solución (o varias) en la Administración autonómica (Abalar,…). Mejorables, sin duda, pero ya existen.

Y la cuestión de un único expediente educativo, después de hacer recientemente un traslado de expediente de primaria a Secundaria «en papel», con toda la digitalización de datos de asistencia, cualificaciones, etc, que ya constaban en Abalar y en los demás sistemas de datos de educación, parece obedecer simplemente a la conocida regla constitucional de «siempre se ha hecho así», o al gusto por la firma «tradicional» para título y oficios de algunas personas dentro de la administración.

Además, esta cuestión de la IA aplicada al sistema educativo también me suena de fecha recientes, en concreto de finales de 2021, porque creo recordar que el Premio de emplead@s públicos innovadores de la III edición que se concedió a finales de 2021 proponía ya la aplicación de «métricas» y algoritmos en el ámbito educativo (como se puede comprobar en el enlace del Diario Oficial porque el enlace al proyecto premiado no lo he encontrado): https://www.xunta.gal/dog/Publicados/2022/20220104/AnuncioG0198-171221-0001_es.html

Y como siempre en contratación pública, pero sobre todo cuando suma con la innovación,…, lo más importante es ir a la «fuente», ¿qué se propone contratar? La consulta preliminar del mercado puede descargarse del perfil de la Consellería competente: https://www.contratosdegalicia.gal/resultadoAnuncios.jsp?N=327

El producto debe ser novedoso, por supuesto, no pudiendo tratarse de soluciones de mercado que ya se comercialicen actualmente, lo cual sería realmente novedoso, de no ser porque se incluye una «puerta de atrás» al permitir soluciones ya comercializadas pero yendo «más allá de sus soluciones actuales proponiendo desarrollos y funcionalidades innovadoras que no estén en el mercado». Buf… difícil distinguir esta opción del párrafo anterior que permite «incluir funcionalidades o soluciones complementarias, siempre y cuando acerquen valor en el marco estratégico expuesto».

Pero en concreto ¿qué se incluye de IA? Del análisis de la documentación publicada en el perfil, podemos comprobar que uno de los retos prioritarios es:

«Disponer de sistemas que implementen algoritmos avanzados de análisis de la información disponible para la evaluación y reporte la diferentes niveles de gestión (principalmente direcciones generales, subdirecciones generales, jefaturas de servicio y asesorías) para evaluar: los factores que inciden en el abandono temprano y fracaso escolar a nivel predictivo; la vulnerabilidad del entorno de cada centro educativo para la priorización de recursos para la atención de necesidades específicas de apoyo educativo y la optimización de la distribución de recursos orientados a su atención».

Y como en todo lo que tiene que ver con algoritmos y más en la atención directa a la ciudadanía: «debe abordarse de forma íntegra la problemática del sesgo en sistemas de inteligencia artificial, para que los posibles modelos no reflejen perjuicios o inclinaciones hacia ciertos perfiles, y que esto no afecte al funcionamiento ni los resultados, por lo que se prestará especial atención en las estrategias propuestas para la mitigación de estos riesgos». Salvo error, se echa en falta una cita específica a las Orientaciones éticas de la Comisión en la materia, que pueden consultarse en el siguiente enlace: https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en

Pero la pregunta es: ¿Quién va a auditar estos algoritmos? ¿Quién tiene la preparación, formación, experiencia,… dentro o fuera de la Xunta de Galicia o de cualquier administración pública para auditar los algoritmos que resulten de todo este proceso? Porque la idea puede ser una fuente de beneficios y/o problemas, pero quién va a velar porque, como exige la UNESCO, se garantice «una utilización ética, transparente y comprobable de los datos y algoritmos de la educación»: https://es.unesco.org/themes/tic-educacion/inteligencia-artificial

El Tribunal de Cuentas de Países Bajos (NCA) ha desarrollado un marco de auditoría para algoritmos que puede resultar de utilidad para quien tenga que asumir estas funciones en un futuro muy próximo. Todo ello parte de un informe de principios de 2021: https://english.rekenkamer.nl/publications/reports/2021/01/26/understanding-algorithms

Toda la información de su trabajo y el marco de auditoría desarrollado se encuentran publicados (e incluidos desde la 1ª edición en el curso de la Escola Galega de Administración Pública – EGAP sobre fondos Next Generation cuya 8ª edición empieza en un par de semanas): https://english.rekenkamer.nl/publications/publications/2021/01/26/audit-framework-for-algorithms

Por último, lo que preocupa realmente a la ciudadanía, aunque puede no ser lo más relevante… ¿cuánto me va a costar esto? De acuerdo con la documentación del expediente se estima un coste para el proyecto definitivamente seleccionado de entre 5 y 10 millones de euros. ¿Por qué esa cifra? De momento en el expediente publicado no hay más información.

¿Y por qué esta «inquina/insistencia» en qué se controle y audite todo? Porque coincido en que todo lo que se mide y se analiza (sin sesgos), suele mejorar. Pero en el ámbito educativo, tampoco querría que se impidiese el clásico ejemplo de estudiante que, a pesar de algoritmos que los desterraban de cualquier éxito académico y que recomendaban no invertir un segundo de tiempo ni un euro, consiguió su objetivo.

Porque en ocasiones los algoritmos se equivocan, y quien los alimenta con sesgos, más.

De conflictos de intereses en los Fondos Europeos… y de sentencias de aquí y de allá

4 años no es nada… Y por eso quería celebrar estos días que ya llevo desde marzo de 2018 insistiendo en la gestión diligente de los recursos públicos. Es cierto que han sido semanas muy complicadas, que empezaron con la emoción del Carnaval (el sagrado Entroido ourensano) y su posterior recuperación, pero todo se ha complicado con la invasión y no sé si escribir de contratación y fondos europeos tiene mucho interés. Pero como la prensa ha puesto los conflictos de intereses en los titulares, voy a aprovechar para tratar «desmitificar» que sea tan novedoso su control.

Para ello aprovecharé una sentencia cuyo fallo se publicó en el DOUE de 28/02/2022 «Sentencia del Tribunal General de 21 de diciembre de 2021 — EKETA/Comisión». La sentencia (a diferencia de otras que después citaré) es muy clara y detallada sobre la cuestión de los conflictos de intereses y se encuentra disponible en el siguiente enlace con la traducción de google y con algunos subrayados y colorines de «servidor».

La sentencia analiza 3 cuestiones muy interesantes con matices y conclusiones que pueden ser de noticia para la prensa, pero que fueron detectadas hace más de una década, sin necesidad de fondos NextGeneration, MRR, plan antifraude y demás:

  1. Fiabilidad de los registros de tiempo (cuando hay dudas sobre la existencia de vinculación, etc)
  2. Conflicto de intereses
  3. Subcontratación y su necesidad

Las tres cuestiones guardan más relación de la que le gustaría a algunas personas, pero ninguna de las 3 supone la novedad que la consultoría más avezada quiere ver. Y no son novedades, porque de alguna u otra forma ya estaban en nuestro ordenamiento jurídico, pero con falta de voluntad para aplicarlas.

La Ley General de Subvenciones lleva muchos años recogiendo en su artículo 29.7 la imposibilidad de subcontratar con entidades vinculadas (y de contratar también) porque, entre otras cuestiones, afecta al valor de mercado de los gastos justificados (por eso exige valor de mercado autorización expresa la subcontratación con entidades vinculadas). Y ello porque las normas se interpretan según su literalidad pero también según su sentido, y el límite de valor de mercado a subvencionar que recoge la Exposición de motivos de la Ley y su artículo 31, se ven claramente afectados cuando aceptamos sin más un gasto entre entidades vinculadas o con la participación de personas vinculadas, porque claramente existe un conflicto de intereses. Y eso que en la contratación pública parece que lo queremos ver ahora con DACI’s (declaraciones de ausencia de conflictos de intereses), pero ya existía con la sola aplicación de los principios generales de la normativa de contratación, en materia de subvenciones lleva años sobre la mesa.

¿Pero cuál es la diferencia? La diferencia es que ahora tenemos instrumentos, aplicaciones, hackers,… que analizan millones de datos y nuestros resultados son mucho más visibles y de forma más inmediata.

Y por eso, esta sentencia no es tan reciente y novedosa. Porque esos controles en los expedientes cofinanciados con fondos europeos ya eran desde hace años obligatorios pero no se leía la letra de los Reglamentos con la intención que se redactaba en Bruselas. Sin embargo, para que quede claro cómo se aplica la normativa de conflictos de intereses por los auditores europeos desde hace una década (o más) debemos partir del párrafo 5 que fija como una de las obligaciones del Convenio de subvención:

«tomar todas las medidas de precaución necesarias para evitar cualquier riesgo de conflicto de intereses, en términos de intereses económicos, afinidades políticas o nacionales, vínculos familiares o afectivos o cualquier otro tipo de interés, susceptible de comprometer la ejecución imparcial y objetiva del proyecto e informar a la Comisión sin demora de cualquier situación que pudiera dar lugar a dicho conflicto de intereses»

Para acreditar la existencia de conflicto de intereses que restaba fiabilidad a los registros de tiempo, en el párrafo 17 se señala como ejemplo las relaciones personales y empresariales entre los investigadores y su trabajo en paralelo en diferentes proyectos (y a qué nos puede sonar esto…):

«En cuanto a los costes de personal, los auditores observaron que los investigadores asignados al proyecto Ask-it trabajaban en paralelo en otros proyectos o tenían otras ocupaciones profesionales. Según los auditores, la importancia de estas actividades profesionales paralelas socavaba la plausibilidad de los registros de tiempo de los investigadores. Además, los auditores también señalaron la existencia de un conflicto de intereses y relaciones muy estrechas entre algunos de los investigadores y el líder del proyecto Ask-it, (…)»

Pero ¿y si hay una investigación previa de la OLAF o de la EPPO (como hoy mismo parece que se producirá en algún asunto relevante) y se cierra sin consecuencias penales? El Tribunal es claro en los párrafos 68 y 69, se basa en las constataciones de los equipos de auditoría. Y son suficientes para recuperar la financiación.

Es más, ¿y si no se acredita el efectivo conflicto de intereses? El Tribunal vuelve a concluir (p. 65) que no importa, la simple ausencia de un mecanismo para prevenir los conflictos de intereses ya supone la procedencia de recuperar los fondos europeos.

Pero, ¿qué ejemplos de conflictos de intereses llevaron a esta sentencia? Los parrafos 94 y siguientes concluyen que la doble condición de investigador de proyectos de una de las personas, la participación en una empresa de un investigador con la ex mujer de otro de los investigadores,… toda una serie de ejemplos que parecerán increíbles a aquellos que afirmaban que no había conflicto de intereses si participan en una mesa de contratación y licitaba una empresa en la que trabajaba su pareja. Pues va a ser que sí.

En resumen, una sentencia que además pone en duda la necesidad de realizar subcontrataciones no fundamentada (no valor añadido, no valor de mercado, con vinculaciones, etc) y con otras cuestiones que la prensa pone en titulares cuando ya debería ser parte del acervo comunitario que aplicamos (que deberíamos tener «integrados»). Sirvan como ejemplos los párrafo 123, 127 y 124 (éste último sobre costes indirecto y directos)

Y celebrados los 4 años con esta humilde aportación que espero sea de utilidad, para finalizar la vuelta “al tajo”, haré un reflexión sobre la sentencia del Tribunal Superior de Justicia que ha desestimado el recurso de apelación en mi cese por haber solicitado el teletrabajo (y tener un silencio positivo que me lo concedía). A quien venga a leer sobre fondos europeos ya puede dejar de leer, jeje. Prometo colgarla cuando aparezca en el CENDOJ (si no está ya).

Sólo diré que habiendo sido cesado al reincorporarme de mis vacaciones por no renunciar al teletrabajo obtenido por silencio, me sorprendía que la sentencia de instancia no valorase este extremo. El TSJ me dice que efectivamente debo entender que el tribunal de instancia desestima esta pretensión… cosa obvia como podía intuir de la lectura de la sentencia apelada. Pero para que no queden dudas (¿ni posibles instancias?), el TSJ concluye que efectivamente al no haber resolución desfavorable en plazo, la petición se habría estimado por silencio positivo y eso significa que… ¿yo tenía razón? No creo…

No hay texto alternativo para esta imagen

Pues no tenía razón. No. Y por eso es tan importante mantener la Filosofía como asignatura en bachillerato y en la carrera de derecho. Porque a pesar de existir un procedimiento regulado para conceder el teletrabajo por silencio positivo, “insistir en ello” (sólo lo pedí una vez, que conste) y obtener un derecho, y que me cesen para impedir que lo disfrute, no es un cese con desviación de poder, no. Es un cese motivado en la pérdida de confianza por intentar ejercer un derecho adquirido por silencio.

No hay texto alternativo para esta imagen

Y eso es algo que, habiendo analizado cualquier sencillo silogismo, no parece posible afirmar y menos en una sentencia. Por aclarar la filosofía de BUP:

–         Si hay un derecho adquirido por silencio, el informe negativo previo (y/o vacío de contenido) no opera.

–         Si el cese se produce en la semana que se ha adquirido el derecho por silencio, el objetivo parece ser no ejercer ese derecho. La causa del cese no es la pérdida de confianza, que se ha mantenido durante los meses de trámite de la solicitud hasta el silencio.

Pero si 3 personas “doctas en derecho” lo afirman sin dudas en esta sentencia, todo lo que pueda yo opinar es opinión “de parte”, fruto de mi evidente CONFLICTO DE INTERESES. Porque es evidente que en cuestión de plazos, posibles conflictos de intereses y momentos para un cese, la reciente “opinión” de algunos tribunales es «clara» (a la vista de las recientes noticias).

Así que lo de menos es que sin existir en mi opinión prueba alguna a lo largo de los “dos procesos”, se concluya que la carga de trabajo fuese menor, algo que no es cierto pero que nadie ha querido comprobar/acreditar aunque se “deje caer” (esos titulares pandémicos de “seguimos al 100% y con los pagos al día”…).

También es poco relevante lo de “asumir el discurso fáctico» de la Administración, ya que es muy de la “Era Covid” (algo hemos leído estos días también de cómo está “escalando” esta cuestión).

Pero el colmo, si lo hay, es que ni parezcan haber leído la documentación (que seguro que sí lo han hecho) para concluir que, aún cuando el propio día de mi cese (y en otras ocasiones anteriores) firmaba Sanidad y Hacienda a la vez como en otras ocasiones ya había hecho con otras áreas, “no puede considerarse una muestra de que el trabajo pueda realizar mediante teletrabajo”.

Claro que no, lo que demuestra es que la pérdida de confianza en las razones de capacidad que llevaron a nombrarme interventor se debieron perder el día 18 por la noche, y eso es lo que se alegaba tanto en el primer recurso como en la apelación. Porque entender que eso se apelaba para probar el teletrabajo es entender que asistir a mesas de contratación por vídeoconferencia desde el despacho es teletrabajar. Y eso se hace desde cualquier despacho de intervención, y no es teletrabajo. Este párrafo que sigue, por si había dudas, descarta un sesudo análisis jurídico como muleta para torearme…

No hay texto alternativo para esta imagen

Y a pesar de que el silencio se produjo (como no afirmaba la sentencia contra la que se apelaba), a pesar de que la insistencia fue «UN ÚNICO» procedimiento cuyo resultado reglado no se respetó, a pesar de que la confianza se debió perder en una noche… el TSJ además me impone las costas. Y el cachondeo con la que está cayendo en las noticias al menos me sirve para evadirse un poco.

Y como me condenan por mi «insistencia», ésta y mi coherencia son heredadas; no las borran unas costas y una sentencia como la notificada. Otras/os presumen de contactos en las altas esferas pero ratean lo que pueden, y son gigantes con pies de barro a los que abandonan en las esquinas cuando cambia el aire de dirección.

Lo dicho, cada persona va a trabajar cada día con lo que es en su vida. Si no hay, no se adquiere por entrar en un edificio administrativo o asumir unas responsabilidades de relevancia. Queda mucha vida administrativa… y habrá más ocasiones. Y allí estaremos de nuevo, no lo duden, para retratarnos cada uno como lo que somos.