Pronto celebraré los 8 años en esta red social o «comunidad de prácticas». Para celebrarlo, recuperaré en esta ocasión un formato que creo que era bastante más aséptico como es el de analizar la aplicación práctica de la LCSP. Cuando pasé de la «nota XXXI» decidí abandonar los números romanos.
Tiendo a discutir ciertos proyectos de las AAPP, sin que nadie pueda considerar que lo hago como «voz autorizada» por ninguna de las AAPP para las que trabajo. Es opinión y experiencia, pero nunca informe oficial, que nos conocemos.
Estos años con la Inteligencia Artificial, me pasa como con otras novedades que creo que siempre pagamos (por no hacer desarrollos internos) mucho más de la utilidad que obtenemos.
Pasó con el blockchain (y el cardamomo) y lo comenté hace años: ¿qué aplicabilidad práctica ha tenido en sus 7 años de titulares)?
Y ahora, la réplica con una repercusión mucho mayor, la está dando la IA (y el asaí). Por seguir con analogías alimenticias, para ver cómo son las modas, al igual que el cardamomo colonizó los gintonics de hace una década, el asaí coloniza el tardeo de los adolescentes hoy. Es evidente que mejor fruta que ginebra, pero también es evidentes que es una moda que ya analizaba la prensa hace 7 años (https://www.bbc.com/mundo/vert-tra-46477558), pero que ha llegado a España en los últimos 2 años de la mano de «influencers», por supuesto (https://www.tapasmagazine.es/el-boom-del-acai-del-desayuno-favorito-de-kim-kardashian-a-la-tendencia-global/)
Evidentemente, el impacto de la IA no es comparable al blockchain, pero ya llevamos 2 años desarrollando proyectos (muchos de los cuales quedan en pilotos o degeneran de IA a meros formularios y chats escasamente alimentados (https://www.linkedin.com/pulse/notas-xxxi-sobre-contrataci%25C3%25B3n-p%25C3%25BAblica-inteligencia-en-alvarez-somoza/?trackingId=VIRmdIbUSRqF%2F6W%2B5vnvrQ%3D%3D).
Por eso no es de extrañar que la Sanidad pública haya acudido también al uso, al menos como proyecto piloto, de la IA. Las noticias de las últimas horas sobre un chat de IA conectado al historial médico en Galicia (https://www.farodevigo.es/galicia/2025/11/16/medicos-galicia-ahorraran-tiempo-ia-paciente-123761047.html?utm_source=newsletter&utm_campaign=guitar&utm_medium=email&utm_term=4986&iU=7fdb6fc4-6b6d-4602-99a2-5ecb9552eb4c&fN=4a6173&dd=20251116), exigen analizar los expedientes en marcha.
Nada es «gratis ni sencillo» en el uso de la IA, y debemos indicar que la noticia magnifica un proyecto que está todavía en pañales. Buscar el «clickbait» con una pregunta de estilo ¿Tengo que partir la pastilla? es legítimo porque aparece como tal en los propios pliegos, pero hay que darle contexto. Más aún si el enlace a la noticia contiene las palabras clave «médicos-Galicia-ahorrarán-tiempo-pacientes-ia». Eso es adelantar resultados o impacto de una licitación aún en precario, no dar información.
Dar contexto exige analizar la contratación puesta en marcha por el Sergas, que se encuentra «pendiente de adjudicar» en la web de «contratosdegalicia»:
https://www.contratosdegalicia.gal/licitacion?N=825969
En primer lugar, aún no está ni adjudicada y su objeto es «Servicios de desarrollo de asistentes virtuales con plataforma/s de inteligencia artificial generativa, sobre la/s que se desarrollarán como mínimo los casos de uso recogidos en el PPT». Pero es una contratación de diseño, pero no de equipamientos asociados, como señala el propio pliego cuando indica «El hardware necesario requerido queda fuera del alcance del expediente (aunque deberá identificarse como requisito asociado al desarrollo de los asistentes virtuales)».
El valor de la licitación es de 1,3 millones de euros, cifra nada desdeñable, es cierto. Pero son más las dudas que pretende plantear y resolver, que el servicio que se pondrá en marcha al menos a corto plazo. Y será un servicios complejo, porque la casi decena de archivos de consultas que se han realizado dan prueba de ello. Además, las respuestas a las consultas muestran algunas posibles debilidades, como la consulta sobre el volumen esperado de usuarios y carga de trabajo:
La respuesta a esta consulta se despacha con estadísticas de descarga de la App Sergas móbil, que ni es el volumen de usuarios esperado porque este servicios permitirá el acceso del personal de Gergas y de las personas pacientes de los servicios sanitarios.
Y eso, evidentemente no se mide como nº de apps descargadas, porque el personas Sergas accede a través de otros sistemas de información, ni responde al volumen de consultas previstas de la ciudadanía. Es un clásico modelo de respuesta a dudas de los pliegos, conocida como ¿A dónde vas? ¡Manzanas traigo!
La IA puede recibir de un paciente «motivado» 100 consultas en una noche de ansiedad (si se produce otro apagón, por ejemplo). O piensen en el volumen de consultas a la IA oficial del Sergas si se publicase la posible incidencia en la producción de una grave enfermedad por un medicamento recetado habitualmente, aunque fuese una «noticia no contrastada».
Por último, puede resultar interesante analizar la procedencia de usar como criterio de adjudicación, con el 50% del total de puntuación, la «resolución de un supuesto práctico» formulado por la empresa y acorde con los requerimientos técnicos de la IA licitada («asistentes virtuales»). Es complejo valorar técnicamente una propuesta de este calibre, pero salvo error, no resultan fácilmente accesibles cuáles son los criterios de resolución de dicho supuesto práctico, que seguramente será la puntuación que decidirá la empresa adjudicataria.
Pero quizás en este caso concreto de aplicación de la IA a la actividad de una administración pública, y más en concreto sanitaria, se me ocurren al algunas preguntas o dudas:
1.- ¿Responderá la arquitectura contratada a los requisitos de seguridad, aún poco garantizados, del uso de IA? (https://www.infobae.com/tecno/2025/07/31/asi-es-como-otras-personas-pueden-encontrar-tus-conversaciones-con-chatgpt/)
2.- ¿Han autorizado los pacientes el uso concreto de la IA en sus datos médicos y y farmacológicos, no ya en la futura App, sino en la propia licitación en curso? No creo, y es una opinión como tantas otras, que las autorizaciones dadas hasta ahora cubran estos nuevos supuestos. No creo (opinión de nuevo) que los formularios genéricos y ligeramente trabajados de la LOPD que se incluyen en los expedientes sean suficientes
3.- ¿Qué repercusión jurídica y judicial puede tener para la ciudadanía y para la propia AAPP el uso de estas apps e IA? La responsabilidad de la AAPP por una «mala respuesta» en la administración de fármacos, las consultas que demuestren una incapacidad para realizar tareas que resulte en un proceso judicial,… ¿Se ha valorado la repercusión para el adjudicatario o la AAPP de estas cuestiones?
4.- ¿Qué análisis han hecho los órganos de asesoramiento y control internos de estos y otros extremos en sus informes sobre los expedientes de uso de IA?
En todo caso, si finalmente el proyecto se define y llega a su puesta en funcionamiento, lo veremos en unos meses o años… Igual que veremos si el «asaí» resiste a la promoción en RRSS por «influyentes» de un nuevo superalimento.