Entrevista a D. Víctor Almonacid Lamelas

Usted fue también pionero en la formación y la implantación de la Administración electrónica en el sector público, un proceso que supuso un cambio importante en la forma de trabajar de los ayuntamientos y que requirió un largo periodo de adaptación, con ampliaciones de los plazos previstos en la normativa y diferentes ritmos de implantación según la Administración. Ahora, cuando parecía que este proceso estaba más consolidado, irrumpe una herramienta con un enorme potencial transformador como es la inteligencia artificial. ¿Podemos aprovechar las enseñanzas extraídas de la implantación de la Administración electrónica para incorporar la inteligencia artificial de una manera más eficaz y segura? ¿Podemos considerar que la inteligencia artificial constituye un paso más en ese proceso de transformación?

Sin duda. De hecho, creo que cometeríamos un error si afrontáramos la inteligencia artificial como si la transformación digital de las Administraciones empezara ahora. Llevamos más de dos décadas aprendiendo, a veces también equivocándonos, con la Administración electrónica. Y ese aprendizaje tiene un enorme valor.

La primera lección es que digitalizar no consiste en incorporar tecnología, sino en transformar la organización. Con la Administración electrónica comprobamos que no bastaba con sustituir el papel por documentos electrónicos o implantar un gestor de expedientes. Si manteníamos exactamente los mismos procedimientos, estructuras y dinámicas, lo único que conseguíamos era hacer electrónicamente lo que antes hacíamos en papel. Con la IA existe el mismo riesgo, incluso multiplicado: utilizar una tecnología extraordinariamente transformadora para hacer un poco más rápido lo que ya hacíamos

La segunda enseñanza es que la tecnología avanza mucho más rápido que las organizaciones y, normalmente, también más rápido que el Derecho. Por eso no podemos esperar a disponer de una regulación perfecta, una estructura perfecta y unos procedimientos perfectamente definidos para empezar. Pero tampoco podemos lanzarnos sin gobernanza. Debemos avanzar combinando experimentación, formación, evaluación de riesgos, seguridad y garantías jurídicas.

Y hay una tercera lección especialmente importante. La transformación digital no es responsabilidad exclusiva del departamento de Informática. La IA tampoco lo es. Tiene implicaciones jurídicas, organizativas, económicas, laborales, éticas y de seguridad. La cuestión es tan compleja que necesitamos equipos multidisciplinares para afrontarla.

Obviamente, sí considero la IA una nueva etapa del mismo proceso, pero con una gran diferencia que es al mismo tiempo cuantitativa y cualitativa: la Administración electrónica digitalizó fundamentalmente procedimientos; la inteligencia artificial puede transformar también la forma en que trabajamos, analizamos información, tomamos decisiones y prestamos servicios públicos. Estamos ante un cambio sin parangón.

El propio Reglamento europeo de IA parte precisamente de ese tipo de enfoque amplio. Por un lado, trata de promover una IA centrada en el ser humano, útil y confiable y, al mismo tiempo, de proteger la seguridad y los derechos fundamentales. Es posible proteger el marco de garantías jurídicas y al mismo tiempo apoyar la innovación, pero la complejidad de equilibrar todos estos elementos es extraordinaria.

Mirando hacia los próximos años, ¿cómo cree que va a cambiar la inteligencia artificial la forma de trabajar de los ayuntamientos? ¿Qué deberían empezar a hacer desde ahora, especialmente los municipios pequeños, para aprovechar las posibilidades que ofrece esta tecnología y evitar quedarse atrás?

Creo que el cambio será profundo y, además, llegará antes de lo que muchas organizaciones imaginan.

Ahora mismo estamos muy centrados en la IA generativa. Por eso, a corto plazo veremos sobre todo IA como copiloto del empleado público: búsqueda y análisis de información, elaboración de borradores, resúmenes, comparación de documentos, asistencia jurídica y técnica, tratamiento de datos, atención ciudadana o automatización de tareas rutinarias.

No está mal para empezar, pero esa es solamente la primera fase. La transformación realmente interesante llegará cuando dejemos de preguntar “¿cómo puedo hacer esta tarea con IA?” y empecemos a preguntarnos “si hoy diseñáramos desde cero este servicio público disponiendo de IA, ¿lo organizaríamos de esta forma?”.

Ahí es donde empezaremos a hablar verdaderamente de transformación. Pasaremos de una época de cambios a un cambio de época.

Respecto de los municipios pequeños, creo que debemos evitar un riesgo adicional: crear una nueva brecha digital entre Administraciones. Un ayuntamiento pequeño difícilmente puede disponer de los mismos recursos económicos, tecnológicos y humanos que una gran ciudad. Por eso será más importante que nunca la ayuda provincial y supramunicipal, pero, en general, cualesquiera otros mecanismos de cooperación interadministrativa. La IA en los municipios pequeños se apoyará, o al menos debería apoyarse, sobre tres pilares: las soluciones compartidas, las diputaciones y entidades supramunicipales y la generación de conocimiento reutilizable.

Pero hay muchas cosas que un municipio pequeño puede empezar a hacer inmediatamente y que no requieren de grandes inversiones: formar a su personal, identificar casos de uso, establecer reglas sobre el uso seguro de IA, experimentar de forma controlada y generar cultura organizativa.

Mi recomendación sería muy sencilla. No esperen a tener “el gran proyecto de inteligencia artificial”. Una especie de lema podría ser “Empezar pequeño, pero empezar ya”.

Durante la presentación de los participantes en el taller se puso de manifiesto que muchos empleados públicos ya utilizan herramientas de inteligencia artificial por iniciativa propia, mientras que todavía son pocas las organizaciones que cuentan con una política clara que establezca cómo, para qué y con qué límites pueden utilizarse estas herramientas. ¿Qué problemas puede generar este uso individualizado de una tecnología tan potente, tanto a corto como a largo plazo, si no se establecen pautas claras? ¿Qué aspectos imprescindibles debería recoger una Política de Uso de la inteligencia artificial en cada organización?

Este es probablemente uno de los problemas más urgentes que tenemos ahora mismo. La IA ya ha entrado en las Administraciones, aunque en muchos casos la organización todavía no haya decidido incorporarla.

Es decir, la ausencia de una política corporativa de IA no significa que no se esté utilizando IA; significa que muy probablemente se está utilizando sin una política corporativa.

El uso de la IA en la sombra genera diversos riesgos. El primero es evidente, y sin duda el más conocido: introducir información confidencial, datos personales o documentación interna en herramientas habilitadas con cuentas personales sin saber exactamente qué tratamiento recibirá esa información. Pero existen otros, como utilizar respuestas incorrectas como si fueran fiables, generar documentación con referencias inexistentes, automatizar tareas que requieren juicio profesional, crear dependencias respecto de determinadas herramientas o provocar enormes diferencias entre empleados y departamentos según el nivel de conocimiento individual.

Por eso considero imprescindible que cada organización disponga de una Política de Uso de la IA sencilla, comprensible y viva. No debería ser un documento elaborado para permanecer archivado, sino unas reglas que el empleado pueda aplicar realmente.

Debería determinar, entre otras cuestiones, qué herramientas pueden utilizarse, para qué usos, qué información no puede introducirse, qué controles humanos son necesarios, cómo deben verificarse los resultados, cómo se protege la información, qué usos requieren autorización y cuáles están directamente prohibidos.

Y añadiría una cuestión esencial, la responsabilidad. Una IA puede ayudar a redactar un informe, pero no firma el informe. Puede ayudar a analizar un expediente, pero la responsabilidad profesional sigue correspondiendo a quien interviene en él.

Además, la seguridad debe gestionarse como un proceso integral y basado en riesgos. Es justamente la filosofía del Esquema Nacional de Seguridad, que establece, entre otros principios, la gestión basada en riesgos, la vigilancia continua, la reevaluación periódica y la diferenciación de responsabilidades.

En relación con la cuestión anterior, ¿qué cree que necesitan las administraciones públicas para impulsar de verdad la incorporación de la inteligencia artificial? ¿Se trata principalmente de una cuestión de liderazgo, de formación, de normativa, de recursos o de un cambio en la propia cultura organizativa? ¿A quién debería corresponder la responsabilidad de coordinar y supervisar la política de uso de la inteligencia artificial en cada organización?

Todas las cuestiones que plantea la pregunta son necesarias y están muy bien referidas: liderazgo, formación, normativa, recursos y cultura organizativa. Todas ellas, sin duda. Pero, si tuviera que elegir una, empezaría por el liderazgo.

Sin liderazgo, la tecnología entra de manera desordenada. Sin formación, se utiliza mal. Sin reglas, aparecen riesgos. Y sin cambio cultural, cualquier transformación acaba chocando contra la conocida frase de “esto siempre se ha hecho así”.

Ahora bien, el liderazgo no significa centralizar todo el conocimiento sobre IA en una sola persona o departamento. Precisamente por su carácter transversal, creo que necesitamos un modelo de gobernanza multidisciplinar, como no puede ser de otra manera en procesos tan complejos.

Debemos empezar a crear grupos de trabajo transversales, en los que deben participar los responsables administrativos y técnicos de los distintos servicios: tecnología, seguridad, protección de datos, servicios jurídicos, recursos humanos, organización y, por supuesto, las áreas gestoras que conocen los servicios públicos y los problemas reales que pretendemos resolver.

Y debe existir una responsabilidad claramente identificada que coordine esa política y rinda cuentas ante la dirección de la organización. Gobernanza no significa crear un nuevo órgano burocrático para controlar la IA. Significa saber quién decide qué, con qué criterios, qué riesgos se aceptan, cuáles no y quién responde de cada decisión.

Esto tiene además una conexión directa con algo que considero fundamental: la alfabetización en IA. Ya no podemos dividir nuestras organizaciones entre “los informáticos, que saben de tecnología” y “los demás”. Un empleado público no necesita convertirse en ingeniero de inteligencia artificial, pero sí necesita comprender las capacidades, las limitaciones y los riesgos de las herramientas que utiliza. Asistimos a un nuevo Renacimiento, pero ahora ya no es necesario ser un genio en todas las diciplinas, como Leonardo da Vinci, sino al menos especialista en una de ellas y “capacitado” para todas las demás. Que no es poco.

La inteligencia artificial puede llegar a transformar e incluso hacer innecesarias algunas tareas y determinados puestos de trabajo. Teniendo en cuenta la velocidad a la que avanza esta tecnología y, al mismo tiempo, la lentitud con la que habitualmente se modifican las estructuras de la Administración pública, ¿se atrevería a establecer un horizonte temporal en el que empecemos a ver reflejado ese impacto en las relaciones de puestos de trabajo (RPT) de los ayuntamientos? ¿Cree que veremos antes una transformación de las funciones de los puestos existentes que una verdadera desaparición de puestos de trabajo?

Aquí sería prudente con cualquier fecha cerrada porque la evolución tecnológica está siendo muy rápida y, en cambio, nuestras estructuras organizativas evolucionan lentamente.

Pero sí me atrevería a hacer una afirmación: veremos mucho antes la transformación de los puestos que su desaparición.

La primera consecuencia de la IA no será que desaparezca el administrativo, el técnico, el jurista o el economista. Será que una parte de las tareas que actualmente realizan cambiará radicalmente.

Esto obliga a cambiar también nuestra manera de analizar los puestos de trabajo. Quizá la pregunta no deba ser “¿qué puestos va a eliminar la IA?”, sino “¿qué tareas dejará de tener sentido que un empleado público siga realizando manualmente?”.

Cuando una parte significativa de esas tareas desaparezca o se automatice, inevitablemente tendremos que revisar perfiles profesionales, competencias, sistemas de selección, formación y, finalmente, las propias RPT.

También aparecerán nuevas funciones que, obviamente, tendrán su propio funcionario responsable: gobernanza de datos y algoritmos, supervisión humana, evaluación de riesgos, auditoría de sistemas automatizados o diseño de servicios apoyados en IA.

Por tanto, no veo inicialmente una Administración con muchas menos personas por efecto de la IA. Sí veo una Administración en la que hacer exactamente lo mismo de la misma manera dejará progresivamente de tener sentido. En parte ya lo hemos visto en las primeras etapas de la transformación digital, con la desaparición de tareas relacionadas con el papel, pero ahora viene una disrupción mucho mayor.

Durante las dos intensas jornadas del taller se abordaron numerosas herramientas, el Reglamento europeo de inteligencia artificial, el Esquema Nacional de Seguridad, casos prácticos y los principales riesgos asociados al uso de esta tecnología. Sin embargo, nos gustaría profundizar en un concepto en el que usted hizo especial hincapié: la importancia de «predicar con la ética en el uso de la inteligencia artificial por parte del personal de las administraciones públicas». ¿A qué se refiere exactamente cuando habla de predicar con la ética en el uso de la IA? ¿En qué niveles debemos situar esta exigencia ética y cómo debería trasladarse a la práctica diaria de los empleados públicos?

Para mí significa algo bastante más concreto que elaborar códigos éticos.

La Administración dispone de prerrogativas, información y capacidades que el ciudadano no tiene. Precisamente por esa posición, el estándar ético en el uso público de la inteligencia artificial debe ser especialmente exigente.

Yo distinguiría varios niveles.

El primero es individual. El empleado público debe utilizar la IA con responsabilidad profesional. No debería presentar como conocimiento propio algo que no ha comprobado, utilizar automáticamente una respuesta que puede afectar a derechos o introducir irresponsablemente información protegida.

El segundo nivel es organizativo. No sería razonable exigir comportamiento responsable al empleado y, al mismo tiempo, no proporcionarle formación, herramientas adecuadas ni reglas claras.

El tercero es institucional y democrático. Cuanto mayor sea el impacto de una IA sobre los derechos de las personas, mayores deben ser las garantías, la transparencia, la trazabilidad y la supervisión humana. La rendición de cuentas y la explicabilidad del algoritmo son “la nueva transparencia”.

Y añadiría un cuarto: la ejemplaridad. La Administración no puede exigir a empresas y ciudadanos un uso responsable de la inteligencia artificial y permitirse a sí misma utilizarla sin controles suficientes.

Por eso suelo hablar de ética aplicada y no simplemente de ética declarativa. La ética se demuestra en las decisiones cotidianas: qué datos introduzco, qué herramienta utilizo, cuánto confío en su respuesta, cómo la verifico y, sobre todo, si estoy dispuesto a hacerme responsable del resultado. Esta perspectiva encaja, además, con la filosofía europea de una inteligencia artificial centrada en el ser humano y fiable, compatible con la seguridad, los derechos fundamentales, la democracia y el Estado de Derecho.

En suma, no podemos relajar las exigencias éticas del funcionamiento de lo público solo porque ahora es mucho más tecnológico. La eficiencia no debe ser a costa de la legalidad ni de la ética. Es el momento de reivindicar los principios generales del derecho: igualdad, no discriminación, publicidad, legalidad, proporcionalidad, etc., sin olvidar el interés general, que, aunque es un concepto jurídico indeterminado debería determinarse en cada ocasión e impregnar toda actuación pública, algorítmica o no. Si la tecnología no se somete a todos estos principios y valores, será pura eficiencia sin alma. Y peor aún: no servirá para reducir la corrupción.

Por último, y retomando sus palabras sobre la importancia de la formación continua en inteligencia artificial, nos gustaría trasladar esta reflexión al ámbito del CEMCI. ¿Qué valoración hace de la formación que imparte el CEMCI y cómo cree que podría mejorar su oferta para responder a las necesidades de los ayuntamientos en esta materia y acompañarlos en la incorporación de la inteligencia artificial?

Mi valoración de la formación del CEMCI es muy positiva y creo que este curso es precisamente un buen ejemplo del enfoque que necesitamos.

En inteligencia artificial hay un riesgo evidente de que la formación envejezca rápidamente o se convierta en una sucesión de herramientas, porque hoy aprendemos diez aplicaciones y dentro de unos meses algunas habrán cambiado, desaparecido o sido sustituidas.

Por eso creo que la formación debe trabajar simultáneamente en tres niveles: comprender, utilizar y gobernar la IA.

Comprender significa adquirir los conocimientos suficientes sobre cómo funciona, cuáles son sus posibilidades y cuáles sus limitaciones. Utilizar significa trabajar sobre problemas y casos reales de la Administración local. Y gobernar significa conocer el marco jurídico, los riesgos, la seguridad, la ética y las responsabilidades asociadas a su implantación.

Me parece especialmente valioso, por tanto, el formato práctico e interactivo que se plantea en este tipo de actividades. Durante el taller se abordaron diversas cuestiones, algunas técnicas, como la explicación práctica de las propias herramientas de IA; otras jurídicas, como el Reglamento europeo de IA o el Esquema Nacional de Seguridad; otras organizativas y funcionales, etc., lo cual muestra precisamente esa combinación de dimensiones.

¿Dónde veo margen para avanzar? Fundamentalmente en mantener una formación continua y muy conectada a la realidad de la implantación de la IA en las entidades locales. En una palabra: gobernanza. Pero no solo gobernanza de la IA, sino de toda la inteligencia organizativa, porque parece que a veces se nos olvida el talento humano. Por eso últimamente hablo de Gobernanza de la Inteligencia Combinada (GIC). No necesitamos crear únicamente un ejército de “usuarios de herramientas”; sino formar profesionales capaces de decidir cuándo tiene sentido utilizarlas, cómo hacerlo y cuándo no hacerlo. Y en un nivel más estratégico, debemos formar al personal directivo para que gobierne la inteligencia con inteligencia. El liderazgo público actual implica gestionar este proceso, y requiere de un catálogo amplio de habilidades blandas, las cuales por cierto son monopolio de la inteligencia humana.

Sería interesante generar comunidad y conocimiento compartido. Si cien ayuntamientos están intentando resolver los mismos problemas con IA, no tiene mucho sentido que los cien tengan que empezar desde cero.

La verdadera oportunidad está en pasar de cursos aislados sobre inteligencia artificial a un ecosistema permanente de aprendizaje, experimentación e intercambio de experiencias entre entidades locales.