GT 5.1 Administración Pública e Inteligencia Artificial. Retos y Oportunidades de la Gobernanza de los Algoritmos para la Gestión Pública

Coordina:
Julián Villodre (Universidad Pablo de Olavide)
Comenta:
Juan Ignacio Criado Grande (Universidad Autónoma de Madrid)
La creciente adopción de la Inteligencia Artificial (IA) en las administraciones públicas, impulsada por los avances en los algoritmos y el uso intensivo de grandes volúmenes de datos, está transformando tanto el funcionamiento interno de las organizaciones públicas como la forma en que la ciudadanía se relaciona con ellas. Desde asistentes virtuales y chatbots, hasta sistemas de recomendación, herramientas de análisis predictivo, y sistemas orientados al apoyo en la toma de decisiones, la IA ya influye en diversos procesos de gestión y prestación de servicios públicos. No obstante, esta adopción plantea desafíos significativos, derivados de los riesgos de la opacidad algorítmica y la reproducción de sesgos, entre otros. Frente a ello, resulta clave avanzar hacia modelos de IA guiados por principios éticos sólidos, que prioricen la transparencia, la explicabilidad y una gobernanza responsable desde las etapas iniciales de su implementación, a fin de preservar la equidad, la confianza ciudadana y los valores democráticos. Este grupo de trabajo propone acercarse al estudio del impacto de la IA particularmente en las administraciones públicas y en los procesos de gestión pública. Así, el grupo de trabajo pretende abordar los avances de la IA en el sector público en tres niveles: macro, meso y micro. En el nivel macro, el estudio de la IA se centra en la comprensión de aspectos relacionados con la gobernanza nacional y supranacional, a través de las regulaciones, estrategias nacionales e internacionales, modelos burocráticos, principios y valores de ética pública, que guíen la adopción y utilización de la IA en las administraciones públicas. En el nivel meso, el análisis se centra en las organizaciones y servicios públicos sectoriales, explorando las implicaciones de la IA en la prestación de servicios o las innovaciones organizativas, entre otros. Finalmente, en el nivel micro, se exploran aspectos de comportamiento individual, vinculados principalmente a la ciudadanía y a los empleados públicos, en relación con sus percepciones y actitudes hacia la adopción de la IA en las administraciones públicas. Siguiendo estos puntos, se plantean varios ejes de trabajo: • Comprender cómo se están produciendo los procesos de adopción e institucionalización de la IA en las administraciones públicas, tanto en el ámbito nacional, como a nivel internacional, estudiando los principales facilitadores e inhibidores de estos procesos, pero también en otros niveles de gobierno a escala regional o local. • Explicar los principales impactos de la IA en la prestación de servicios públicos, desde una perspectiva tanto interna (back office) como externa (front office). • Identificar estrategias, modelos de gestión, principios y valores éticos clave para la gobernanza de los algoritmos en las organizaciones públicas. • Entender las transformaciones y oportunidades que la IA podría generar en las burocracias públicas actuales y en la manera en que los empleados públicos ejercen sus funciones (avance hacia burocracias “de sistema” – system-level bureaucracies – y “algocracias”). • Entender la forma por la que los sistemas algorítmicos modifican las interacciones entre la ciudadanía y la administración pública, así como los efectos de estas interacciones sobre cuestiones clave, como la confianza en las instituciones públicas, o las cargas burocráticas. • Entender las principales percepciones y actitudes hacia la adopción y utilización de la IA dentro de las organizaciones públicas, tanto por parte de la ciudadanía, como de los empleados públicos. • Estudiar los desafíos sociales, económicos, y políticos de la implementación de la IA en las organizaciones públicas, tales como la privacidad, la introducción de sesgos en los servicios, la igualdad, la accesibilidad, la transparencia, la rendición de cuentas, o la colaboración público-privada, entre muchos otros. El grupo de trabajo se enmarca en el desarrollo del proyecto “Abriendo la caja negra de la gobernanza pública mediada por algoritmos. Implicaciones de la Inteligencia Artificial en gobiernos, servicios públicos y personas” (AIPublicGov), financiado por el Ministerio de Ciencia e Innovación como parte de la Convocatoria de 2022 para Proyectos de Generación de Conocimiento (Ref: PID2022-136283OB-I00). Forman parte de este proyecto tanto el coordinador (miembro del equipo de trabajo) como el comentarista (investigador principal). Se espera que el grupo de trabajo plantee avances en la investigación del proyecto por parte de algunos de sus miembros. Así mismo, este grupo de trabajo está abierto a todas aquellas personas que deseen compartir estudios e investigaciones vinculadas de alguna manera a las temáticas y objetivos planteados. Todas las perspectivas y diseños metodológicos son bienvenidos.
Programa:
Sesión 4, Sesión 4
Día: jueves, 10 de septiembre de 2026
Hora: 09:00 a 10:45
Lugar: Lab. Cuali 2
Sesión 5, Sesión 5
Día: jueves, 10 de septiembre de 2026
Hora: 11:15 a 13:00
Lugar: Lab. Cuali 2
Ponencias:
Transparencia Algorítmica en Latinoamérica: Oportunidades, Riesgos y Dilemas Éticos
¿Efecto ChatGPT o convergencia regulatoria? Un análisis de inferencia causal sobre la producción de normas sustantivas en la administración pública global.
La incorporación de la inteligencia artificial en la administración local: un análisis cualitativo desde la práctica institucional
Algoritmos e Inteligencia Artificial contra la violencia de género: el caso del chatbot AinoAid
The AI Ethics Gap in the Public Sector: Institutional Determinants from Cross-national Evidence
Mapeo de la implementación de chatbots en el Sector público europeo: Evidencia comparada desde el Public Sector Tech Watch
La Ley de IA y los principios DEI en la Administración Pública
Transforming local governments? The municipal platformization in Portugal