Anuario de Derecho Municipal
Núm. 18, 2024
Sección Estudios, pp. 23-47
Madrid, 2025
DOI: 10.37417/ADM/18-2024_1.01
ISSN: 1888-7392

La inteligencia artificial y los gobiernos locales.
Un examen de los instrumentos para el abordaje de la transformación digital*

Agustí Cerrillo i Martínez

Catedrático de Derecho Administrativo
Universitat Oberta de Catalunya
ORCID ID: 0000-0002-1577-4194

RESUMEN

La transformación digital de los gobiernos locales persigue avanzar en el uso intensivo e innovador de los medios electrónicos —y, en particular, de la inteligencia artificial— para automatizar su actividad, abrirse a la ciudadanía, recopilar y analizar datos y prestar servicios de una manera más inclusiva, eficiente, resiliente, sostenible y centrada en las personas. La incorporación de la inteligencia artificial en los gobiernos locales puede suponer un cambio profundo en cómo desarrollan su actividad, prestan los servicios públicos o se relacionan con la ciudadanía. Este trabajo examina los instrumentos políticos, jurídicos y organizativos que están a disposición de los gobiernos locales para impulsar y fomentar su proceso de transformación digital a través del uso de la inteligencia artificial y garantizar la seguridad jurídica y los derechos de la ciudadanía.

Palabras clave: transformación digital; administración digital; inteligencia artificial; gobiernos locales; regulación; gobernanza.

Artificial Intelligence and Local Government. A Toolbox to Tackle Digital Transformation

ABSTRACT

The digital transformation of local governments aims to enhance the intensive and innovative use of electronic means —and, in particular, of artificial intelligence— to automate their activities, become more open to the public, collect and analyze data, and deliver services in a more inclusive, efficient, resilient, sustainable, and people-centered way. The incorporation of artificial intelligence in local governments can represent a profound change in how they carry out their activities, provide public services, or interact with citizens. This paper identifies the political, legal, and organizational instruments available to local governments to promote and support their digital transformation process through the use of artificial intelligence and to ensure legal certainty and the protection of citizens’ rights.

Keywords: digital transformation; digital government; artificial intelligence; local government; regulation, governance.

SUMARIO: 1. LA TRANSFORMACIÓN DIGITAL DE LOS GOBIERNOS LOCALES.—2. LAS ESTRATEGIAS PARA LA INCORPORACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LOS GOBIERNOS LOCALES.—3. LA REGULACIÓN DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS GOBIERNOS LOCALES: 3.1. El Reglamento de Inteligencia Artificial. 3.2. La normativa estatal y autonómica aplicable al uso de la inteligencia artificial en los gobiernos locales. 3.3. Las ordenanzas locales de administración digital y sus previsiones sobre el uso de la inteligencia artificial. 3.4. Otros instrumentos de regulación local de la inteligencia artificial: 3.4.1. Cartas de derechos digitales. 3.4.2. Códigos éticos. 3.4.3. Los protocolos.—4. LA GOBERNANZA DE LA TRANSFORMACIÓN DIGITAL.—5. REFLEXIONES FINALES.

1. LA TRANSFORMACIÓN DIGITAL DE LOS GOBIERNOS LOCALES

Los gobiernos locales están abordando un proceso de transformación digital basado en el uso intensivo e innovador de los medios electrónicos —y, en particular, las tecnologías disruptivas como la inteligencia artificial— para automatizar su actividad, abrirse a la ciudadanía, recopilar y analizar datos y prestar servicios de una manera más inclusiva, eficiente, resiliente, sostenible y centrada en las personas.

La transformación digital constituye un ulterior estadio en el proceso de incorporación de los medios electrónicos en las entidades locales 1. De hecho, la administración digital que ha de resultar de este procesos de transformación digital se basa en los principios y mecanismos propios de la administración electrónica cuyo objetivo principal ha sido mejorar la eficiencia interna de las propias Administraciones públicas, las relaciones interadministrativas y las relaciones de la Administración pública con la ciudadanía. También se apoya en las experiencias de la administración 2.0 que se han ido extendiendo en las últimas décadas entre las entidades locales españolas con el objetivo de diversificar los canales de relación con la ciudadanía facilitando su participación en la toma de decisiones públicas o en la difusión de información pública.

Sin embargo, la transformación digital de los gobiernos locales va más allá de la mera digitalización de los gobiernos locales, de la simple incorporación de la tecnología en la tramitación de los procedimientos administrativos o en sus relaciones con la ciudadanía, para utilizar de manera intensiva e innovadora la inteligencia artificial para dar respuesta a los retos a los que se enfrentan en el siglo xxi a través de un cambio cultural, organizativo y relacional de los gobiernos locales 2.

En esta dirección, distintos ayuntamientos españoles ya han puesto en marcha iniciativas pioneras basadas en el uso de la inteligencia artificial. Con su incorporación para automatizar su actividad y funcionamiento, los gobiernos locales están impulsando la construcción de un nuevo modelo de Administración pública, la administración digital, en el que se utiliza la tecnología de manera intensiva e innovadora para recopilar y analizar colaborativamente los datos que genera el municipio con el fin prestar servicios inclusivos, eficientes, resilientes, sostenibles y centrados en las personas 3.

En primer lugar, algunos ayuntamientos están utilizando la inteligencia artificial para analizar de manera intensiva los datos que captan, registran y producen. El análisis de estos datos puede tener un gran valor para la toma de decisiones basadas en la evidencia o la gestión automatizada de los servicios municipales. También para la detección de necesidades o la evaluación de políticas públicas 4.

En segundo lugar, algunos ayuntamientos también están usando la inteligencia artificial para automatizar la tramitación de los procedimientos administrativos y la toma de decisiones. Si bien, en un primer momento, la automatización de los procedimientos administrativos se está canalizando a través de la robotización automática de procesos (RPA, en sus siglas en inglés), que generalmente no incorpora la inteligencia artificial en sentido estricto, ya empiezan a extenderse iniciativas municipales que utilizan sistemas dotados de mayor autonomía y de capacidad de aprendizaje 5.

En tercer lugar, otros ayuntamientos están empleando la inteligencia artificial en la prestación de servicios públicos como los servicios sociales, la sanidad o la seguridad ciudadana 6.

En cuarto lugar, también existen ayuntamientos que están utilizando la inteligencia artificial para reforzar las relaciones entre el municipio y la ciudadanía. La inteligencia artificial puede contribuir a la apertura de los ayuntamientos a la ciudadanía, a reducir las brechas existentes, a simplificar las relaciones con las entidades locales o a garantizar el derecho a no aportar datos que estén en poder de las Administraciones públicas 7.

En última instancia, algunos ayuntamientos también están utilizando la inteligencia artificial para generar valor a la sociedad, por ejemplo, creando nuevos servicios para satisfacer las necesidades o preferencias de la ciudadanía o personalizando o prestándolos de manera proactiva. La inteligencia artificial permite adaptar los servicios municipales a las características, necesidades, circunstancias, preferencias o intereses de una persona o grupo de personas a partir del análisis automatizado de los datos que sobre ellas dispongan el ayuntamiento 8.

Como se desprende de estos ejemplos, no hay duda de que la incorporación de la inteligencia artificial puede llegar a suponer un cambio profundo en cómo los gobiernos locales desarrollan su actividad, prestan los servicios públicos o se relacionan con la ciudadanía. Un cambio de tal calado que está llamado a tener un impacto en el diseño institucional.

Para poder avanzar en el proceso de transformación digital, los gobiernos locales tienen a su disposición —y ya están utilizando— distintos instrumentos que desde la perspectiva no solo tecnológica sino especialmente política, jurídica y organizativa permiten impulsar el proceso de incorporación de la inteligencia artificial garantizando la fiabilidad de la tecnología y la disponibilidad de los datos o los conocimientos y capacidades necesarias al tiempo que dan una respuesta adecuada a los riesgos que la inteligencia artificial puede generar tanto para los propios gobiernos locales como para la ciudadanía 9.

Este trabajo persigue identificar los instrumentos que están a disposición de los gobiernos locales. En esta dirección, en las próximas páginas, examinaremos cómo los gobiernos locales están promoviendo el uso de la inteligencia artificial y, en particular, qué estrategias se están adoptando para fomentar su incorporación. A continuación, analizaremos cómo la regulación vigente impulsa el uso de la inteligencia artificial en los gobiernos locales y minimiza los riesgos que puede generar. Por último, expondremos los instrumentos de gobernanza a disposición de los gobiernos locales para canalizar la interacción de todos los actores que intervienen en la incorporación de la inteligencia artificial.

2. LAS ESTRATEGIAS PARA LA INCORPORACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LOS GOBIERNOS LOCALES

La transformación digital de los gobiernos locales no es un resultado, sino que es un proceso 10. Un proceso complejo que va más allá de la simple digitalización de los gobiernos locales.

Este proceso debe ser impulsado por cada gobierno local a partir de una reflexión sobre el objeto, la finalidad o los recursos necesarios para llevar a cabo la transformación digital. En particular, cada gobierno local ha de definir para qué quiere utilizar la inteligencia artificial. Al respecto, más allá de las posibilidades que ofrezca el desarrollo actual de la inteligencia artificial, es evidente que, con carácter previo a su incorporación en un ayuntamiento, debe definirse el modelo de administración digital que se quiere alcanzar y, en particular, identificar qué actividades y servicios se querrán automatizar y cómo se llevará a cabo este proceso 11. No se puede desconocer que la inteligencia artificial aunque sea un medio no es neutra y su uso conduce a una determinada manera de entender las instituciones y sus relaciones con la ciudadanía que debe definirse por cada gobierno local 12.

Con frecuencia todo ello se concreta en una estrategia que fija la finalidad, los objetivos y las acciones que se implementarán para dirigir y fomentar el diseño y puesta en funcionamiento de la administración digital y el uso de la inteligencia artificial y concreta los actores que intervendrán y los recursos que se destinarán en ello 13.

En esta dirección, algunos ayuntamientos ya han adoptado estrategias para impulsar la incorporación y el uso de la inteligencia artificial 14. En otros casos estas cuestiones se incluyen o están estrechamente relacionadas con otras estrategias municipales como las de administración digital 15, de ciudad inteligente 16, o de datos 17.

El Ayuntamiento de Barcelona aprobó en junio de 2020 una declaración institucional en la que se explicitaba el apoyo a un modelo tecnológico municipal ético y confiable con el que convertir a Barcelona en capital del humanismo tecnológico 18. Posteriormente, en abril de 2021, adoptó la Medida de gobierno de la estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial 19. Esta estrategia propone garantizar que la IA se despliegue respetando los derechos digitales de los habitantes de la ciudad y establecer los mecanismos de gobernanza e impulso de la IA a escala municipal. La estrategia persigue fortalecer el control democrático sobre la inteligencia artificial, asegurar la transparencia y auditabilidad de los sistemas de IA o determinar el régimen de responsabilidad por los daños que pueda causar el uso de la inteligencia artificial en cinco ámbitos de actuación específicos (elaboración de políticas públicas, gestión interna municipal, prestación de servicios públicos, diseño y la construcción de sistemas basados en IA y contratación pública de sistemas de IA). Entre otras actuaciones, la Estrategia municipal prevé además de la revisión del marco normativo para la aplicación de la IA en el Ayuntamiento de Barcelona, la creación de un registro municipal de algoritmos de IA, la definición de metodologías de trabajo y protocolos y la publicación de una guía de aplicación de la IA en el Ayuntamiento de Barcelona, la elaboración de cláusulas para la licitación de soluciones basadas en IA, el establecimiento del Observatorio internacional de Inteligencia Artificial Urbana o la creación de un consejo asesor de personas expertas en IA, ética y derechos digitales del Ayuntamiento de Barcelona 20.

Posteriormente, el Ayuntamiento de Madrid ha aprobado la Estrategia de Inteligencia Artificial 21. Con esta estrategia el Ayuntamiento de Madrid aspira a convertirse en la capital de la Inteligencia Artificial en la Unión Europea. Asimismo, persigue que la IA pueda convertirse en palanca de la transformación del Ayuntamiento y de la evolución del modelo de relación con la ciudadanía asegurando que los sistemas de IA sean seguros, transparentes, trazables, explicables, no discriminatorios y respetuosos con el medio ambiente. La estrategia se estructura en cuatro grandes objetivos y se concreta en trece líneas de actuación entre las que destaca la atención más personalizada a la ciudadanía, los servicios predictivos y la monitorización y predicción para una ciudad eficiente, segura y sostenible, las políticas públicas basadas en evidencias o la definición de un modelo metodológico para la valoración y aplicabilidad de la IA en la prestación de servicio. La estrategia también define el gobierno corporativo de la IA que, entre otros aspectos, prevé el establecimiento de normas internas para asegurar algoritmos éticos, seguros y sostenibles.

Finalmente, el Ayuntamiento de Granada ha aprobado en marzo de 2024 el Plan estratégico de Inteligencia Artificial 2023-2027 22. Esta estrategia persigue ser la hoja de ruta y la guía para mejorar los servicios que se prestan con el uso de la IA y una relación de acciones que permitan posicionar la ciudad como referente en materia de IA. Entre sus objetivos se incluye aplicar los recursos de IA a la mejora de los servicios y procesos, aplicar soluciones de IA a la mejora de la calidad de vida de la ciudadanía, promover la inclusión social y la equidad o desarrollar un ecosistema de innovación. Entre las líneas estratégicas se contempla implementar un marco regulatorio para la IA en la ciudad, abordando cuestiones éticas y de privacidad. Por último, el Plan define sus mecanismos de gobernanza cuyo liderazgo asume el Comité Técnico de Innovación y Smart City y también incorpora la Comisión Técnica de IA.

3. LA REGULACIÓN DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LOS GOBIERNOS LOCALES

El proceso de transformación digital no solo puede reportar beneficios y oportunidades para las entidades locales y la ciudadanía. También puede generar numerosos riesgos.

Muchos de estos riesgos están relacionados con el propio uso de la inteligencia artificial. En efecto, a pesar del desarrollo experimentado por esta tecnología en los últimos años, ha sido ampliamente advertido que no es plenamente fiable ni tampoco absolutamente segura. Con frecuencia genera errores que son difíciles de identificar y que pueden tener un impacto masivo cuando la IA se utiliza para automatizar la actuación de las Administraciones públicas. Además, los algoritmos pueden tener sesgos y generar discriminaciones. Por último, los algoritmos pueden ser opacos y sus resultados no explicables. La ausencia de supervisión humana cuando se utiliza la inteligencia artificial puede acentuar los perjuicios generados.

Otros riesgos están relacionados con el acceso a la inteligencia artificial. En esta dirección, la transformación digital puede ampliar la brecha digital, es decir, las desigualdades no solo entre personas sino también entre gobiernos locales en función de los recursos (humanos, tecnológicos, económicos) disponibles. Además, la transformación digital también puede generar dependencia tecnológica de los gobiernos locales respecto a los proveedores de tecnología.

También pueden surgir riesgos relacionados con la falta de confianza de la ciudadanía 23. La automatización de los gobiernos locales a través del uso de la inteligencia artificial puede generar una percepción de mayor distanciamiento de la ciudadanía o una mayor deshumanización de las relaciones con los servicios públicos, una menor empatía, etc., que se puede traducir en una mayor desafección.

Asimismo, pueden aparecer riesgos vinculados a la ausencia de capacitación digital tanto entre el personal al servicio de los gobiernos locales como entre la ciudadanía no solo en relación con los aspectos tecnológicos derivados del uso de la inteligencia artificial sino también sobre aspectos organizativos, jurídicos o éticos.

Por último, pueden surgir riesgos relacionados con la ausencia de una regulación de la transformación digital que dé suficiente seguridad jurídica al uso de la inteligencia artificial en los gobiernos locales al tiempo que garantice adecuadamente los derechos de la ciudadanía en sus relaciones con las entidades locales, particularmente, el derecho a la protección de datos personales.

Para dar respuesta a estos riesgos, en un primer momento, desde diferentes instancias, se propuso la adopción de principios éticos 24.

Posteriormente, a la vista de las limitaciones que en la práctica ha ido mostrando esta aproximación, se han ido impulsando diversas iniciativas para regular el uso de la inteligencia artificial, dar respuesta a los riesgos y fomentar la innovación a través de la automatización y la transformación digital.

De hecho, no podemos desconocer que el derecho no ha sido tradicionalmente ajeno a la digitalización de los gobiernos locales. En efecto, a medida que los gobiernos locales han ido incorporando los distintos desarrollos tecnológicos que se han ido produciendo, se han ido adoptando distintas normas que han tratado de garantizar la seguridad jurídica al tiempo que han perseguido facilitar la innovación. En esta dirección, en un primer momento al hilo del reconocimiento del uso de los medios electrónicos en las Administraciones públicas que hizo la Ley 30/1992, de 26 de noviembre, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común, diversos ayuntamientos aprobaron las primeras ordenanzas sobre administración electrónica 25. Posteriormente, con la previsión de la obligación de utilizar medios electrónicos en la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los servicios públicos se multiplicaron las normas reguladoras del uso de la tecnología en las entidades locales. En la actualidad, la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas que afirma enfáticamente en su preámbulo que «una Administración sin papel basada en un funcionamiento íntegramente electrónico no solo sirve mejor a los principios de eficacia y eficiencia, al ahorrar costes a ciudadanos y empresas, sino que también refuerza las garantías de los interesados», junto con la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, están sirviendo de base, como veremos posteriormente, para la incorporación de la inteligencia artificial en los ayuntamientos.

En la actualidad, la regulación de la inteligencia artificial está recogida en un conjunto de normas aprobadas por diferentes instancias a nivel europeo, estatal, autonómico y local. Estas normas son complementadas por otras regulaciones que tratan de fortalecer la seguridad jurídica y encauzar el proceso de incorporación de la inteligencia artificial en los gobiernos locales.

A continuación, hacemos una breve exposición de las principales normas vigentes y regulaciones aplicables a la inteligencia artificial en los gobiernos locales.

3.1. El Reglamento de Inteligencia Artificial

La Unión Europea ha ido adoptando en los últimos años distintas normas que inciden con mayor o menor intensidad en la transformación digital de los gobiernos locales y, en particular, regulan el uso de la inteligencia artificial con la finalidad de garantizar que su diseño y uso sea acorde con los valores de la Unión y respetuosa con los derechos fundamentales.

En sintonía con lo que hemos indicado en el epígrafe anterior, en un primer momento, la Comisión Europea apostó por «[g]arantizar el establecimiento de un marco ético y jurídico apropiado, basado en los valores de la Unión y en consonancia con la Carta de los Derechos Fundamentales de la UE» 26. En esta dirección, se promovió la adopción de unas directrices éticas a través de la creación de un grupo de expertos de alto nivel sobre la IA que presentó en marzo de 2019 las Directrices éticas para una IA fiable. Asimismo, en octubre de 2020, el Parlamento Europeo adoptó una resolución sobre aspectos éticos de la IA 27.

Posteriormente, la Comisión Europea presentó en abril de 2021 la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial que, finalmente, fue aprobada en junio de 2024 después de una larga tramitación y fruto de una intensa negociación entre los Estados miembros y con la participación de numerosos actores 28.

El Reglamento de Inteligencia Artificial tiene por objetivo mejorar el funcionamiento del mercado interior en relación con la inteligencia artificial a partir de la definición de los requisitos que debe cumplir para poder ser puesta en el mercado o en servicio y ser utilizada en la Unión Europea (art. 1.1 RIA). Para ello, el RIA define un marco jurídico uniforme a nivel europeo que regula el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA evitando las divergencias que puedan obstaculizar la libre circulación, fragmentar el mercado o generar inseguridad jurídica (cdo. 3 RIA). Este marco no solo se propone respetar los valores de la Unión Europea sino, en particular, desarrollarse de acuerdo con el modelo de IA centrada en el ser humano, que sea fiable, garantice la protección de la salud, la seguridad y los derechos fundamentales, la democracia, el Estado de Derecho y la protección del medio ambiente y apoye la innovación (cdo. 1 y art. 1.1 RIA).

Para ello, el RIA establece las normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión Europea. Asimismo, prohíbe determinados usos de la IA; define los requisitos específicos para los sistemas de IA de alto riesgo y determina las obligaciones para los operadores; define las normas armonizadas para la introducción en el mercado de modelos de IA de uso general y las obligaciones de transparencia aplicables a determinados sistemas de IA. Por último, establece las normas sobre el seguimiento del mercado, la vigilancia del mercado, la gobernanza y la garantía del cumplimiento y las medidas en apoyo de la innovación (art. 1.2 RIA).

Según el RIA, un sistema de inteligencia artificial es «un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales» (art. 3.1 RIA).

De acuerdo con el RIA, los sistemas de IA pueden clasificarse en cinco grupos en función de los riesgos que puedan generar para intereses públicos y los derechos fundamentales.

En primer lugar, los sistemas de IA cuyo uso se prohíbe porque pueden generar unos riesgos que se consideran inasumibles por invadir de forma especialmente grave los derechos y las libertades de las personas, provocar la sensación de estar bajo una vigilancia constante, disuadir del ejercicio de los derechos o ser tan imprecisos que puedan generar resultados erróneos, sesgados, discriminatorios o excluyentes de determinadas personas o colectivos (art. 5 RIA).

En segundo lugar, los sistemas de IA de alto riesgo cuyo uso puede tener un efecto perjudicial considerable en la salud, la seguridad y los derechos fundamentales de las personas (art. 6 RIA). Para el RIA, son sistemas de IA de alto riesgo aquellos que sean componentes de seguridad de productos a los que se les aplique la normativa de armonización de la Unión Europea relativa a la seguridad de los productos o que deban someterse a una evaluación de la conformidad de terceros para su introducción en el mercado o puesta en servicio y también los que estén incluidos en alguno de los ocho ámbitos recogidos en el anexo tercero del reglamento. Los sistemas de IA de alto riesgo deben cumplir determinados requisitos. Por ejemplo, el establecimiento de un sistema de gestión de riesgos (art. 9 RIA); la adopción de una gobernanza y la garantía de la calidad de los datos (art. 10 RIA); la redacción de una documentación técnica (art. 11 RIA) 29; la disponibilidad de un registro automático de acontecimientos (art. 12 RIA); la garantía de la transparencia (art. 13 RIA); la supervisión humana (art. 14 RIA); y la fiabilidad de manera que los sistemas estén diseñados para que gocen de un nivel adecuado de precisión, solidez y ciberseguridad que deben mantener durante todo su ciclo de vida (art. 15 RIA). Del cumplimento de estos requisitos se responsabilizan bien los proveedores, bien los responsables del despliegue.

En tercer lugar, los sistemas de IA de uso general que se basan en un modelo de IA de uso general, es decir, en modelos de IA que presentan un grado considerable de generalidad y son capaces de realizar de manera competente una gran variedad de tareas distintas (art. 3, apdos. 62 y 63 RIA). Las características especiales de los modelos de IA de uso general y la diversidad de tareas que pueden desarrollar determina que sean objeto de una atención especial en el RIA y que sus proveedores tengan atribuidas unas funciones y responsabilidades particulares a lo largo de la cadena de valor del sistema (art. 53 RIA).

En cuarto lugar, los sistemas de IA que pueden generar riesgos específicos como la suplantación, el engaño o la manipulación de las personas (por ejemplo, sistemas de IA destinados a interactuar directamente con personas físicas; los sistemas de IA que generen contenido sintético; los sistemas de IA de reconocimiento de emociones; los sistemas de IA de categorización biométrica; y los sistemas de IA que generen o manipulen contenidos que constituyan una ultrasuplantación) 30. En estos casos, el RIA prevé determinadas obligaciones de transparencia con el fin de que las personas usuarias o destinatarias de los resultados de estos sistemas de IA puedan ser conscientes de que están tratando con sistemas de IA o de que un determinado contenido ha sido generado de manera artificial 31.

Por último, en quinto lugar, los sistemas de IA que no generan riesgos significativos. En relación con estos sistemas, el RIA invita a los proveedores y responsables del despliegue de sistemas de IA a que adopten códigos de conducta que fomenten la aplicación voluntaria de la totalidad o parte de los requisitos aplicables a los sistemas de IA de alto riesgo adaptados al menor riesgo planteado (art. 95 RIA).

En la medida en que un gobierno local sea proveedor de sistemas de IA —es decir, cuando desarrolle un sistema de IA, o se desarrolle un sistema de IA para él, y lo introduzcan en el mercado 32 o lo pongan en servicio 33 previo pago o gratuitamente— o responsable del despliegue —o sea, utilice un sistema de IA bajo su propia autoridad (art. 3.4 RIA)— deberá cumplir con distintas responsabilidades en función del tipo de sistema de IA. Además, como Administración pública, los gobiernos locales que utilicen sistemas de IA de alto riesgo previstos en el Anexo III deberán realizar una evaluación de impacto en los derechos fundamentales (art. 27 RIA) 34 y deberán registrarse y registrar el sistema de IA de alto riesgo en la base de datos de la UE antes de su puesta en servicio o uso (art. 49.3 RIA) 35.

Además del Reglamento de Inteligencia Artificial, desde la Unión Europea se han adoptado otras normas que se han impulsado en el marco de la Estrategia de Datos de la UE 36, que establecen mecanismos y servicios de confianza para reutilizar, compartir y agrupar datos esenciales para el desarrollo de modelos de IA de alta calidad basados en datos y que también inciden en el uso de la IA en los gobiernos locales. En esta dirección, se puede traer a colación el Reglamento de Gobernanza de Datos [Reglamento (UE) 2022/868 del Parlamento Europeo y del Consejo, de 30 de mayo] o la Directiva sobre datos abiertos [Directiva (UE) 2019/1024, del Parlamento Europeo y del Consejo, de 20 de junio, relativa a los datos abiertos y la reutilización de la información del sector público] 37.

3.2. La normativa estatal y autonómica aplicable al uso de la inteligencia artificial en los gobiernos locales

La regulación estatal aplicable al uso de la inteligencia artificial en los gobiernos locales se encuentra dispersa en diversas normas.

Por un lado, en la legislación de régimen jurídico del sector público y del procedimiento administrativo común. Esta normativa regula el uso de los medios electrónicos en las Administraciones públicas por lo que cabe entender que son de aplicación cuando los gobiernos locales utilizan la inteligencia artificial. En particular, resulta de interés traer a colación el art. 41 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público que define la actuación administrativa automatizada como cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público 38. Si bien generalmente, los municipios han automatizado actuaciones procedimentales sencillas y rutinarias con escaso valor jurídico, a medida que se va desarrollando la inteligencia artificial se están impulsando iniciativas con las que automatizar algunos trámites de los procedimientos administrativos utilizando esta tecnología.

Por otro lado, en la misma dirección, cabe tener presente la regulación que hace la Ley 7/1985, de 2 de abril, reguladora de las bases del régimen local del uso de los medios electrónicos. En particular, esta norma establece que «las entidades locales y, especialmente, los Municipios, deberán impulsar la utilización interactiva de las tecnologías de la información y la comunicación para facilitar la participación y la comunicación con los vecinos, para la presentación de documentos y para la realización de trámites administrativos, de encuestas y, en su caso, de consultas ciudadanas» (art. 70 bis.3 LBRL). Además, también prevé con carácter general que las diputaciones y entidades equivalentes deberán cooperar con los municipios, especialmente con los de menor capacidad económica y de gestión y, de manera específica, prestarán los servicios de administración electrónica en los municipios con población inferior a 20.000 habitantes (art. 36 LBRL) 39.

Por último, la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación dispone con carácter básico que las Administraciones públicas deben favorecer el uso de sistemas de IA en la toma de decisiones que se basen en los principios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente, de acuerdo con lo que dispone la Estrategia Nacional de Inteligencia Artificial, de la Carta de derechos digitales y de las iniciativas europeas en torno a la Inteligencia Artificial (art. 23) 40.

Junto a la regulación estatal, también debe traerse a colación la legislación autonómica que incide en el uso de la inteligencia artificial en los gobiernos locales.

Como en el caso de la normativa estatal, al examinar la regulación autonómica se puede observar la existencia de normas que regulan de manera general el uso de los medios electrónicos en las Administraciones públicas locales junto con algunos casos en que de manera específica se regula el uso de la inteligencia artificial. No obstante, la mayoría de las normas autonómicas que por el momento han regulado el uso de la inteligencia artificial limitan su ámbito de aplicación a la administración autonómica no siendo de aplicación a los entes locales 41.

Por lo que respecta a la regulación autonómica del uso de los medios electrónicos y, en particular, la actuación administrativa automatizada podemos observar la existencia de una primera generación de normas que regulan el uso de los medios electrónicos en la Administración local. En esta dirección, podemos traer a colación, la Ley 26/2010, de 3 de agosto, de régimen jurídico y de procedimiento de las Administraciones públicas de Cataluña 42. Junto a ellas, en los últimos meses se ha ido aprobando —o están en curso de aprobación— 43 una segunda generación de normas que con la finalidad de impulsar la simplificación en las Administraciones públicas regulan el uso de la inteligencia artificial en las Administraciones locales. Como muestra, podemos referirnos a la Ley 2/2025, de 2 de abril, de Simplificación Administrativa de Cantabria, que reconoce que «la Administración Autonómica auxiliará a las Entidades Locales, conforme a su capacidad técnica, económica y autonómica funcional, para adoptar las medidas necesarias, que faciliten la accesibilidad de los servicios públicos a los vecinos, impulsando la utilización de las tecnologías de la información y la comunicación en la prestación de los mismos» (art. 49).

3.3. Las ordenanzas locales de administración digital y sus previsiones sobre el uso de la inteligencia artificial

La regulación local con incidencia en el uso de la inteligencia artificial es escasa.

En efecto, más allá de la aplicación que puedan tener en el uso de la inteligencia artificial las ordenanzas de administración electrónica aprobadas en la última década y, en particular, por lo que respecta a la regulación de la actuación administrativa automatizada 44, aún son pocas las normas locales que han incorporado una regulación particular del uso de los sistemas de inteligencia artificial.

Como muestra de interés, se puede traer a colación la Ordenanza de administración digital del Ayuntamiento de Tarragona que regula específicamente el uso de la inteligencia artificial 45. En la versión aprobada en septiembre de 2024, se actualiza la regulación del uso de los medios electrónicos para, entre otros aspectos, facilitar y fomentar el uso de la inteligencia artificial. En esta dirección, se incluye entre los principios de la administración digital, el de automatización y la inteligencia artificial que exige que los mecanismos automatizados para la toma de decisiones automatizadas basadas en inteligencia artificial sean éticos, confiables y respetuosos con los derechos y libertades fundamentales. Asimismo, prevé la creación del Registro de sistemas de inteligencia artificial del Ayuntamiento de Tarragona que será impulsado por la Comisión de Administración Digital para dar a conocer los sistemas utilizados por el municipio (art. 3.9).

Por su incidencia en la aprobación de ordenanzas locales sobre administración digital, también podemos referirnos a la Ordenanza-tipo de Transparencia y Administración Digital elaborada por el Consorcio Localret y que a lo largo de dos décadas ha sido un modelo utilizado por numerosos municipios catalanes 46. La nueva versión de la Ordenanza-tipo adoptada a finales de 2024 incorpora el principio de centralidad de la persona para garantizar, entre otros extremos, que el uso de la inteligencia artificial en el ayuntamiento responda a las necesidades de las personas y se respeten sus derechos y los principios éticos reconocidos a nivel europeo para el diseño y uso de los sistemas de inteligencia artificial (arts. 5 y 6). También prevé unos criterios que deben tenerse en cuenta al incorporar sistemas de inteligencia artificial cuya concurrencia será valorada de manera motivada por la oficina de transformación digital del ayuntamiento (por ejemplo, el impacto que pueda tener en los principios de la administración digital; el grado de automatización; la incidencia en los derechos de la ciudadanía; el nivel de fiabilidad, robustez y seguridad de los sistemas de IA; la información disponible sobre el sistema; su explicabilidad; la capacidad de garantizar la supervisión humana; o los costes) (art. 40). Además, establece la creación de un registro municipal de sistemas de inteligencia artificial (art. 41). Asimismo, reconoce que el personal al servicio del ayuntamiento pueda utilizar herramientas de inteligencia artificial generativa para el desarrollo de sus tareas y responsabilidades siempre y cuando no se reemplace su actividad y se cumpla con lo dispuesto (por ejemplo, supervisar de manera crítica los resultados obtenidos; informar sobre su uso; tener los conocimientos y las competencias necesarias para poder hacer un uso adecuado de la herramienta o adoptar las medidas de seguridad necesarias) (art. 42). Finalmente, regula la gobernanza de la transformación digital que incluye la creación de una oficina de transformación digital y de una oficina de datos (arts. 52 y ss.).

Junto a las ordenanzas sobre administración digital, algunos ayuntamientos han adoptado otras normas que inciden y fomentan el uso de los sistemas de inteligencia artificial tanto en el propio ayuntamiento como en el municipio.

En primer lugar, podemos referirnos a las ordenanzas reguladoras de la gobernanza de datos que definen principios, valores, normas y procedimientos en relación con la creación, gestión, acceso, reutilización y conservación de los datos en un ayuntamiento con el fin de garantizar su calidad. Como muestra, podemos mencionar la Ordenanza de Gobierno del Dato aprobada por el Ayuntamiento de Zaragoza que establece el marco para el gobierno del dato en el Ayuntamiento de Zaragoza y promueve el gobierno mediante el dato y la cultura del dato en la ciudad de Zaragoza 47. Esta ordenanza sigue el modelo de recogido en la Ordenanza Tipo del Gobierno del Dato en la entidad local adoptado en noviembre de 2023 por la Federación Española de Municipios y Provincias 48.

En segundo lugar, podemos traer a colación las ordenanzas sobre los espacios de pruebas, aquellos entornos controlados y seguros donde poder experimentar y probar nuevas soluciones tecnológicas o modelos de negocio bajo una supervisión regulatoria limitada, que serán utilizados por el ayuntamiento o en el municipio 49. Al respecto, en 2024, el Ayuntamiento de Valencia aprobó la Ordenanza Municipal reguladora del ­Sandbox Urbano de Valencia que regula el procedimiento para la adhesión y la utilización de espacios, infraestructuras y eventos de la ciudad de Valencia (Recursos Urbanos del Sandbox) que puedan servir como campo de pruebas en entornos relevantes, reales y controlados para el desarrollo de proyectos de innovación 50. Posteriormente, en 2025, el Ayuntamiento de Madrid ha adoptado la Ordenanza 1/2025, de 28 de enero, por la que se regula el entorno controlado de pruebas de proyectos innovadores de la ciudad de Madrid 51.

3.4. Otros instrumentos de regulación local de la inteligencia artificial

Además de las normas a que hemos hecho referencia, los gobiernos locales están utilizando otros instrumentos para regular el uso de la inteligencia artificial. En efecto, más allá de la aprobación de ordenanzas y reglamentos locales, algunos ayuntamientos están empleando otros instrumentos que tienen efectos ordenadores del proceso de implementación y uso de la inteligencia artificial a nivel local pero que no se adoptan siguiendo los procedimientos de elaboración de normas jurídicas ni tampoco comparten todos los elementos necesarios para poder ser considerados como normas jurídicas en sentido estricto.

Generalmente, estos instrumentos tienen una naturaleza política o meramente organizativa y con frecuencia carácter voluntario. No obstante, también pueden tener un carácter regulador y producir algunos efectos no solo a nivel interno sino también a nivel externo, ante la ciudadanía.

En esta dirección, los principales instrumentos que han sido utilizados por algunos ayuntamientos españoles son las cartas de derechos, los códigos éticos y los protocolos a los que nos referimos brevemente a continuación:

3.4.1. Cartas de derechos digitales

Los derechos digitales son una categoría de derechos que persigue garantizar la posición jurídica de las personas ante los riesgos que pueda entrañar el uso intensivo de la tecnología y, en particular, la extensión de la inteligencia artificial en las relaciones entre las Administraciones públicas y la ciudadanía 52.

Es habitual que estos derechos se recojan de manera sistemática en cartas de derechos digitales 53. Generalmente, estas cartas no tienen naturaleza normativa por lo que estos documentos no crean nuevos derechos en sentido estricto. Tampoco contemplan mecanismos de garantía de los derechos recogidos en ellas 54.

Más allá del valor político o pedagógico que se pueda derivar de la adopción de una carta de derechos digitales, la inclusión de derechos reconocidos en el ordenamiento jurídico sirve para ilustrar cómo se manifiestan en relación con los riesgos que puede entrañar el uso de la inteligencia artificial.

En esta dirección, el Ayuntamiento de Barcelona, en el marco de la Coalición de Ciudades por los Derechos Digitales 55, impulsó en 2021 un Manifiesto para la defensa de los derechos digitales que, entre otros extremos, proclamaba la soberanía tecnológica de las ciudades basada en el programario libre, los datos abiertos y los estándares, documentos y formatos de datos abiertos, se evocan los derechos digitales de la ciudadanía y reconocía la soberanía de datos.

3.4.2. Códigos éticos

Los códigos éticos son documentos que recogen con carácter sistemático los valores, principios o reglas éticas que orientan el diseño y el uso de los sistemas de inteligencia artificial 56.

Los códigos éticos son un instrumento de soft law que puede ejercer un papel relevante al concretar los estándares éticos que deben guiar la transformación digital 57. En esta dirección, los códigos éticos buscan promover determinadas conductas en las personas que intervienen en el proceso de transformación digital bien sea diseñando los sistemas de inteligencia artificial, bien sea utilizándolos para evitar o minimizar los riesgos inherentes al uso de esta tecnología con el fin de que «todas las personas que participan en el proceso de transformación digital desarrollen su actividad de acuerdo con determinados principios que inspiren su actividad y orienten su conducta» 58.

Además, los códigos éticos tienen una función informativa tanto para el personal al servicio del gobierno local como para la ciudadanía. También tienen un valor simbólico al plasmar un modelo de transformación digital con el que generar confianza en la ciudadanía sobre el uso adecuado de la inteligencia artificial.

Diversos ayuntamientos han reconocido el papel que debe tener la ética en el proceso de transformación digital y, en particular, en el diseño de los sistemas de inteligencia artificial siguiendo la senda de diversas declaraciones internacionales como la contenida en la Recomendación sobre la ética y la inteligencia artificial, adoptada por la UNESCO el 23 de noviembre de 2021 que aborda «la ética de la IA como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de las tecnologías de la IA en los seres humanos, las sociedades y el medio ambiente y los ecosistemas, y les ofrece una base para aceptar o rechazar las tecnologías de la IA».

En esta dirección, se puede traer a colación el Ayuntamiento de Barcelona que adoptó la «Estrategia municipal para el impulso de una inteligencia artificial ética» o el Ayuntamiento de Madrid que en su Estrategia de Inteligencia Artificial afirma que «La Estrategia de Transformación Digital del Ayuntamiento de Madrid, “Madrid Capital Digital” presta especial atención a la ética y la protección de los derechos digitales, buscando garantizar un proceso de digitalización humano e inclusivo que minimice los riesgos sobre las personas y el territorio».

Asimismo, existen otras iniciativas encaminadas no tanto a orientar el diseño de los sistemas de inteligencia artificial como a guiar la conducta de las instituciones y las personas que toman decisiones relacionadas con los sistemas de inteligencia artificial. En esta dirección, resulta de interés traer a colación el Código Ético para la utilización de los Datos y la Inteligencia Artificial de la Diputación Foral de Gipuzkoa y de su sector público 59.

3.4.3. Los protocolos

Los protocolos son documentos que establecen determinadas pautas o requisitos que deben cumplirse en las actividades que se desarrollen en el ayuntamiento en relación con el uso de los sistemas de inteligencia artificial.

Los protocolos se utilizan con frecuencia para determinar los trámites que deben seguirse para incorporar un sistema de inteligencia artificial en aquellos supuestos en los que no existe una actuación procedimentalizada en sentido estricto pero la propia Administración pública considera oportuno guiar su actuación y, en particular, la toma de decisiones 60. No obstante, no constituye un procedimiento en sentido formal al no estar previsto como tal en una norma jurídica ni tampoco tener identificados efectos jurídicos en el ordenamiento jurídico por su incumplimiento. Básicamente, son un canon de referencia del que se dota el propio gobierno local para guiar la adopción de la decisión de incorporar un sistema de inteligencia artificial.

En esta dirección, el Ayuntamiento de Barcelona, en 2022, adoptó el protocolo Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos. El protocolo establece varios trámites a cumplir en función del nivel de riesgo del sistema de inteligencia artificial. En el caso de los sistemas de alto riesgo, se prevé la necesidad de que se emita un estudio de impacto algorítmico por el consejo asesor de personas expertas en IA, ética y derechos digitales del Ayuntamiento de Barcelona y su inscripción en el registro municipal de algoritmos.

4. LA GOBERNANZA DE LA TRANSFORMACIÓN DIGITAL

La gobernanza de la transformación digital de los gobiernos locales está conformada por las normas, estructuras organizativas y los procedimientos para canalizar la interacción entre todos los actores que aportan sus recursos a este proceso y, al mismo tiempo, garantizar la transparencia y la rendición de cuentas 61.

La gobernanza de la transformación digital permite vehicular la toma de decisiones tanto en el procedimiento de definición de la estrategia y de elaboración de las normas que deben regir la incorporación de los sistemas de inteligencia artificial en los gobiernos locales como posteriormente en su aplicación. La gobernanza permite encauzar las capacidades y los recursos para avanzar en la transformación digital 62.

La gobernanza de la transformación digital está comportando cambios en el diseño institucional y organizativo de los gobiernos locales. Más allá del liderazgo y el control que puedan realizar los representantes electos, en función de los recursos de que dispone cada ayuntamiento, la transformación digital está siendo dirigida o impulsada por unidades que se encargan de coordinar las diferentes unidades, órganos y entidades municipales que participan activamente en el proceso de transformación y también vehicula la participación y colaboración empresarial y ciudadana en dicho proceso. En esta dirección, diversos ayuntamientos están creando oficinas especializadas (por ejemplo, oficinas de transformación digital, oficinas de datos, etc.). Otros incluso han nombrado comisionados o han organizado comités de dirección a los que han atribuido estas funciones. Estas unidades rinden cuentas ante el Pleno y también lo hacen ante la ciudadanía, particularmente, difundiendo información de calidad sobre las actuaciones que impulsan y gestionan.

Con frecuencia, la gobernanza de la transformación digital también incorpora a los gobiernos locales intermedios que asisten a los municipios en la elaboración de estrategias de transformación digital y de ciudad inteligente o en la prestación de servicios digitales 63.

La gobernanza de la transformación digital debe desarrollarse de acuerdo con unos principios que promuevan su buen funcionamiento y, por tanto, permitan alcanzar sus objetivos. Entre los principios de buena gobernanza destacan la transparencia, la participación y la rendición de cuentas.

Por lo que se refiere a la transparencia, los gobiernos locales deben garantizar que la ciudadanía tiene conocimiento de los sistemas de inteligencia artificial que se utilizan, de las decisiones que se toman en relación con la transformación digital o de los recursos que se utilizan para ello. En esta dirección, algunos ayuntamientos están impulsando distintas iniciativas entre las que destaca la puesta en funcionamiento de registros municipales de algoritmos 64.

En relación con la participación, los gobiernos locales deben incorporar a la ciudadanía en la toma de decisiones en el proceso de transformación digital 65. En esta dirección, algunos ayuntamientos están definiendo órganos para vehicular la participación y la colaboración ciudadana en la transformación digital de manera que se pueda contar con los recursos, visiones e intereses de la colectividad local representada por las empresas, la sociedad civil y la ciudadanía en general 66.

Asimismo, los ayuntamientos cuentan con la participación y la colaboración de las empresas y los centros de investigación como proveedores de sistemas de inteligencia artificial 67. Con esta colaboración a través de la contratación de determinados bienes y servicios, los gobiernos locales pueden suplir la falta de recursos, capacidades o conocimientos con los que abordar el proceso de transformación digital. No obstante, la colaboración de las empresas en el proceso de diseño e implementación de la administración digital puede comportar una dependencia tecnológica que impida a la Administración pública liderar el proceso y ceda el protagonismo en el diseño e implementación de la transformación digital al mercado de la mano de las grandes empresas multinacionales o consultoras que están liderando el desarrollo de la inteligencia artificial 68. Para tratar de enmarcar y encauzar esta colaboración, algunos ayuntamientos están impulsando la redacción de pliegos de cláusulas tipo para la contratación de sistemas de inteligencia artificial 69.

Por último, por lo que respecta a la rendición de cuentas, los cargos y el personal al servicio de cada gobierno local que participen en la transformación digital deben informar y justificar sus actuaciones ante la ciudadanía, contrastándolas con el marco de referencia públicamente establecido —bien sea la estrategia de transformación digital, bien sea la normativa vigente, bien sea el código ético adoptado—, y asumir las consecuencias derivadas de su conducta 70. Para poder rendir cuentas sobre la transformación digital, es necesario que el ayuntamiento impulse mecanismos de supervisión del uso de la inteligencia artificial de manera que se pueda garantizar el buen funcionamiento de los sistemas de inteligencia artificial y la adecuación de sus resultados al marco de referencia establecido 71.

5. REFLEXIONES FINALES

Los gobiernos locales están a las puertas de un proceso de transformación digital impulsado por el uso de la inteligencia artificial.

Este proceso puede ser estimulado y dirigido por cada gobierno local utilizando diferentes instrumentos que les han de permitir avanzar desde un punto de vista político, jurídico y organizativo en el proceso de construcción de una administración digital basada en el uso intensivo e innovador de la inteligencia artificial para recopilar y analizar colaborativamente los datos que genera el municipio con el fin para prestar servicios inclusivos, eficientes, resilientes, sostenibles y centrados en las personas y, en última instancia, dar respuesta a los retos que deben abordar los gobiernos locales en el siglo xxi.

El proceso de transformación digital que aborden cada gobiernos local debe dar una respuesta adecuada a los riesgos que puede generar el uso de la inteligencia artificial. Para ello es necesario que más allá de la aplicación de las normas aprobadas por la Unión Europea, el Estado y las Comunidades Autónomas, cada gobierno local adopte sus propias regulaciones con las que no solo garantizar la seguridad jurídica y los derechos de la ciudadanía sino también definir su propio modelo de administración digital.

---

1. * Fecha de finalización del trabajo: 11 de abril de 2025.

   Este artículo es resultado del proyecto de investigación «La mejora de las decisiones administrativas mediante el uso de IA, la experimentación y los sandboxes: especial atención al ámbito urbano y de vivienda» del Programa Estatal de I+D+i Orientada a los Retos de la Sociedad (PID2023-151396OB-I00).

   Abreviaturas utilizadas: RIA: Reglamento de Inteligencia Artificial.

2. 1 A pesar de la aproximación general seguida en el texto, es necesario tener presente que no hay un único modelo de transformación digital en la medida en que cada gobierno local está llevando su propio proceso en función de sus circunstancias y finalidades [M. Gascó Hernández, «Reflections on three decades of digital transformation in local governments», Local Government Studies, núm. 50(6), 2024].

3. 2 Por todas, la Resolución A/78/L.49 de la Asamblea General de Naciones Unidas advierte cómo «aprovechar las oportunidades de sistemas seguros, protegidos y fiables de inteligencia artificial para el desarrollo sostenible» reconoce cómo «unos sistemas seguros, protegidos y fiables de inteligencia artificial [...] tienen el potencial de acelerar y propiciar los avances hacia la consecución de los 17 Objetivos de Desarrollo Sostenible y el desarrollo sostenible en sus tres dimensiones (económica, social y ambiental)».

4. 3 Más allá de la transformación digital de los propios gobiernos locales, estos tienen un papel clave en el impulso de la adopción de la inteligencia en la Unión Europea tal y como reconoce el Comité Europeo de las Regiones en su Dictamen «Retos y oportunidades de la inteligencia artificial en el sector público: determinar el papel de los entes locales y regionales» de 21 de noviembre de 2024 (C/2025/288).

5. 4 En esta dirección, el Ayuntamiento de Barcelona utiliza sistemas de inteligencia artificial para identificar las necesidades sociales de las personas y sugerir los recursos adecuados para abordarlas. Accesible en https://ajuntament.barcelona.cat/mesames/noticia/posem-en-marxa-una-prova-pilot-dintel·ligencia-col·lectiva-a-tres-centres-de-serveis-socials/ (última consulta: abril de 2025). El Ayuntamiento de Madrid utiliza la inteligencia artificial para para combatir la soledad no deseada en las personas mayores. Accesible en https://diario.madrid.es/blog/notas-de-prensa/madrid-inicia-la-atencion-social-a-mas-de-600-mayores-en-soledad-no-deseada-detectados-mediante-inteligencia-artificial/ (última consulta: abril de 2025).

6. 5 Por ejemplo, el Ayuntamiento de Girona está automatizando la actualización del censo de vehículos a partir del uso de la robótica para automatizar los documentos en formato PDF que se reciben. Accesible en https://www.digicanvis.cat/projectes/automatitzacio-fitxes-vehicles/ (última consulta: abril de 2025). El Ayuntamiento de Málaga ha impulsado tres experiencias piloto para automatizar la tramitación de las subvenciones del programa de promoción de empleo y fomento del autoempleo, de las solicitudes de campamentos de verano y de prestaciones económicas del Área de Derechos Sociales. Accesible en https://www.malaga.eu/visorcontenido/ANUDocumentDisplayer/174036/COMUNICADO.pdf (última consulta: abril de 2025). La Diputación de Valencia actualiza el padrón de todos los municipios de la provincia utilizando inteligencia artificial. Accesible en: https://www.dival.es/es/sala-prensa/content/la-diputacio-de-valencia-actualizara-con-inteligencia-artificial-el-padron-de-todos-los-muni (última consulta: abril de 2025).

7. 6 En esta dirección, el Ayuntamiento de Barcelona ha desarrollado un proyecto para la mejora de la atención domiciliaria a personas mayores en situación de dependencia leve o con deterioro cognitivo inicial basado en inteligencia artificial y robótica social. Accesible en https://www.barcelona.cat/infobarcelona/es/prueba-piloto-con-600-robots-sociales-para-mejorar-la-atencion-domiciliaria_1487621.html (última consulta: abril de 2025). El Ayuntamiento de Málaga ha puesto en funcionamiento un perro-robot para ayudar a la Policía Local en labores de patrulla por las calles de la ciudad. Accesible en https://www.malaga.eu/el-ayuntamiento/notas-de-prensa/detalle-de-la-nota-de-prensa/index.html?id=170853 (última consulta: abril de 2025).

8. 7 Por ejemplo, el Ayuntamiento de Barcelona utiliza sistemas de inteligencia artificial para clasificar las consultas, quejas y sugerencias que el servicio IRIS recibe telemáticamente. Accesible en https://ajuntament.barcelona.cat/imi/es/proyectos/artificial-intelligence-threat-reporting-and-incident-response-system-iris (última consulta: abril de 2025). El Ayuntamiento de Madrid lanza un asistente virtual para inspirar a las personas que visitan la ciudad como turistas (VisitMadridGPT). Accesible en https://visitmadridgpt.esmadrid.com/chat (última consulta: abril de 2025). La Diputación de Sevilla ha puesto en marcha una plataforma de atención ciudadana inteligente que se pondrá a disposición de los ayuntamientos. Accesible en https://www.dipusevilla.es/comunicacion/noticias/La-Diputacion-de-Sevilla-pone-en-marcha-una-nueva-plataforma-de-atencion-ciudadana-inteligente-en-el-ayuntamiento-de-Camas/ (última consulta: abril de 2025).

9. 8 Así, el Ayuntamiento de Caín ofrece itinerarios personalizados a través de la plataforma Cicerone que también permitirá al consistorio conocer datos sobre el perfil del turista y sus preferencias. Accesible en https://coin.es/coin-ofrecera-estancias-personalizadas-traves-de-inteligencia-artificial-con-la-instalacion-de-la (última consulta: abril de 2025).

10. 9 Como advierte Pasquale «hoy en día disponemos de los medios para canalizar las tecnologías de la automatización en lugar de vernos atrapados o transformados por ellas» (F. Pasquale, Las nuevas leyes de la robótica. Defender la experiencia humana en la era de la IA, Galaxia Gutenberg, Barcelona, 2024, p. 25).

11. 10 E. Barcevičius, G. Cibaitė, C. Codagnone, V. Gineikytė, L. Klimavičiūtė, G. Liva e I. Vanini, Exploring Digital Government transformation in the EU, Publications Office of the European Union, Luxembourg, 2019.

12. 11 Desde una perspectiva más general, Innerarity señala que «la gran cuestión hoy es decidir si nuestras vidas deben estar regidas por procedimientos algorítmicos y en qué medida, cómo articular los beneficios de la robotización, automatización y digitalización con aquellos principios de autogobierno que constituyen el núcleo normativo de la organización democrática de las sociedades» (D. Innerarity, Una teoría crítica de la inteligencia artificial, Galaxia Gutenberg, Barcelona, 2025, pp. 20-21).

13. 12 Como recuerda Innerarity, «La digitalización no es el problema; el problema es pensarla y llevarla a cabo como algo que no requiere ningún formato, ningún tipo de intervención “política” expresa» (ibid., p. 201).

14. 13 R. Sandoval-Almazán, L. F. Luna-Reyes, D. E. Luna-Reyes, J. R. Gil-García, G. Puron-Cid y S. Picazo-Vela, «Developing a Digital Government Strategy for Public Value Creation», en R. Sandoval-Almazán, L. F. Luna-Reyes, D. E. Luna-Reyes, J. R. Gil-García, G. Puron-Cid y S. Picazo-Vela (eds.), Building Digital Government Strategies. Principles and Practices, Springer, Cham, 2017. En particular, desde la perspectiva a de los gobiernos locales, vid. A. David, T. Yigitcanlar, R. Y. M. Li, J. M. Corchado, P. H. Cheong, K. Mossberger y R. Mehmood, «Understanding local government digital technology adoption strategies: A PRISMA review», Sustainability, núm. 15(12), 2023.

15. 14 Más allá de las estrategias aprobadas en España, a nivel internacional, otros municipios también han adoptado sus estrategias para el impulso de la IA. Por ejemplo, The New York City Artificial Intelligence Action Plan.

16. 15 Vid., como ejemplo, la Estrategia de transformación digital del Ayuntamiento de Zaragoza 2024-2030. Accesible en https://www.zaragoza.es/contenidos/publicaciones/ZITIVERSE_estrategiadigital_zaragoza_ES.pdf (última consulta: abril de 2025).

17. 16 Así, por ejemplo, la estrategia de ciudad inteligente para Mannheim. Accesible en https://www.smart-city-dialog.de/wissensspeicher/publikationen/die-smart-city-strategie-der-stadt-mannheim (última consulta: abril de 2025).

18. 17 En esta dirección, City of Helsinki Data Strategy. Accesible en https://digi.hel.fi/english/helsinki-city-data-strategy/ (última consulta: abril de 2025).

19. 18 Vid., al respecto, https://ajuntament.barcelona.cat/premsa/2020/06/26/barcelona-tindra-la-primera-estrategia-municipal-dintelligencia-artificial-pionera-a-europa/ (última consulta: abril de 2025).

20. 19 Accesible en http://hdl.handle.net/11703/121795 (última consulta: abril de 2025).

21. 20 En este momento el Ayuntamiento de Barcelona está revisando su estrategia de inteligencia artificial. Accesible en https://ajuntament.barcelona.cat/digital/ca/actualitat/noticies/barcelona-avanca-en-la-creacio-duna-estrategia-municipal-dintelligencia-artificial-1489340 (última consulta: abril de 2025).

22. 21 Accesible en https://www.madrid.es/UnidadesDescentralizadas/OficinaDigital/Nav_OfDigital/ficheros/PlanesAccionPDFs/ItinerarioIA_Ayuntamiento%20de%20Madrid_V2.pdf (última consulta: abril de 2025).

23. 22 Accesible en https://web.granada.org/inet/innovacion.nsf/a92cce25f44227dbc125881b003909e1/de409a275514fcbac1258b9b0025f4e1/$FILE/Plan%20estrat%C3%A9gico%20IA.pdf (última consulta: abril de 2025).

24. 23 Como pone de manifiesto la Recomendación del Consejo de la OCDE sobre la inteligencia artificial adoptada en mayo de 2019 «la confianza es un vector clave de la transformación digital».

25. 24 En esta dirección, se pueden traer a colación iniciativas como Principios de la inteligencia artificial adoptados en la Conferencia de Asilomar en 2017 (https://futureoflife.org/ai-principles/) (última consulta: abril de 2025), los Diez principios para una Inteligencia artificial ética de la UNI Global Union (http://www.thefutureworldofwork.org/opinions/10-principles-for-ethical-ai/) (última consulta: abril de 2025) o la Recomendación sobre la ética y la inteligencia artificial, adoptada por la UNESCO el 23 de noviembre de 2021. En la Unión Europea, resultan de interés la Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, 2020 o, Directrices éticas para una IA fiable elaboradas en 2019 por un Grupo de expertos de alto nivel sobre inteligencia artificial.

26. 25 A. Cerrillo i Martínez, «La regulación de la administración electrónica local: el caso del Ayuntamiento de Barcelona», en T. Font i Llovet (ed.), Anuario de Gobierno Local. 2006, Institut de Dret Públic-Fundación Democracia local, Barcelona, 2007.

27. 26 Comisión Europea, Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones «Inteligencia artificial para Europa» COM(2018) 237 final, 2018.

28. 27 Parlamento Europeo, Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, 2020.

29. 28 Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) núm. 300/2008, (UE) núm. 167/2013, (UE) núm. 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

    Como advierte Peguera, «[e]l RIA es sin duda un reglamento complejo, ambicioso y a la vez revelador de difíciles equilibrios de intereses, que muestra la voluntad política de la UE de ser pionera en la regulación de la IA a nivel mundial y de fijar los estándares para otras jurisdicciones» [M. Peguera Poch, «Algunos aspectos del consenso interinstitucional en torno al Reglamento de IA», en A. Cerrillo i Martínez, F. Di Lascio, I. Martín Delgado y C. I. Velasco Rico (eds.), Inteligencia Artificial y Administraciones Públicas: una triple visión en clave comparada, Iustel, Madrid, 2024].

30. 29 Vid., al respecto, lo que dispone el Anexo IV en relación con la información que como mínimo debe contener la documentación técnica.

31. 30 M. Peguera Poch, «La propuesta de Reglamento de IA: Una intervención legislativa insoslayable en contexto de incertidumbre», en M. Peguera Poch (ed.), Perspectivas regulatorias de la inteligencia artificial en la Unión Europea, Reus, Madrid, 2023.

32. 31 Vid., al respecto, A. Cerrillo i Martínez, «El artículo 50 del Reglamento y las obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de inteligencia artificial», en L. Cotino Hueso y P. Simon Castellano (eds.), Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Aranzadi La Ley, Cizur Menor, 2024.

33. 32 De acuerdo con el RIA, la introducción en el mercado se refiere a la primera comercialización en el mercado de la Unión de un sistema de IA (art. 3 RIA).

34. 33 Según el RIA, la puesta en servicio consiste en el suministro de un sistema de IA para su primer uso directamente al responsable del despliegue o para uso propio en la Unión para su finalidad prevista, es decir, «el uso para el que un proveedor concibe un sistema de IA, incluidos el contexto y las condiciones de uso concretos, según la información facilitada por el proveedor en las instrucciones de uso, los materiales y las declaraciones de promoción y venta, y la documentación técnica» (art. 3 RIA).

35. 34 En relación con esta cuestión, resulta de interés Autoritat Catalana de Protecció de Dades, Modelo para la EIDF: guía y casos de uso. Metodología aplicada de la evaluación de impacto sobre los derechos fundamentales en el diseño y desarrollo de la IA, 2024.

36. 35 El Anexo VII identifica la información que debe presentarse para la inscripción en el registro de sistemas de IA de alto riesgo.

37. 36 Texto disponible en https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/european-data-strategy_es (última consulta: abril de 2025).

38. 37 Además, deben tenerse en cuenta otras normas aprobadas por la Unión Europea y que incidirán en estas mismas finalidades desde el Reglamento (UE) 2023/988 relativo a la seguridad general de los productos a los Reglamentos (UE) 2022/1925, del Parlamento Europeo y del Consejo, de 14 de septiembre, sobre mercados disputables y equitativos en el sector digital (Reglamento de Mercados Digitales), y 2022/2065, del Parlamento Europeo y del Consejo, de 19 de octubre, relativo a un mercado único de servicios digitales (Reglamento de Servicios Digitales) pasando por el Reglamento (UE) 2024/903, del Parlamento Europeo y del Consejo, de 13 de marzo, por el que se establecen medidas a fin de garantizar un alto nivel de interoperabilidad del sector público en toda la Unión (Reglamento sobre la Europa Interoperable).

39. 38 Este artículo se desarrolla por el art. 13 del Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos.

40. 39 Al respecto, vid. A. Cerrillo i Martínez, «La digitalización en los Gobiernos locales intermedios y la contribución al Plan de Recuperación, Transformación y Resiliencia», Cuadernos de derecho local, núm. 58, 2022.

41. 40 A tal fin, las Administraciones públicas deben promover las evaluaciones de impacto para poder identificar los posibles sesgos discriminatorios de los algoritmos. Además, deben promover el uso de una inteligencia artificial ética, confiable y respetuosa con los derechos fundamentales.

    Como recuerda Velasco, «el contenido de la LIITND es, en gran medida, de carácter programático y, hasta cierto punto, voluntarista» [C. I. Velasco Rico, «Marco regulatorio de los sistemas algorítmicos y de Inteligencia Artificial: El papel de la Administración», en P. Valcárcel Fernández y F. L. Hernández González (eds.), Actas XVIII Congreso de la Asociación Española de Derecho Administrativo, Instituto Nacional de Administración Pública, Madrid, 2024].

42. 41 Este sería el caso del Decreto-ley 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial en Extremadura que prevé que únicamente se aplicará a los órganos, organismos y entidades que conforman el sector público autonómico de Extremadura (art. 2); de la Ley valenciana 6/2024, de 5 de diciembre, de simplificación administrativa (art. 43), o de la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia (art. 2).

43. 42 Entre otros aspectos de interés, el art. 44 de la Ley 26/2010, de 3 de agosto, regula la actuación administrativa automatizada y establece que «solo son susceptibles de actuación administrativa automatizada los actos que puedan adoptarse con una programación basada en criterios y parámetros objetivos».

44. 43 En el momento de escribir estas páginas, por ejemplo, el proyecto de «Ley Simplifica» de Asturias o el Anteproyecto de Ley de Simplificación Administrativa de Castilla-La Mancha.

45. 44 Por ejemplo, el Acuerdo de 18 de noviembre de 2021 de la Junta de Gobierno de la Ciudad de Madrid, por el que se aprueban las directrices sobre actuación administrativa automatizada en el Ayuntamiento de Madrid o el Decreto de la Comisión de Gobierno del Ayuntamiento de Barcelona de aprobación definitiva de la regulación de las actuaciones administrativas automatizadas municipales de 10 de agosto de 2022.

46. 45 Boletín Oficial de la Provincia de Tarragona, de 30 de septiembre de 2024.

47. 46 Accesible en https://www.localret.cat/wp-content/uploads/2025/02/Ordenanca_transparencia_administracio_digital_2025.docx (última consulta: marzo de 2025).

48. 47 Boletín Oficial de la Provincia de Zaragoza, de 11 abril 2024, núm. 82.

49. 48 Accesible en http://femp.femp.es/files/3580-2414-fichero/ORDENANZA%20DEL%20DATO.pdf (última consulta: abril de 2025).

50. 49 Al respecto, debe tenerse en cuenta que el art. 16 de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes dispone que «los poderes públicos promoverán, reglamentariamente, la creación de entornos controlados, por periodos limitados de tiempo, para evaluar la utilidad, la viabilidad y el impacto de innovaciones tecnológicas aplicadas a actividades reguladas, a la oferta o provisión de nuevos bienes o servicios, a nuevas formas de provisión o prestación de los mismos o a fórmulas alternativas para su supervisión y control por parte de las autoridades competentes».

51. 50 Boletín Oficial de la Provincia de Valencia, de 18 de septiembre de 2024, núm. 181.

52. 51 Boletín Oficial del Ayuntamiento de Madrid, de 12 de febrero 2025, núm. 9817.

    En la actualidad, el Ayuntamiento de Barcelona está en curso de aprobar una ordenanza reguladora de los espacios de pruebas. Accesible en https://ajuntament.barcelona.cat/transparencia/es/entorno-controlado-pruebas (última consulta: marzo de 2025).

53. 52 En esta dirección, Barrio advierte que «el objetivo de esta nueva generación de derechos es corregir las externalidades negativas y los déficits de justicia e igualdad que están propiciando la falta de regulación jurídica adecuada que acompañe la revolución digital» (M. Barrio Andrés, «Génesis y desarrollo de los derechos digitales», Revista de las Cortes Generales, núm. 110, 2021). A su vez, Expósito señala que «los derechos digitales acometerían una doble finalidad: por un lado, la adaptación de los derechos reconocidos frente a los riesgos y amenazas que implica la implementación de la revolución tecnológica; y, por otro lado, los derechos de nueva creación que se configuren para dar respuesta a necesidades inéditas» [A. Expósito Gázquez, «Los derechos digitales: apertura del debate jurídico para su concreción y desarrollo», en A. Cerrillo i Martínez y S. E. Castillo Ramos-Bossini (eds.), La administración digital, Dykinson, Madrid, 2022].

54. 53 Una muestra la podemos encontrar en la Carta de derechos digitales aprobada por el gobierno estatal en junio de 2021. En relación a la Carta de Derechos Digitales, vid., entre otros trabajos, T. de la Quadra-Salcedo, «¿Por qué una carta de derechos digitales?», Revista de Registradores, núm. 92, 2021; S. de la Sierra Morón, «Una introducción a la Carta de derechos digitales», en L. Cotino Hueso (ed.), La Carta de Derechos Digitales, Tirant lo Blanch, Valencia, 2022 y, en particular, en relación con las ciudades inteligentes A. Cerrillo i Martínez, «Ciudades inteligentes y derechos digitales», en M. Mora Ruiz (ed.), De las Smart Cities a las Ciudades integradoras. Propuestas socio-jurídicas para una administración local del s. xxi, Dykinson, Madrid, 2023.

55. 54 De todos modos, algunas ordenanzas de administración digital incorporan auténticos derechos subjetivos. Por ejemplo, el art. 10 de la Ordenanza reguladora de la administración digital en el Concello da Coruña (Boletín Oficial de la Provincia de A Coruña, de 16 de junio de 2023, núm. 114).

56. 55 El Ayuntamiento de Barcelona forma parte junto a otros municipios como Nueva York o Ámsterdam de la Coalición de ciudades para los derechos digitales con el fin de proteger y promover los derechos digitales de la ciudadanía a escala global. Accesible en https://citiesfordigitalrights.org/sites/default/files/DeclarationCitiesDigitalRights_es-ES_0.pdf (última consulta: abril de 2025).

57. 56 El Dictamen «Retos y oportunidades de la inteligencia artificial en el sector público: determinar el papel de los entes locales y regionales» de 21 de noviembre de 2024 (C/2025/288) «recuerda la importancia de abordar los retos éticos relacionados con el uso de la IA».

58. 57 De todos modos, no puede desconocerse, como advierte Cotino que «es posible que el lector jurista vea diversos de los fundamentos y principios éticos que ahora se exponen como una serie de generalidades y lugares comunes para un jurista, especialmente porque la dogmática jurídica y el ordenamiento internacional y constitucional español parten de la dignidad como presupuesto de los derechos fundamentales y los derechos sean derechos subjetivos sean principios objetivos del ordenamiento jurídico» y «Para la cultura continental europea más legalista o al menos para quien suscribe puede verse la ética de la IA con cierto escepticismo» (L. Cotino Hueso, «Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho», Revista Catalana de Dret Públic, núm. 58, 2019).

59. 58 D. Canals Ametller y A. Cerrillo i Martínez, «Fundamentos de los principios éticos para la digitalización y el uso de la inteligencia artificial en los Gobiernos locales», en M. Villoria Mendieta (ed.), Una propuesta de código ético integral para la Administración local, Fundación Democracia y Gobierno Local, Madrid, 2024.

60. 59 Accesible en https://www.gipuzkoa.eus/documents/20933/6830633/datuak_eta_adimen_artifiziala_kode_etikoa-es.pdf/4e059551-a194-3482-17bc-e24532ff5e05?t=1677148478614 (última consulta: abril de 2025). Asimismo, en relación con esta cuestión, resulta de interés la propuesta recogida en M. Villoria Mendieta (ed.), Una propuesta de código ético integral para la Administración local (vol. 43), Fundación Democracia y Gobierno Local, Madrid, 2024.

61. 60 Respecto a esta cuestión, resultan de interés las consideraciones de Vaquer sobre el procedimiento de automatización reconociendo que «todo procedimiento (total o parcialmente) automatizado requiere un procedimiento administrativo previo conducente a disponer esa automatización» [M. Vaquer Caballería, «El procedimiento de automatización y los efectos de la automatización sobre los procedimientos administrativos», en M. Vaquer Caballería y J. Pedraza Córdoba (eds.), La actuación administrativa automatizada: sus claves jurídicas, Tirant lo Blanch, Valencia, 2025, p. 473].

62. 61 Por todos, Innerarity reconoce la importancia de la interacción al afirmar que «la tecnología es siempre el resultado de un proceso de negociación entre los progresos tecnológicos, los intereses económicos, las expectativas sociales, las exigencias legales y la configuración política» (D. Innerarity, Una teoría crítica de la inteligencia artificial, op. cit., p. 215).

63. 62 M. Gascó-Hernández, G. Nasi, M. Cucciniello y A. M. Hiedemann, «The role of organizational capacity to foster digital transformation in local governments: The case of three European smart cities», Urban Governance, núm. 2(2), 2022.

64. 63 Vid., al respecto, A. Cerrillo i Martínez, «La digitalización en los Gobiernos locales intermedios y la contribución al Plan de Recuperación, Transformación y Resiliencia», Cuadernos de derecho local, núm. 58, 2022.

65. 64 Por ejemplo, el Ayuntamiento de Barcelona en su estrategia para una IA ética y transparente ha previsto la creación de un registro municipal de algoritmos.

66. 65 El Dictamen del Comité Europeo de las Regiones «Retos y oportunidades de la inteligencia artificial en el sector público: determinar el papel de los entes locales y regionales» de 21 de noviembre de 2024 (C/2025/288) «invita a las ciudades y regiones a que impliquen a la ciudadanía en la elaboración de políticas en materia de IA mediante, por ejemplo, la creación de plataformas participativas y la organización de asambleas ciudadanas, foros en línea o consejos consultivos de la ciudadanía que permitan recabar información sobre la aplicación de la IA y sus repercusiones sociales, garantizando que las distintas voces marquen la dirección del desarrollo de la IA».

67. 66 En esta dirección, el Ayuntamiento de Barcelona creó en 2023 el Consejo Asesor en Inteligencia Artificial, Ética y Derechos Digitales que, entre otras funciones debe emitir un informe de impacto algorítmico sobre los sistemas de IA de alto riesgo. Accesible en https://www.barcelona.cat/infobarcelona/es/tema/derechos-digitales/nace-el-consejo-asesor-en-inteligencia-artificial_1276150.html (última consulta: abril de 2025).

68. 67 El Dictamen del Comité Europeo de las Regiones «Retos y oportunidades de la inteligencia artificial en el sector público: determinar el papel de los entes locales y regionales» de 21 de noviembre de 2024 (C/2025/288) «considera que la contratación pública y la gestión de proveedores desempeñan un papel importante en la capacidad de los entes locales y regionales para adoptar la IA de manera segura y responsable».

69. 68 Como señalan en general Mazzucato y Collington, «esta pérdida de conocimiento hace que muchas veces a los gestores del sector público no les quede más opción que recurrir a un contratista externo en busca de apoyo». Frente a este problema concluyen que «los gobiernos tienen que remar para poder dirigir el barco a medida que avanza por aguas inevitablemente tormentosas» (M. Mazzucato y R. Collington, El gran engaño. Cómo la industria de la consultoría debilita las empresas, infantiliza a los gobiernos y pervierte la economía, Barcelona, Taurus, 2024, pp. 182 y 275, respectivamente).

70. 69 El Ayuntamiento de Barcelona dispone de la Guía de contratación pública innovadora en el marco del Decreto de alcaldía S1/D/2017-1271, de 24 de abril, de contratación pública sostenible que prevé que en la adquisición de bienes y servicios se impulsarán medidas de potenciación de la innovación y de la Guía de compra pública de TIC del Ayuntamiento de Barcelona. Asimismo, el documento de Definición de metodologías de trabajo y protocolos prevé la elaboración de unas cláusulas tipo para la contratación de sistemas de IA fiables.

71. 70 M. Barreda Díez y A. Cerrillo i Martínez, «Midiendo la rendición de cuentas de la acción de gobierno: un análisis de las comunidades autónomas», Revista de Estudios Políticos, núm. 202, 2023. Al respecto, Cortina advierte que «siempre tiene que ser un ser humano quien tome la decisión última y deba dar razón de ella, en caso necesario» (A. Cortina, ¿Ética o ideología de la inteligencia artificial?: El eclipse de la razón comunicativa en una sociedad tecnologizada, Paidós, Barcelona, 2024, p. 73).

72. 71 Respecto a rendición de cuentas y la supervisión humana de la inteligencia artificial, vid. R. Crootof, M. E. Kaminski, W. Price e I. Nicholson, «Humans in the Loop», Vanderbilt Law Review, núm. 76, 2023, y J. Laux, «Institutionalised distrust and human oversight of artificial intelligence: towards a democratic design of AI governance under the European Union AI Act», AI & SOCIETY, núm. 39, 2023.