Manual de Derecho administrativo
Revista de Derecho Público: Teoría y Método
pp. 537-554
Madrid, 2025
Marcial Pons Ediciones Jurídicas y Sociales
DOI: 10.37417/ManDerAdm/L21
© Agustí Cerrillo Martínez
Editado bajo licencia Creative Commons Attribution 4.0 International License.
LECCIÓN 21
ACTUACIÓN AUTOMATIZADA, ROBOTIZADA E INTELIGENTE
Agustí Cerrillo Martínez
Universitat Oberta de Catalunya
SUMARIO: 1. TECNOLOGÍA, ADMINISTRACIÓN PÚBLICA Y DERECHO ADMINISTRATIVO.—2. LAS ACTUACIONES ADMINISTRATIVAS AUTOMATIZADAS: 2.1. La automatización de tareas sencillas, rutinarias y masivas; 2.2. La robotización de procesos; 2.3. El uso de la inteligencia artificial en las Administraciones públicas.—3. ELEMENTOS REGULADORES DE LA ACTUACIÓN ADMINISTRATIVA AUTOMATIZADA.—4. LOS PRINCIPIOS REGULADORES DE LA AUTOMATIZACIÓN DE LA ADMINISTRACIÓN PUBLICA: 4.1. El principio de seguridad jurídica; 4.2. El principio de transparencia; 4.3. El principio de igualdad y la no discriminación; 4.4. El principio de protección de datos personales; 4.5. El principio de seguridad; 4.6. Los principios de neutralidad tecnológica y de adaptabilidad al progreso de las tecnologías; 4.7. El principio de personalización y proactividad.—5. SUPERVISIÓN Y CONTROL DE LA ACTUACIÓN ADMINISTRATIVA AUTOMATIZADA.—6. EL IMPACTO DE LA AUTOMATIZACIÓN EN EL EMPLEO PÚBLICO.—7. BIBLIOGRAFÍA: 7.1. Bibliografía citada; 7.2. Bibliografía complementaria recomendada
1. La tecnología es uno de los principales medios de que dispone la Administración pública para desarrollar sus funciones, gestionar sus recursos y prestar los servicios públicos. Si bien desde antiguo la Administración pública ha ido utilizando diversas tecnologías en el desarrollo de su actividad, ha sido en las últimas décadas, al hilo del intenso desarrollo que ha experimentado la informática (desde los ordenadores a las redes de comunicación pasando por los dispositivos móviles o, últimamente, la inteligencia artificial) que se ha incrementado de manera significativa la contribución de la tecnología a los fines de la Administración pública e, incluso, se han ampliado las funciones que realiza la Administración así como los servicios que presta a la ciudadanía y las empresas.
2. El uso de la tecnología en la Administración pública no es solo un proceso técnico, sino que comporta al mismo tiempo la introducción de cambios en la organización y los procedimientos administrativos. La tecnología es un motor de la innovación pública. Mas, como ha afirmado la OCDE (2003), “la tecnología es un facilitador, pero no una solución”. Desde esta perspectiva, es necesario reconocer el importante papel que tiene el Derecho administrativo en el proceso de incorporación de la tecnología en la Administración pública y en su uso en las relaciones con la ciudadanía. En esta dirección, en los últimos años, a medida que la tecnología ha ido evolucionando y se ha ido extendiendo su utilización en el desarrollo de la actividad y en el funcionamiento de la Administración pública, se han ido sucediendo las normas que han reconocido o potenciado su uso y también las que han perseguido garantizar la seguridad jurídica y los derechos de la ciudadanía en sus relaciones con la Administración pública (supra § 1.45).
3. De hecho, ello no constituye una novedad de nuestra época. Así ha sucedido a lo largo de la historia del Derecho administrativo. Como muestra, podemos recordar que a inicios del siglo pasado la Gaceta de Madrid publicaba una Real Orden de 12 de febrero de 1900 por la que se disponía que en todas las oficinas estatales, provinciales y municipales se admitiese cualquier instancia o documento que se presentase hecho con máquina de escribir en los mismos términos y con iguales efectos que los escritos a mano.
4. De este modo, el Derecho administrativo ha ido regulando el uso de distintas tecnologías por la Administración pública a medida que estas se han ido incorporando con la voluntad de garantizar la seguridad y validez de su uso por los órganos administrativos y preservar los derechos de la ciudadanía. No obstante, a pesar del papel determinante del Derecho administrativo en la incorporación de la tecnología en la Administración pública ha sido habitual que la normativa haya ido por detrás de los cambios tecnológicos, que con frecuencia se han ido produciendo con mayor celeridad que la capacidad de las instituciones públicas para aprobar nuevas normas.
5. Por ello, de manera complementaria a la aprobación de nuevas normas se han ido utilizando otros instrumentos con la finalidad de regular el uso de la tecnología en la Administración pública, como la aprobación de normas técnicas (por ejemplo, las normas UNE sobre ciudad inteligente), la adopción de instrumentos de derecho dúctil (soft law) (por ejemplo, la Carta de Derechos Digitales de julio de 2021) o la asunción de códigos éticos (por ejemplo, la Estrategia municipal de algoritmos y datos para el impulso ético de la IA del Ayuntamiento de Barcelona).
6. Además de las normas de Derecho administrativo no se puede desconocer que otras normas pueden incidir en la regulación del uso de la inteligencia artificial en las Administraciones públicas. En esta dirección, es obligada la referencia al Reglamento de Inteligencia Artificial (RIA) que establece las normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial en la Unión Europea. El RIA clasifica los sistemas de inteligencia artificial en función de los riesgos que pueda generar en intereses públicos o derechos fundamentales. En función de estos riesgos, se prohíbe el uso de los sistemas de inteligencia artificial (art. 5), se somete a un conjunto de requisitos y obligaciones (capítulo III) o se exige el cumplimiento de determinadas obligaciones de transparencia (art. 50). Buena parte de los sistemas de inteligencia artificial que utilizarán las Administraciones públicas serán considerados de alto riesgo (por ejemplo, sistemas utilizados para determinar la admisión a centros educativos; sistemas utilizados para evaluar la admisibilidad para beneficiarse de servicios públicos o sistemas utilizados para evaluar el riesgo de ser víctima de infracciones penales o sistemas utilizados en la gestión del control fronterizo) (anexo III).
7. En cualquier caso, como muestra la lectura de las normas sobre procedimiento administrativo aprobadas en las últimas décadas, el Derecho administrativo ha ido acomodándose a la evolución que ha ido experimentando la tecnología.
8. Así, a finales del siglo pasado, cuando los ordenadores personales se extendían por las oficinas administrativas y también empezaban a formar parte los hogares españoles, la Ley 30/1992, de 26 de noviembre, de régimen jurídico y procedimiento administrativo común (LRJPAC) fue pionera a nivel comparado al reconocer la posibilidad de que la Administración pública pudiese utilizar los medios electrónicos. Así lo resumía el preámbulo de esta norma al reconocer que “la Ley se abre decididamente a la tecnificación y modernización de la actuación administrativa en su vertiente de producción jurídica y a la adaptación permanente al ritmo de las innovaciones tecnológicas”. Con esta ley se persiguió mejorar la eficiencia interna al tiempo que se fortalecían y facilitaban las relaciones interadministrativas y las relaciones con la ciudadanía.
9. No obstante, la LRJPAC no fue suficiente para extender el uso de la tecnología en la Administración pública ni para garantizar el ejercicio de los derechos y obligaciones de la ciudadanía en especial cuando las redes de comunicaciones ya eran utilizadas de manera generalizada. Por ello, se aprobó la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los servicios públicos, que profundizó en esta dirección regulando con carácter general el uso de los medios electrónicos en la tramitación del procedimiento administrativo. Según el preámbulo de esta norma ello se debía a que la regulación introducida en la LRJPAC “dejan en manos de las propias Administraciones determinar si los ciudadanos van a poder de modo efectivo, o no, relacionarse por medios electrónicos con ellas, según que estas quieran poner en pie los instrumentos necesarios para esa comunicación con la Administración”. De este modo, la Ley 11/2007 hizo una apuesta decidida por el uso de los medios electrónicos al “dar el paso del «podrán» por el «deberán»”. Entre otros aspectos, esta norma reguló el derecho de las personas a comunicarse con la Administración pública por medios electrónicos y determinó los aspectos básicos del régimen jurídico de la administración electrónica.
10. A pesar del avance que supuso la Ley 11/2007, con el tiempo se volvió a constatar que la nueva regulación no era suficiente para consolidar el uso de la tecnología en la Administración pública. Por ello, la Ley 39/2015, de 1 de octubre, de procedimiento administrativo común de las administraciones públicas (LPAC), partiendo de la idea de que “en el entorno actual, la tramitación electrónica no puede ser todavía una forma especial de gestión de los procedimientos sino que debe constituir la actuación habitual de las Administraciones”, reconoce que el procedimiento se impulsa de oficio en todos sus trámites y a través de medios electrónicos (art. 71 LPAC). De este modo, no solo se persigue servir “mejor a los principios de eficacia y eficiencia, al ahorrar costes a ciudadanos y empresas, sino que también refuerza las garantías de los interesados”.
11. A pesar de la voluntad del legislador de ir adaptando la normativa al desarrollo de la tecnología, en los últimos años nuevas tecnologías han adquirido una importancia relevante, planteando nuevos retos a la Administración pública y, por ende, al Derecho administrativo. En efecto, en la actualidad, las tecnologías disruptivas —como la inteligenciad artificial, el Internet de las cosas o las cadenas de bloques— están llamando a las puertas de la Administración pública pero aún no son objeto de una regulación específica. Además, con la incorporación de estas nuevas tecnologías, se están sentando las bases de un nuevo modelo de Administración pública, la administración digital, resultado de un complejo proceso de transformación que implica un cambio profundo tanto desde el punto de vista de su organización, actividad y funcionamiento como de sus relaciones con la ciudadanía. Este nuevo modelo, que aún no encuentra un reflejo suficientemente adecuado en nuestro ordenamiento jurídico, se irá trasladando poco a poco a través de la aprobación de nuevas normas que permitan garantizar la seguridad jurídica y los derechos de las personas al tiempo que impulsan la innovación en la Administración pública al ritmo que evoluciona la tecnología.
12. La tecnología tiene numerosas manifestaciones y utilidades en la Administración pública. Desde facilitar la gestión interna o permitir la comunicación entre la Administración pública y la ciudadanía y las empresas, hasta el análisis de datos generados en la prestación de los servicios públicos pasando por la tramitación del procedimiento administrativo.
13. Una de las aplicaciones de la tecnología en la Administración pública que mayor efecto puede tener tanto desde el punto de vista organizativo como jurídico es la automatización de la actividad de la Administración. La automatización de la Administración pública consiste en el uso de la tecnología para la adopción de actos o el desarrollo de actuaciones sin la intervención directa de personas. La automatización puede reportar numerosos beneficios a la Administración pública, como una mayor eficacia, eficiencia o economía. No obstante, también puede generar riesgos, como la despersonalización o una mayor dificultad para controlar la actuación de la Administración pública. La existencia de estos riesgos exige adoptar medidas para evitar que, por ejemplo, deriven en el incumplimiento de la normativa sobre el procedimiento administrativo o en una vulneración de los derechos de las personas.
14. La Administración pública está utilizando la tecnología para desarrollar tareas sencillas y rutinarias, es decir, que no implican una actividad compleja de interpretación del ordenamiento jurídico, de razonamiento o de análisis de los hechos sino simplemente la comprobación de unos determinados datos o su comunicación a la persona interesada. Generalmente, estas tareas también tienen un carácter masivo, afectando a grandes volúmenes de personas interesadas en un mismo tipo de procedimiento administrativo.
15. La automatización de tareas sencillas, rutinarias y masivas es una aplicación de la tecnología muy habitual y generalizada que, entre otros beneficios, supone una mayor eficiencia administrativa, un importante ahorro de recursos y un menor tiempo de respuesta por parte de la Administración pública.
16. Una lectura de la LPAC permite identificar algunas tareas sencillas que se prevé que se desarrollarán por la Administración pública de manera automatizada, como la expedición automática del recibo del registro electrónico (art. 16 LPAC), la comprobación automática de datos de una solicitud (art. 66 LPAC), la digitalización automática de documentos presentados en papel (art. 27.1 LPAC), el impulso automático del procedimiento (art. 71 LPAC) o la publicación de notificaciones y anuncios en el Boletín Oficial del Estado (Disposición adicional tercera LPAC).
17. Además de estas actuaciones, existen otras tareas rutinarias que, a pesar de no estar explícitamente previstas en la LPAC como tales, es habitual que las Administraciones públicas también las realicen de manera automatizada como, por ejemplo, la foliación automática de expedientes (art. 70.2 LPAC), la migración automática de documentos electrónicos (art. 17.1 LPAC), la remisión automática de comunicaciones electrónicas al ciudadano (art. 43 LPAC) o el intercambio de datos entre administraciones públicas (art. 44 LRJSP).
18. Otras normas también han previsto la automatización de determinadas tareas masivas. Este sería el caso de la tramitación de los procedimientos sancionadores por infracciones a las normas de circulación y seguridad. La automatización se produce tanto en la captación de los hechos constitutivos de infracción (a través de cinemómetros fijos, de tramo o láser) como en la tramitación del procedimiento sancionador, en particular, en la tramitación de las denuncias. En esta dirección, la Administración General del Estado creó el Centro de Tratamiento de Denuncias Automatizadas encargado de tramitar de manera automatizada las infracciones que se hayan detectado a través de medios técnicos (Orden INT/2035/2007, de 2 de julio) que desde su creación ha tramitado de manera automatizada más de veinte millones de denuncias por exceso de velocidad correspondientes a todas las comunidades autónomas en las que no está transferida la competencia.
19. La Administración pública también está utilizando la tecnología para robotizar la realización de determinadas tareas.
20. Los robots son dispositivos que se definen por su capacidad para relacionarse con el entorno a través de sensores o del intercambio de datos, para analizar los datos a su disposición, así como para adaptar de manera autónoma su comportamiento al entorno. No todos los robots tienen un soporte físico tal y como nos imaginamos o hemos visto. Tampoco todos los robots se basan en el uso de inteligencia artificial y en muchas ocasiones simplemente actúan de acuerdo con las reglas programadas previamente.
21. Hoy en día, la mayoría de los robots que utiliza la Administración pública se caracterizan por ser aplicaciones que interactúan con otras aplicaciones, pantallas o sistemas de manera automática, actuando como si fuesen personas. Pero es probable que, como ya sucede en otros países, en un futuro las Administraciones públicas también utilicen robots para la prestación de servicios sanitarios, sociales o de transporte.
22. En la actualidad, los robots ya se utilizan por muchas Administraciones públicas para la automatización de procesos (automatización robótica de procesos o RPA, en sus siglas en inglés). En este caso nos encontramos ante programas diseñados para realizar un conjunto de acciones predefinidas en sistemas de información que tienen la capacidad de emular o replicar actividades humanas como interpretar o manipular pantallas, acceder o cruzar bases de datos, realizar cálculos sin la necesidad de que intervenga una persona, rellenar formularios, transcribir información o coordinar aplicaciones o navegar por Internet buscando información. Los robots leen datos contenidos en ficheros, bases de datos, documentos ofimáticos o pantallas de aplicaciones; realizan cálculos con ellos o toman decisiones a partir de ellos y, en su caso, escriben en dichas aplicaciones o en otras bases de datos los resultados obtenidos, rellenan formularios o se conectan a sistemas.
23. Por ejemplo, algunas administraciones públicas ya han robotizado la tramitación de expedientes relativos a las licencias para la instalación de terrazas, la localización de personas que se encuentran en concurso de acreedores y tienen alguna deuda con la Administración pública o para identificar apartamentos turísticos que no están inscritos en el registro correspondiente. Estas tareas son repetitivas y rutinarias y, habitualmente, también masivas.
24. Generalmente, la automatización robótica de procesos se basa en reglas precisas, sencillas, fijadas previamente por la normativa que regula el procedimiento.
25. Pero la Administración pública también utiliza robots para interaccionar con las personas en lenguaje natural. Los llamados robots conversacionales o chatbots permiten que las personas se puedan relacionar con los dispositivos utilizando lenguaje oral o escrito siendo el ordenador capaz de entender el mensaje recibido y actuar consecuentemente. En la mayoría de los casos, los robots conversacionales interactúan con las personas a partir de información guardada previamente en una base de datos. Pero ya existen algunos robots que generan de manera autónoma la respuesta a las demandas formuladas por una persona gracias al uso de inteligencia artificial generativa como ChatGPT.
26. La Administración pública está utilizando robots conversacionales para automatizar la información o la asistencia a las personas, en general, o para el asesoramiento en la tramitación de un procedimiento o respecto a la prestación de un servicio público.
27. Así, por ejemplo, la Agencia Estatal de la Administración Tributaria dispone de un chatbot para solucionar dudas sobre el IVA a los autónomos; el Ayuntamiento de Madrid pone a disposición de la ciudadanía un robot para atender dudas tributarias; o el Ayuntamiento de Málaga dispone de Victoria la Malagueña, un robot conversacional que facilita a vecinos y vecinas información de interés general como aparcamientos públicos disponibles, la frecuencia de los autobuses o los equipamientos de la ciudad y, por si fuera poco, también cuenta chistes y explica expresiones típicas de la ciudad a los turistas.
28. La robotización de procesos puede generar numerosos beneficios para la Administración pública al reducir significativamente los costes de la realización de determinadas tareas o la prestación de algunos servicios. Además, permite incrementar la disponibilidad al ofrecer servicio permanente e ininterrumpido 24 horas al día 7 días a la semana, la reducción de tiempos de espera o, incluso, la calidad y la personalización de la atención a las personas. No obstante, la falta de intervención de un empleado público en la realización de estas tareas puede generar una distancia, falta de empatía o, incluso, errores.
29. Por último, la Administración pública también está utilizando la tecnología para la toma de decisiones, o para apoyar a los empleados públicos en la toma de decisiones.
30. En esta dirección, el uso de la inteligencia artificial ha abierto un abanico de nuevas posibilidades al atribuir a los ordenadores la capacidad de realizar tareas típicamente humanas, es decir, que entrañan el uso de inteligencia. A través de la inteligencia artificial, los ordenadores pueden emular facultades intelectuales humanas para realizar tareas propias de las personas.
31. Sin embargo, debe tenerse presente la dificultad que existe para definir la inteligencia artificial puesto que no es una única tecnología, sino que es un conjunto diverso de tecnologías que responden a diferentes tradiciones científicas y que han experimentado un desarrollo diverso. Según el Reglamento de Inteligencia Artificial, esta tecnología consiste en “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”.
32. De hecho, la inteligencia artificial está de moda. Los medios de comunicación dan noticia a diario de nuevos avances de esta tecnología. Todos tenemos en la memoria algunos hitos recientes logrados por la inteligencia artificial como cuando Deep Blue ganó al campeón del mundo de ajedrez Kasparov o cuando Alphago consiguió tiempo más tarde vencer al surcoreano Lee Sedol, campeón mundial de este popular juego de mesa. Estas son solo dos muestras de los logros que ha ido consiguiendo en la última década la inteligencia artificial. Pero más allá de estos mediáticos ejemplos, es necesario tener presente que la inteligencia artificial está detrás de muchas actividades cuotidianas algunas de las cuales tienen un importante impacto económico, social o personal (por ejemplo, los vehículos autónomos sin conductor, la detección de enfermedades a partir del análisis de imágenes, el diseño de nuevos medicamentos, o la personalización de la información en las redes sociales). El impacto a medio y largo plazo que se espera de la inteligencia artificial es tal que se ha reconocido que esta tecnología disruptiva será el fundamento de la cuarta revolución industrial como en el pasado lo fueron la máquina de vapor, la electricidad o los ordenadores.
33. La inteligencia artificial se basa en el uso de algoritmos y de datos. Los algoritmos son procedimientos a través de los cuales los ordenadores pueden encontrar la solución a un problema. Existen diversos tipos de algoritmos, siendo los algoritmos de aprendizaje automático los que en la actualidad ofrecen mayores posibilidades. Estos algoritmos tienen la capacidad de identificar patrones a partir de los datos que se ponen a su disposición, construyendo modelos cuya calidad es evaluada estadísticamente y mejorada a partir de los resultados que se van obteniendo.
34. El uso de algoritmos de aprendizaje automático en la Administración ha planteado el debate respecto a cuál es su naturaleza jurídica. Para algunos autores, un algoritmo cumple las funciones propias de un reglamento por lo que deberían adoptarse de acuerdo con el procedimiento de elaboración de las disposiciones reglamentarias, se les debería dar la publicidad propia de las normas jurídicas y, en última instancia, deberían poder ser controlados a través de los mecanismos previstos para los reglamentos (supra § 16.82) (BOIX, 2020: 262). Para otros autores, los algoritmos pueden cumplir distintas funciones como ser medios auxiliares de la Administración pública, ser medios complementarios de las normas, o ser medios para objetivar decisiones pero en cualquier caso “los algoritmos son algoritmos y los reglamentos son reglamentos” (HUERGO, 2020: 66). Probablemente, no existe una respuesta única respecto a cuál es la naturaleza jurídica del algoritmo en la medida en que no todos los algoritmos tienen la misma configuración ni finalidad ni tampoco todos tienen la misma capacidad innovadora. En cualquier caso, es necesario que en el diseño y uso de los algoritmos se contemplen los principios propios de la automatización de la Administración pública (supra § 21.4).
35. Para funcionar los algoritmos necesitan datos. De hecho, en los últimos años la explosión que ha experimentado la inteligencia artificial ha sido gracias a la disponibilidad de grandes volúmenes de datos siendo común referirse a los datos son el nuevo oro o el petróleo del siglo xxi. Cada día se producen más datos, y los datos disponibles se incrementan de manera exponencial siendo su uso cada vez más generalizado.
36. Como se expone posteriormente, la Administración pública genera y recaba en el ejercicio de sus funciones y en la prestación de los servicios públicos grandes cantidades de datos (infra § 28.10). Además de ser utilizados por la Administración pública en la gestión pública, en la prestación de servicios públicos o para facilitarlos a la ciudadanía en cumplimiento del principio de transparencia, estos datos pueden ser utilizados por la Administración pública para diseñar nuevos algoritmos, para evaluar su desempeño o para automatizar la toma de decisiones. Los datos en poder de la Administración pública pueden ser analizados a través de la minería de datos y las técnicas de datos masivos (big data) para anticipar modelos de comportamiento de la ciudadanía, prestar servicios de manera proactiva o personalizar las actuaciones de la Administración pública a las circunstancias de cada persona o anticipar o evaluar los efectos de las decisiones administrativas.
37. En síntesis, y de acuerdo con lo indicado en los párrafos precedentes, la inteligencia artificial puede ser utilizada por la Administración pública para el procesamiento del lenguaje natural (por ejemplo, para que los ordenadores puedan interpretar de manera automática el contenido de los formularios). La inteligencia artificial también puede ser utilizada para el reconocimiento de imágenes (por ejemplo, para reconocer a las personas a través de su cara). Asimismo, la Administración pública puede utilizar la inteligencia artificial para automatizar procesos a partir del análisis del entorno (por ejemplo, para prestar el servicio público de transporte urbano con vehículos sin conductor). Por último, la inteligencia artificial puede ser utilizada para analizar datos y para automatizar la toma de decisiones o predecir decisiones y sus efectos que, posteriormente, pueden ser asumidos por aquel que tenga la competencia para adoptarla. Lo más habitual es que la Administración pública utilice la inteligencia artificial como apoyo en la toma de decisiones por parte del órgano competente a través de la intervención de una persona que basa su decisión en la información generada de manera automatizada por un algoritmo. Pero también es posible que el acto administrativo sea adoptado de manera automatizada por el algoritmo sin que medie intervención humana. Es lo que se conoce como actuación administrativa automatizada.
38. La Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público (LRJSP) prevé que la actuación administrativa automatizada es “cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público” (art. 41).
39. Algunas comunidades autónomas (por ejemplo, Andalucía, Cataluña, Comunidad Valenciana o Galicia) han regulado con mayor detalle o precisión la actuación administrativa automatizada. Como ejemplo, se puede citar la Ley gallega 4/2019, de 17 de julio, de administración digital, que prevé que la administración y el sector público autonómico promoverán las actuaciones administrativas automatizadas. Igualmente, el Decreto andaluz 622/2019, de 27 de diciembre, de administración electrónica, simplificación de procedimientos y racionalización organizativa, que establece que en materia de administración electrónica se tendrá en cuenta, entre otros principios, el impulso de la actuación administrativa automatizada (art. 3.2.g) y se promoverá activamente la actuación administrativa automatizada (art. 40). Posteriormente, otras normas han dado un paso más regulando la automatización de la actividad administrativa a través de la robotización y el uso de la inteligencia artificial (por ejemplo: Ley valenciana 6/2024, de 5 de diciembre, de simplificación administrativa; Ley balear 7/2024, de 11 de diciembre, de medidas urgentes de simplificación y racionalización administrativas de las administraciones públicas; y Ley gallega 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia).
40. De la lectura de la LRJSP se pueden identificar tres elementos que caracterizan una actuación administrativa automatizada: se trata de una actuación realizada a través de medios electrónicos; en el marco de un procedimiento administrativo; y que se realiza sin intervención directa de empleado público.
41. La actuación administrativa automatizada es aquella realizada íntegramente a través de medios electrónicos. Si bien la LRJSP no define qué se entiende por medio electrónico, de acuerdo con el Diccionario Panhispánico de la Real Academia de la Lengua, un medio electrónico es cualquier “mecanismo, instalación, equipo o sistema que permite producir, almacenar o transmitir documentos, datos e informaciones, incluyendo cualesquiera redes de comunicación abiertas o restringidas como internet, telefonía fija y móvil u otras”.
42. La actuación administrativa automatizada es aquella que tiene carácter formalizado al desarrollarse en el marco de un procedimiento administrativo. A pesar de ello, no hay obstáculo para que la Administración pública también pueda automatizar otras actividades a través del uso de la tecnología si bien no será, en sentido estricto, una actuación administrativa automatizada (por ejemplo, la prestación automatizada de servicios públicos relacionados con la movilidad, el transporte o la seguridad ciudadana).
43. Por último, la actuación administrativa automatizada es aquella que se realiza sin la intervención humana. Este elemento es el que tradicionalmente ha generado mayores dudas en la medida en que “la total ausencia de intervención de persona física en la adopción de una resolución administrativa parece no encajar en la construcción dogmática” de la teoría del órgano y del concepto de acto administrativo (MARTÍN, 2009: 356). No obstante, en la actualidad, la ausencia de intervención humana en la actuación administrativa automatizada está ampliamente aceptada a la vista de la previsión contenida en la LRJSP.
44. Sin embargo, últimamente, se ha abierto un nuevo debate en relación con la ausencia de intervención humana en la producción de actos administrativos en particular, cuando estos sean el resultado del ejercicio de potestades discrecionales. En relación con esta cuestión, algunos autores consideran que no debería ser posible el ejercicio automatizado de potestades discrecionales (VALERO, 2007: 75). En particular, Ponce se refiere a la necesidad de establecer “una reserva para la toma de ciertas decisiones a humanos, lo que denominaremos aquí una reserva de humanidad” recomendando a su vez “la prohibición del uso de la IA en relación con ejercicio de potestades discrecionales” (PONCE, 2019).
45. En esta dirección la Ley catalana 26/2010, de 3 de agosto, de régimen jurídico y de procedimiento de las administraciones públicas dispone que las Administraciones públicas “pueden realizar actuaciones automatizadas para constatar la concurrencia de los requisitos que establece el ordenamiento jurídico, declarar las consecuencias previstas, adoptar las resoluciones y comunicar o certificar los datos, los actos, resoluciones o los acuerdos que consten en sus sistemas de información, mediante la utilización del sistema de firma electrónica que determinen” (art. 44). La Ley balear 7/2024, de 11 de diciembre, de medidas urgentes de simplificación y racionalización administrativas de las administraciones públicas de las Illes Balears establece que “En ningún caso se pueden llevar a cabo mediante actuaciones administrativas automatizadas actividades que supongan juicios de valor” (art.66). Por último, la Ley gallega 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia limita, en principio, el uso de sistemas de inteligencia artificial que sirvan para la adopción de actos administrativos formalizados a aquellos supuestos que no requieran de una valoración subjetiva de las circunstancias concurrentes o una interpretación jurídica (art.12).
46. Por el contrario, otros autores ya señalan que la Administración pública no solo puede utilizar la inteligencia artificial para adoptar decisiones discrecionales, sino que es en el ejercicio de estas potestades donde esta tecnología puede tener una mayor aportación (BOIX, 2020: 229).
47. Probablemente no cabe una respuesta única y general a esta cuestión, que debe venir guiada por el principio de precaución y determinada por las propias posibilidades que vaya ofreciendo la inteligencia artificial a medida que se vaya desarrollando. Hoy en día la inteligencia artificial es más eficiente que las personas en entornos de baja complejidad o en ámbitos en los que el volumen de datos disponibles sea elevado, siendo ya capaz de realizar procesos analíticos complejos en pequeñas fracciones de tiempo, de modo que en tales entornos puede ser más eficiente para la producción de determinados actos administrativos. En cambio, en entornos con gran incertidumbre o con datos poco precisos o de baja calidad, los errores que puede producir la inteligencia artificial son muy superiores a los generados por los empleados públicos.
48. En esta dirección, la Carta de Derechos Digitales —que no es una norma jurídica sino un instrumento de derecho dúctil (soft law) aprobado por el gobierno en julio de 2021 que debe guiar la actividad de las administraciones públicas en el entorno digital— indica, en relación con el uso de la inteligencia artificial, que se promoverá el derecho de la ciudadanía a que la adopción de decisiones discrecionales quede reservada a personas, salvo que normativamente se prevea la adopción de decisiones automatizadas con garantías adecuadas.
49. La automatización de la Administración pública, como cualquier actividad administrativa, se somete a distintos principios previstos en el ordenamiento jurídico. En particular, cuando la Administración pública decide automatizar un proceso, incorporar robots en su actuación y funcionamiento o utilizar la inteligencia artificial en la toma de decisiones deben tener en cuenta los principios de la administración digital que recoge la LRJSP y que ha precisado y ampliado el Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos (RAFME).
49 bis. La Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, es la primera norma en España que incorpora una referencia al uso de la inteligencia artificial y los mecanismos de toma de decisión automatizados en las Administraciones públicas (art. 23). Esta norma dispone que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas deben tener en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, ser confiable y respetuosa de los principios éticos y los derechos fundamentales. En la misma dirección, el Decreto-ley extremeña 2/2023, de 8 de marzo, de medidas urgentes de impulso a la inteligencia artificial en Extremadura. Por último, resulta de interés la regulación de los principios para una gestión responsable de la inteligencia artificial que hace la Ley gallega 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia.
50. La seguridad jurídica debe guiar el uso de la tecnología en la Administración pública para generar en la ciudadanía la expectativa razonablemente fundada en el contenido de las decisiones cuando son tomadas de manera automatizada (art. 3.1.e) LRJSP). Esto es especialmente relevante en los casos en los que la Administración pública utilice algoritmos de aprendizaje automático que pueden ir evolucionando a medida que vayan aprendiendo de nuevos datos.
51. Por otro lado, la Administración pública debe adoptar las medidas necesarias para evitar que los algoritmos puedan generar decisiones erróneas debido a fallos en su diseño o a la baja calidad de los datos que utilicen y que, eventualmente, estos errores puedan llegar a generar daños que podrían tener un impacto generalizado al automatizar la adopción de decisiones que pueden afectar a un número elevado de personas.
52. El uso de la inteligencia artificial en la Administración pública puede poner en entredicho el principio de transparencia que debe guiar su funcionamiento (art. 3.1.c) LRJSP y Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno). En efecto, los algoritmos de aprendizaje automático pueden ser opacos. De hecho, con frecuencia se los define como cajas negras (black boxes).
53. Esta opacidad puede deberse a la complejidad del diseño de los algoritmos y su carácter dinámico y cambiante en función de los datos disponibles. La opacidad también puede responder a la aplicación de alguno de los límites que prevé la legislación de transparencia para proteger bienes o derechos —como la seguridad ciudadana, la propiedad intelectual o los datos personales— o la legislación de contratos para proteger la confidencialidad. Por último, la opacidad puede traer causa del propio funcionamiento de la Administración, que puede desconocer la existencia o funcionamiento de los algoritmos o puede tener interés en no facilitar información sobre los mismos para evitar que pueda eludirse su uso (por ejemplo, para evitar que si un defraudador conoce el funcionamiento del algoritmo de detección del fraude pueda cambiar su comportamiento con la finalidad de evitar ser detectado).
54. En la medida en que un algoritmo es información pública, para garantizar la transparencia en el uso de la inteligencia artificial, la Administración pública debería difundir en la sede electrónica la relación de algoritmos utilizados tal y como dispone el RAFME (art.11.1.i) al prever que toda sede electrónica ha de tener como mínimo la relación actualizada de las actuaciones administrativas automatizadas vinculadas a los servicios, procedimientos y trámites disponibles acompañada de la descripción de su diseño y funcionamiento, los mecanismos de rendición de cuentas y transparencia, así como los datos utilizados en su configuración y aprendizaje. Asimismo, podría difundir esta información a través del portal de transparencia tal y como ya lo ha previsto alguna ley de transparencia (por ejemplo, el art.16 Ley valenciana 1/2022, de 13 de abril, de Transparencia y Buen Gobierno). Asimismo, debería facilitar esta información a solicitud de cualquier persona que ejerza su derecho de acceso a la información pública (por ejemplo, art. 23 Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia).
55. Además, la Administración pública debe explicar el por qué ha tomado una determinada decisión automatizada, indicando, por ejemplo, qué datos ha utilizado el algoritmo. La explicación de las decisiones automatizadas va más allá de la motivación de los actos administrativos (supra § 17.42), que se limita a una sucinta referencia de hechos y fundamentos de derecho, y presenta mayores dificultades.
56. Los algoritmos también pueden vulnerar el principio de igualdad y no discriminación (art.14 CE). Tal y como se ha podido constatar en numerosas ocasiones los algoritmos presentan sesgos que si no están justificados normativamente puede dar lugar a discriminaciones.
57. Los sesgos de las decisiones adoptadas automáticamente por un algoritmo pueden ser el resultado del diseño del algoritmo que incorpore, de manera voluntaria o involuntaria los sesgos de quienes los han diseñado. Asimismo, los sesgos pueden derivar de los datos, que no sean de calidad o que, simplemente, reproduzcan los sesgos que existen en la sociedad.
58. La Administración pública debe adoptar las medidas necesarias para evitar que los algoritmos contengan sesgos o cuando sea así poderlos identificar a tiempo para que no produzcan discriminaciones en las personas destinatarias de las decisiones adoptadas de manera automatizada.
59. Los algoritmos utilizan grandes volúmenes de datos para automatizar la toma de decisiones. Con frecuencia, estos datos son personales, es decir, son información relativa a una persona física identificada o identificable (art.4 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos) en adelante RGPD).
60. Cuando las Administraciones públicas utilizan datos personales en la automatización de una actuación deben tener presentes los principios que regulan los tratamientos de datos personales previstos en el artículo 5 del RGPD. Asimismo, deben basar el tratamiento en alguna de las bases jurídicas que reconoce el artículo 6 del RGPD. En última instancia, deben dar respuesta a los derechos de las personas interesadas (arts. 12 y siguientes del RGPD), en particular, el derecho a no ser objeto de una decisión automatizada que produzca efectos jurídicos en él o que le afecten significativamente de manera similar (art. 22.1 RGPD).
61. El uso de datos personales permite que la Administración pública pueda personalizar los servicios públicos o adaptar las decisiones de la Administración pública a las necesidades, gustos u intereses de las personas o prestarlos de manera proactiva anticipando la oferta del servicio sin esperar a que sea demandado o solicitado.
62. Sin embargo, el uso de datos personales en la toma de decisiones automatizadas también puede generar riesgos, como puso de manifiesto el Consejo de Europa en su Declaración sobre las capacidades manipulativas de los procesos algorítmicos (adoptada el 13 de febrero de 2019) al advertir que “los medios computacionales permiten inferir información íntima y detallada sobre los individuos a partir de datos fácilmente disponibles. Esto favorece la ordenación de individuos en categorías, reforzando así diferentes formas de segregación y discriminación social, cultural, religiosa, legal y económica”.
63. El principio de seguridad tiene por finalidad asegurar que la Administración pública adopta las medidas necesarias para garantizar la identidad del órgano al que se imputa la decisión automatizada, que la decisión automatizada responde a la voluntad de la propia Administración y que esta no ha sido alterada. En términos generales, las medidas de seguridad que debe adoptar la Administración pública vienen definidas por el Esquema Nacional de Seguridad, aprobado por el Real Decreto 311/2022, de 3 de mayo.
64. La automatización de la Administración pública puede generar riesgos específicos en la seguridad al poder dar lugar a situaciones como la suplantación de la persona o la alteración del contenido de la información. Para hacer frente a ello, la LRJSP prevé que cada Administración pública debe determinar los supuestos y sistemas de firma electrónica que se utilizarán en el ejercicio de competencias de manera automatizada (art. 42 LRJSP). En particular, los sistemas de firma electrónica que podrán ser utilizados son el sello electrónico de Administración pública, órgano, organismo público o entidad de Derecho público, basado en certificado electrónico cualificado que reúna los requisitos exigidos por la legislación de firma electrónica o el código seguro de verificación vinculado a la Administración pública, órgano, organismo público o entidad de Derecho público.
65. El principio de neutralidad tecnológica persigue garantizar la independencia en la elección de las alternativas tecnológicas disponibles tanto por la Administración pública como por las personas que se relacionan con ella. Asimismo, se pretende asegurar la libertad para desarrollar e implantar los avances tecnológicos en un ámbito de libre mercado (art. 2.a) RAFME).
66. La incorporación de la inteligencia artificial en la Administración pública puede poner en entredicho estos principios en la medida en que el desarrollo de buena parte de las tecnologías disruptivas está en manos de pocas empresas, algunas de ellas, multinacionales que han visto en la inteligencia artificial una buena oportunidad de negocio, lo que puede comportar que en un determinado momento la Administración Pública pueda llegar a depender tecnológicamente de las empresas que les proveen de la tecnología.
67. La personalización consiste en la adaptación de una decisión o un servicio a las necesidades, características o intereses de las personas interesadas. Por su parte, la prestación proactiva persigue anticipar la adopción de actos o la prestación de los servicios a la solicitud que pueda realizar el usuario o persona interesada. En particular, según el art.2.c) RAFME, la proactividad se refiere a “la capacidad de la Administración Pública para que, partiendo del conocimiento adquirido del usuario final del servicio, proporcione servicios precumplimentados y se anticipe a las posibles necesidades de los mismos”.
68. Tanto la personalización como la prestación proactiva de los servicios públicos puede basarse en el análisis automatizado de datos a través de algoritmos. En unos casos, el análisis de las grandes cantidades de datos de que dispone la Administración pública relativos a los servicios que presta permite identificar patrones de comportamiento y pautas de conducta cuyo conocimiento ha de permitirle personalizar los servicios a las necesidades y circunstancias de sus destinatarios. En otros casos, el análisis de los datos de una persona disponibles y dispersos en una o diversas Administraciones públicas, sobre la base del conocimiento adquirido del comportamiento de otros conciudadanos, permite anticipar sus necesidades y prestarle u ofrecerle de manera proactiva un determinado servicio.
69. El uso de la tecnología y, en particular, de la inteligencia artificial debe contar con la supervisión humana para garantizar la fiabilidad de los resultados y la licitud del uso de la inteligencia artificial. En esta dirección, la Carta de Derechos Digitales reconoce que “Las personas tienen derecho a solicitar una supervisión e intervención humana y a impugnar las decisiones automatizadas tomadas por sistemas de inteligencia artificial que produzcan efectos en su esfera personal y patrimonial”.
70. Pero más allá de esta declaración, no se puede desconocer que la actuación automatizada, como cualquier acto de la Administración pública, debe someterse al control. Este control puede realizarse ex ante, asegurando que la decisión se adopta de acuerdo con el procedimiento previsto para garantizar los derechos de las personas interesadas. El control también puede realizarse a posteriori con el fin de poder valorar la validez de la decisión adoptada de manera automatizada.
71. La supervisión se puede concretar a través de la aprobación de las especificaciones técnicas de los algoritmos, la identificación de los mecanismos de supervisión y control o la valoración de su impacto en los principios de funcionamiento de las Administraciones públicas y en los derechos y libertades de las personas.
72. En esta dirección, el artículo 41.2LRJSP dispone que deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones y la programación. También deberá concretarse el órgano encargado de realizar el seguimiento del funcionamiento de la actuación administrativa, es decir, de su mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Por último, también se prevé que se deberá identificar el órgano que será considerado responsable a efectos de impugnación.
73. De este modo, la LRJSP reconoce la supervisión humana de la actuación administrativa automatizada tanto con carácter previo, en relación con el diseño del algoritmo que utilice como con carácter posterior, respecto al control de las decisiones que se adopten de manera automatizada, pasando por el funcionamiento a través del seguimiento y, en su caso, la auditoría de su funcionamiento.
74. El nivel de supervisión humana y la capacidad de las personas para efectivamente poder supervisar el diseño, funcionamiento y las decisiones adoptadas de manera automatizada dependerá de los conocimientos, capacidades y recursos de que disponga cada órgano administrativo o cada Administración pública. Para dar respuesta a las limitaciones que puedan existir, se ha impulsado la creación de la Agencia Estatal de Supervisión de la Inteligencia Artificial.
75. La Agencia Estatal de Supervisión de la Inteligencia Artificial fue creada por la Disposición adicional centésimo trigésima de la Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022. La agencia está dotada de personalidad jurídica pública, patrimonio propio y autonomía en su gestión, con potestad administrativa, y actuará con plena independencia orgánica y funcional de las Administraciones Públicas (Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial). Entre sus finalidades se ha previsto minimizar los riesgos sobre la seguridad y salud de las personas y así los derechos fundamentales que pueda entrañar el uso de la inteligencia artificial. En particular, la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes, prevé, entre los fines de la agencia “la supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad y los derechos fundamentales” (disposición adicional séptima). Después de seguir el procedimiento previsto en la Orden PCM/946/2022, de 3 de octubre, por la que se publica el Acuerdo por el que se inicia el procedimiento para la determinación de la sede física de la Agencia Española de Supervisión de Inteligencia Artificial, el Consejo de Ministros, en su sesión de 5 de diciembre, adoptó el acuerdo por el que la ubicación de la sede de la Agencia Española de Supervisión de la Inteligencia Artificial será en A Coruña.
76. Desde un punto de vista general, el control de las decisiones adoptadas de manera automatizada se llevará a cabo a través de los mecanismos de control de la actividad de las Administraciones públicas tales como los recursos administrativos (infra § 33.51) o el recurso contencioso administrativo (infra § 34.1). Mas será necesario garantizar que los órganos de control y los juzgados y tribunales de lo contencioso administrativo tengan los conocimientos necesarios para poder enjuiciar adecuadamente los resultados del uso de los algoritmos por las Administraciones públicas.
77. Una de las consecuencias de la automatización de la Administración pública es que determinadas tareas desarrolladas hasta ahora por empleados y empleadas públicas pasen a ser realizadas por ordenadores, algoritmos y robots. De hecho, según algunos estudios el 47% de los trabajos actuales están en alto riesgo de ser automatizados en los próximos 10 o 20 años (FREY y OSBORNE, 2017: 38).
78. En paralelo, la Administración pública deberá incorporar a personas con perfiles profesionales adecuados para liderar y desarrollar el proceso de automatización (no solo ingenieros o informáticos o analistas de datos sino también juristas o filósofos especialistas en tecnología) y también deberá formar al personal que ya está a su servicio con las competencias necesarias para poder participar activamente en dicho proceso así como asumir aquellas tareas más complejas que no puedan automatizarse en las que puedan añadir más valor que la inteligencia artificial o que a día de hoy son difícilmente automatizables por requerir habilidades como la empatía, la creatividad, inteligencia emocional o capacidad de negociación (GALINDO y LOSA, 2021: 228 y ss.).
Andrés BOIX PALOP, “Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, Revista de Derecho Público: teoría y método, núm. 11 (2020), pp. 223-269.
COMISIÓN EUROPEA, Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza COM(2020) 65 final, 2020.
Carl Benedikt FREY y Michael A OSBORNE, “The future of employment: how susceptible are jobs to computerisation?”, Technological forecasting and social change, núm. 114 (2017), pp. 254-280.
Ramon GALINDO CALDÉS y Virginia LOSA MUÑIZ, “Los retos del empleo público ante la transformación digital local”, en Agustí CERRILLO i MARTÍNEZ, La transformación digital de la Administración local, Madrid, Fundación Democracia y Gobierno Local, 2021, pp. 201-240 .
Alejandro HUERGO LORA, Una aproximación a los algoritmos desde el derecho administrativo, en Alejandro HUERGO LORA, La regulación de los algoritmos, Cizur Menor, Aranzadi-Thomson-Reuters, 2020, pp.23-87.
Isaac MARTÍN DELGADO, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, Revista de Administración Pública, núm. 180 (2009), pp. 353-386.
Juli PONCE SOLÉ, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, núm. 50 (2019).
Julián VALERO TORRIJOS, El régimen jurídico de la e-Administración, Granada, Comares, 2007.
OECD, “Engaging citizens online for better policy-making”, Policy Brief, marzo, 2003.
Agustí CERRILLO i MARTÍNEZ, “El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”, Revista General De Derecho Administrativo, núm. 50 (2019).
Agustí CERRILLO i MARTÍNEZ, La Transformación digital de la administración local, Fundación Democracia y Gobierno Local, Madrid, 2021.
Lorenzo COTINO HUESO y Marcelo BAUZA REILLY, Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thomson-Reuters-Aranzadi, Cizur Menor, 2022.
Eduardo GAMERO CASADO y Francisco PÉREZ GUERRERO. (Editores), Inteligencia artificial y sector público. Retos, límites y medios, Valencia, Tirant lo Blanch, 2023.
Wolfgang HOFFMANN-RIEM, El Derecho ante el reto de la transformación digital, Thomson-Reuters-Aranzadi, Cizur Menor, 2022.