Vol. 1 (2020)
Artículos

Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones

PDF HTML Foro de discusión
  • Andrés Boix
Andrés Boix
Universitat de València – Estudi General
DOI: https://doi.org/10.37417/RPD/vol_1_2020_33

Publicado 2020-02-17

Palabras clave

  • algoritmos,
  • reglamentos,
  • normas jurídicas,
  • publicación,
  • transparencia algorítmica,
  • elaboración de algoritmos públicos
    • ...Más
    Menos
  • algorithms,
  • administrative regulations,
  • legal norms,
  • publication,
  • algorithmic transparency,
  • algorithm better regulation
    • ...Más
    Menos

Derechos de autor 2020

Creative Commons License

Esta obra está bajo licencia Creative Commons Attribution 4.0 International License.

Los autores mantienen los derechos de autor en la publicación y sólo autorizan a la editorial Marcial Pons los derechos no exclusivos de la publicación y distribución de los artículos / Authors retain copyright in the published paper and only license to the publisher a non-exclusive right to first publication and distribution of the published work.

Resumen

En este trabajo se argumenta que los algoritmos empleados por parte de las Administraciones públicas para la adopción efectiva de decisiones han de ser considerados reglamentos por cumplir una función material estrictamente equivalente a la de las normas jurídicas, al reglar y predeterminar la actuación de los poderes públicos. Adicionalmente se estudia cómo, una vez asumida esta naturaleza jurídica reglamentaria de estas herramientas de programación, se deducen consecuencias jurídicas respecto de cómo han de realizarse los procedimientos de elaboración y aprobación de estos algoritmos, la necesidad de que los mismos estén debidamente publicados como normas jurídicas que son o la exigencia de que existan mecanismos de recurso directo e indirecto frente a los mismos. Todas estas consecuencias, como se expone en el texto, suponen un significativo y muy necesario incremento de las actuales garantías frente al empleo de algoritmos por parte de los poderes públicos.

PDF HTML Foro de discusión

Descargas

La descarga de datos todavía no está disponible.

Citas

  1. Vicente ÁLVAREZ GARCÍA, “Normalización industrial”, en Santiago MUÑOZ MACHADO (dir.), Diccionario de Derecho Administrativo, Iustel, Madrid, 2005, pp. 1670-1677.
  2. Mike ANANNY y Kate CRAWFORD, “Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability”, New Media and Society, 2018, núm. 20(3), pp. 973-989.
  3. Irene ARAGUÀS GALCERÀ, La transparencia en el ejercicio de la potestad reglamentaria, Atelier, Barcelona, 2016.
  4. Luis ARROYO JIMÉNEZ, “Participación electrónica y elaboración de normas administrativas en España y en los Estados Unidos de América”, en Isaac MARTÍN DELGADO (dir.), La reforma de la Administración electrónica: una oportunidad para la innovación desde el Derecho, INAP, Madrid, 2017, pp. 231-258.
  5. ASILOMAR Conference Principles, 2017.
  6. Solon BAROCAS y Andrew D. SELBST, “Big Data’s Disparate Impact“, California Law Review, núm. 104, 2016, pp. 671-732.
  7. José María BAÑO LEÓN, Los límites constitucionales de la potestad reglamentaria, Civitas, Madrid, 1991.
  8. José María BAÑO LEÓN, “La reforma del procedimiento. Viejos problemas no resueltos y nuevos problemas no tratados”, Documentación administrativa: nueva época, núm. 2, 2015.
  9. Ulrich BECK, Risikogesellschaft. Auf dem Weg in eine andere Moderne, 1986, Suhrkamp. Hay traducción al español: La sociedad del riesgo global, Siglo XXI de España Editores, Madrid, 2002.
  10. Reuben BINNS, “Algorithmic Accountability and Public Reason”, Philosophy and Technology, núm. 31(4), 2017, pp. 543-556.
  11. Lee A. BYGRAVE, “Minding the Machine v2.0. The EU General Protection Regulation and Automated Decision-Making”, en Karen YEUNG y Martin LODGE, Algorithmic Regulation, Oxford University Press, Oxford, 2019, pp. 243-262.
  12. Andrés BOIX PALOP, “De McDonald’s a Google: la ley ante la tercera revolución productiva”, Teoría y Derecho, núm. 1, 2007a, pp. 124-147.
  13. Andrés BOIX PALOP, “La neutralidad tecnológica como exigencia regulatoria en el acceso electrónico a los servicios administrativos”, Revista General de Derecho Administrativo, núm. 16, 2007b.
  14. Andrés BOIX PALOP, “Las notificaciones electrónicas en la Ley 39/2015: ineficientes para notificar y poco garantistas”, blog No se trata de hacer leer, 18 de octubre de 2016, disponible en http://www.lapaginadefinitiva.com/aboix/?p=1412 (consulta 22/12/2019).
  15. Andrés BOIX PALOP, “Participación electrónica como mecanismo para la mejora de la calidad normativa en la elaboración de reglamentos y otras disposiciones tras la reforma administrativa de 2015”, en Isaac MARTÍN DELGADO (dir.), La reforma de la Administración electrónica: una oportunidad para la innovación desde el Derecho, INAP, Madrid, 2017, pp. 259-282.
  16. Nick BOSTRON, Superintelligence. Paths, Dangers, Strategies, Oxford University Press, Oxford, 2014.
  17. Mark BOVENS, Thomas SCHILLEMANS y Paul’t HART, “Does public accountability work? An assessment”, Public administration, núm. 86(1), 2008, pp. 225-242.
  18. Jenna BURRELL, “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”, Big Data and Society, núm. 3(1), 2016.
  19. Dolors CANALS AMETLLER, “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos)”, Revista general de Derecho administrativo, núm. 50, 2019.
  20. José Luis CARRO FERNÁNDEZ-VALMAYOR, “Reglamento”, en Santiago MUÑOZ MACHADO (dir.), Diccionario de Derecho Administrativo, Iustel, Madrid, 2005, pp. 2143-2156.
  21. Jorge CASTELLANOS CLARAMUNT, “La democracia algorítmica: inteligencia artificial, democracia y participación política”, Revista general de Derecho administrativo, núm. 50, 2019.
  22. Agustí CERRILLO I MARTÍNEZ, “El impacto de la inteligencia artificial en el derecho administrativo, ¿nuevos conceptos para nuevas realidades técnicas?”, Revista general de Derecho administrativo, núm. 50, 2019a.
  23. Agustí CERRILLO I MARTÍNEZ, “Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús d’algoritmes”, Revista catalana de dret públic, núm. 58, 2019b.
  24. Cary COGLIANESE y David LEHR, “Regulating by Robot: Administrative Decision Making in the Machine Learning Era”, Faculty Scholarship at Penn Law, núm. 1734, 2017.
  25. Cary COGLIANESE y David LEHR, “Transparency and Algorithmic Governance”, Administrative Law Review, núm. 70(4), 2018.
  26. COMISIÓN EUROPEA, Inteligencia artificial para Europa. Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Comité Económico y Social Europeo y al Comité de las Regiones, COM(2018) 237 final, 2018.
  27. CCCPIAPPD, CONSULTATIVE COMMITTEE OF THE CONVENTION FOR THE PROTECTION OF INDIVIDUALS WITH REGARD TO AUTOMATIC PROCESSING OF PERSONAL DATA, Report on Artificial Intelligence. Artificial Intelligence and Data Protection: Challenges and Possible Remedies, 2018.
  28. Lorenzo COTINO HUESO, “Derechos del ciudadano”, en Eduardo GAMERO CASADO y Julián VALERO TORRIJOS (coord.), La Ley de Administración Electrónica, Thomson-Aranzadi, Cizur Menor, 2008, pp. 117-233.
  29. Lorenzo COTINO HUESO, “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho”, Revista general de Derecho administrativo, núm. 50, 2019a.
  30. Lorenzo COTINO HUESO, “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el Derecho”, Revista catalana de dret públic, núm. 58, 2019b.
  31. Paul DALY, “Artificial Administration: Administrative Law in the Age of Machines”, SSRN Woriking Paper, 2019.
  32. Paul B. DE LAAT, “Algorithmic Decision-Making Based on Machine Learning from Big Data: Can Transparency Restore Accountability?”, Philosophy and Technology, núm. 31(2), 2017, pp. 1-17.
  33. Javier DE LA CUEVA, “Código fuente, algoritmos y fuentes del Derecho”, El Notario del siglo XXI, núm. 77, 2018.
  34. Javier DE LA CUEVA, “¿Quién vigila al algoritmo?”, El Notario del siglo XXI, núm. 87, 2019.
  35. Íñigo DE MIGUEL BERIAIN, “Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling”, Law, Probability and Risk, núm. 17(1), 2018, pp. 45-53.
  36. Gabriel DOMÉNECH PASCUAL, La invalidez de los reglamentos, Tirant lo Blanch, Valencia, 2002.
  37. Benjamin EDELMAN, Benjamin LUCA y Dan SVIRSKY, “Racial Discrimination in the Sharing Economy: Evidence from a Filed Experiment”, American Economic Journal: Applied Economics, núm. 9(2), 2017, pp. 1-22.
  38. EUROPEAN PARLIAMENT, A governance framework for algorithmic accountability and transparency, 2019.
  39. Manuel FERNÁNDEZ SALMERÓN, “La potestad reglamentaria: el procedimiento de elaboración de los reglamentos”, en Eduardo GAMERO CASADO (dir.), Tratado de Procedimiento Administrativo Común y Régimen Jurídico Básico del Sector Público, Tirant lo Blanch, Valencia, 2017, pp. 2483-2549.
  40. Ray FISMAN y Michael LUCA, “Fixing Discrimination in Online Marketplaces”, Harvard Business Review, núm. 12(94), 2016, pp. 95-100.
  41. Katherine FREEMAN, “Algorithmic Injustice: How the Wisconsin Supreme Court Failed to Protect Due Process Rights in State v. Loomis”, North Carolina Journal of Law and Technology, vol. 18, 2016, pp. 75-106.
  42. Alfredo GALLEGO ANABITARTE, Ley y reglamento en el Derecho público occidental, Instituto de Estudios Administrativos, Madrid, 1971.
  43. Eduardo GARCÍA DE ENTERRÍA y Tomás-Ramón FERNÁNDEZ RODRÍGUEZ, Curso de Derecho Administrativo, Volumen I, 16ª ed., Civitas-Thomson Reuters, Madrid, 2013.
  44. Claudia GIMENO FERNÁNDEZ, La qualitat normativa al País Valencià, Àgora3-Fundación Nexe, Valencia, 2017.
  45. Yuval Noah HARARI, Homo Deus. A Brief History of Tomorrow, Harvill Secker, Londres, 2016 (Traducción al castellano de Juandomènec Ros, Homo Deus. Breve historia del mañana, Debate, Barcelona, 2016).
  46. Wolfgang HOFFMANN-RIEM, Big Data. Regulative Herausforderungen, Nomos, Baden-Baden, 2018. (Se cita por la traducción al castellano, Big data. Desafíos también para el Derecho, Civitas, Cizur Menor, 2018).
  47. Hans KELSEN, Reine Rechtslehre, 2ª ed., Deuticke, Viena, 1960. (Se ha empleado también la edición en castellano: Teoría pura del Derecho, Eudeba, Buenos Aires, 2009, p. 224).
  48. Jon KLEINBERG, Jens LUDWIG, Sendhil MULLAINATHAN y Cass R. SUNSTEIN, “Discrimination in the Age of Algorithms”, Journal of Legal Analysis, vol. 10, 2018, pp. 113-174.
  49. Joshua A. KROLL, Joanna HUEY, Solon BAROCAS, Edward W. FELTEN, Joel R. REIDENBERG, David G. ROBINSON y Harlan YU, “Accountable algorithms”, University of Pennsylvania Law Review, núm. 165(3), 2017, pp. 633-705.
  50. Lawrence LESSIG, Code version 2.0, Basic books, 2006.
  51. Han-Wei LIU, Ching-Fu LIN y Yu-Jie CHEN, “Beyond State v. Loomis: artificial intelligence, government algorithmization and accountability”, International Journal of Law and Information Technology, núm. 27(2), 2019, pp. 122-141.
  52. Isaac MARTÍN DELGADO, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, Revista de Administración Pública, núm. 180, 2009, pp. 353-386.
  53. Isaac MARTÍN DELGADO, “El impacto de la reforma de la Administración electrónica sobre los derechos de los ciudadanos y el funcionamiento de las Administraciones Públicas”, en Marcos ALMEIDA CERRADA y Luis MÍGUEZ MACHO, La actualización de la Administración electrónica, Andavira, 2016, pp. 21-69.
  54. Lucía MARTÍNEZ GARAY, “Peligrosidad, algoritmos y due process: el caso State v Loomis”, Revista de Derecho Penal y Criminología, núm. 20, 2018, pp. 485-502.
  55. Lucía MARTÍNEZ GARAY y Francisco MONTES SUAY, “El uso de valoraciones del riesgo de violencia en Derecho Penal: algunas cautelas necesarias”, Indret, núm. 2(2018), 2018.
  56. Ricard MARTÍNEZ MARTÍNEZ, “Inteligencia artificial desde el diseño. Retos y estrategias para el cumplimiento normativo”, Revista catalana de dret públic, núm. 58, 2019.
  57. Mario MARTINI y David NINK, “Wenn Maschinen entscheiden… Persönlichkeitsschutz in vollautomatisierten Verwaltungsverfahren”, NVwZ, núm. 10-2017, 2017, pp. 681-82.
  58. Eduardo MELERO ALONSO, Reglamentos y disposiciones administrativas: análisis teórico y práctico, Lex Nova, Valladolid, 2005.
  59. Eduardo MELERO ALONSO, “La ‘democracia orgánica’ y el trámite de audiencia en la elaboración de los reglamentos”, Revista de Estudios Políticos, núm. 126, 2004, pp. 237-264.
  60. Luis MÍGUEZ MACHO, “Las notificaciones electrónicas”, en Marcos ALMEIDA CERREDA y Luis MÍGUEZ MACHO, La actualización de la Administración electrónica, Andavira, Santiago de Compostela, 2016, pp. 217-247.
  61. José Vicente MOROTE SARRIÓN, Las circulares normativas de la Administración pública, Tirant lo Blanch, Valencia, 2002.
  62. Santiago MUÑOZ MACHADO, Tratado de Derecho Administrativo y Derecho Público General, Iustel, Madrid, 2006.
  63. Jordi NIEVA FENOLL, Inteligencia artificial y proceso judicial, Marcial Pons, Madrid, 2018.
  64. Cathy O’NEIL, Weapons of Math Destruction, Allen Lane, London, 2016.
  65. Adrián PALMA ORTIGOSA, “Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos”, Revista general de Derecho administrativo, núm. 50, 2019.
  66. Maayan PEREL y Niva ELKIN-KOREN, “Black Box Tinkering: Beyond Disclosure in Algorithmic Enforcement”, Florida Law Review, núm. 69, 2017, pp. 181-222.
  67. Juli PONCE SOLÉ, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista general de Derecho administrativo, núm. 50, 2019.
  68. Carles RAMIÓ MATAS, Inteligencia artificial y administración pública. Robots y humanos compartiendo el servicio público, Los Libros de la Catarata, Madrid, 2019, p. 173.
  69. Manuel REBOLLO PUIG, “La participación de las entidades representativas de intereses en el procedimiento de elaboración de disposiciones administrativas generales”, Revista de Administración Pública, núm. 115, 1988, pp. 99-116.
  70. Manuel REBOLLO PUIG, “La actividad inspectora”, en Juan José DÍEZ SÁNCHEZ (coord..), Actas del VIII Congreso de la Asociación Española de Profesores de Derecho Administrativo: La función inspectora, INAP, Madrid, 2013, pp. 55-116.
  71. José María RODRÍGUEZ DE SANTIAGO, Metodología del Derecho administrativo. Reglas de racionalidad para la adopción y el control de la decisión administrativa, Marcial Pons, Madrid, 2016.
  72. Carlos María ROMEO CASABONA, “Riesgo, procedimientos actuariales basados en inteligencia artificial y medidas de seguridad”, R.E.D.S., núm. 13, 2018, pp. 39-55.
  73. Marina SANCHO LÓPEZ, “Estrategias legales para garantizar los derechos fundamentales frente a los desafíos del Big Data”, Revista general de Derecho administrativo, núm. 50, 2019.
  74. Juan Alfonso SANTAMARÍA PASTOR, “Los proyectos de Ley del procedimiento administrativo común de las administraciones públicas y de régimen jurídico del sector público. Una primera evaluación”, Documentación administrativa: nueva época, núm. 2, 2015.
  75. Juan Alfonso SANTAMARÍA PASTOR, “Un nuevo modelo de ejercicio de las potestades normativas”, Revista española de Derecho administrativo, núm. 175, 2016, pp. 31-55.
  76. Teresa SCANTAMBURLO, Andrew CHARLESWORTH y Nello CRISTINIANI, “Machine Decisions and Human Consequences”, en Karen YEUNG y Martin LODGE, Algorithmic Regulation, Oxford University Press, Oxford, 2019, pp. 49-81.
  77. Frank SCHMIEDCHEN et al., Informe sobre los principios Asilomar en Inteligencia Artificial, Grupo de Estudio Evaluación de la Tecnología de la Digitalización de la Federación de Científicos Alemanes (VDW), Berlin, 2018.
  78. Matthew U. SCHERER, “Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies”, Harvard Journal of Law and Technology, núm. 29(2), 2016, pp. 353-400.
  79. Thorsten SIEGEL, “Automatisierung des Verwatungsverfahrens -zugleich eine Anmerkung zu §§35a, 24 I 3, 41 IIa VwVfG”, DVBI, núm. 1, 2017, pp. 24-28.
  80. Javier SIERRA RODRÍGUEZ, La participación en la elaboración de normas de la administración General del Estado, Centro de Estudios Políticos y Constitucionales, Madrid, 2019.
  81. Max TEGMARK, Life 3.0. Being human in the age of Artificial Intelligence, Penguin Books, London, 2017.
  82. Andrew TUTT, “An FDA for algorithms”, Administrative Law Review, núm. 69(1), 2017, pp. 84-123.
  83. Julián VALERO TORRIJOS, Derecho, innovación y administración electrónica, Global Law Press, Sevilla, 2013.
  84. Julián VALERO TORRIJOS, Innovación tecnológica e innovación administrativa, Ponencia Seminario de Teoría y Método del Derecho Público, Zaragoza, 2016.
  85. Julián VALERO TORRIJOS, “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, Revista catalana de dret públic, núm. 58, 2019.
  86. Michael VEALE y Irina BRASS, “Administration by Algorithm? Public Management meets Public Sector Machine Learning”, en Karen YEUNG y Martin LODGE, Algorithmic Regulation, Oxford University Press, Oxford, 2019, pp. 121-149.
  87. Clara VELASCO RICO, “La ciudad inteligente: entre la transparencia y el control”, Revista general de Derecho administrativo, núm. 50, 2019.
  88. Karen YEUNG, “Algorithmic regulation: a critical interrogation”, Regulation and Governance, núm. 12(4), 2017, pp. 505-523.
  89. Karen YEUNG, “Why Worry about Decision-Making by Machine?”, en Karen YEUNG y Martin LODGE, Algorithmic Regulation, Oxford University Press, Oxford, 2019, pp. 21-48.
  90. Karen YEUNG y Martin LODGE, “Algorithmic regulation. An Introduction”, en Karen YEUNG y Martin LODGE, Algorithmic Regulation, Oxford University Press, Oxford, 2019, pp. 1-17.
  91. Tal ZARSKY, “The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making”, Science, Technology, and Human Values, núm. 41(1), 2016, pp. 118-132.
  92. John ZERILLI, Alistair KNOTT, James MACLAURIN y Colin GAVAGHAN, “Transparency in Algorithmic and Human Decision-Making: Is There a Double Standard?”, Philosophy and Technology, núm. 32(4), 2018, pp. 661-683.