¿Qué es la «reserva de humanidad» en el ejercicio de funciones públicas?
El uso de IA no es indiferente para la buena gestión pública que respete el ordenamiento jurídico. Así lo han destacado la Comisión Europea o la Defensoría del Pueblo Europeo, quien inició una actuación de oficio para conocer cómo la Comisión Europea decide y utiliza la IA en relación con el derecho a la buena administración, realizando diversas sugerencias al respecto en 2024 y señalando que “una buena administración implica tener humanidad y ser humano/a (being humane and human). Cuando se elimina a los seres humanos de la ecuación de la prestación de servicios, es evidente que puede haber problemas”.
En este contexto, la denominada «reserva de humanidad» implica excluir normativamente, con apoyo en el principio de precaución, la automatización total del ejercicio de funciones públicas, con la IA disponible actualmente en su caso, en ciertos supuestos en los que ello se considera inadecuado, según los principios propios del Estado de derecho.
La denominada «reserva de humanidad» implica excluir normativamente, con apoyo en el principio de precaución, la automatización total del ejercicio de funciones públicas, con la IA disponible actualmente en su caso, en ciertos supuestos en los que ello se considera inadecuado, según los principios propios del Estado de derecho.
En el caso del ejercicio de la función judicial, el Anexo III y el considerando 61 del Reglamento de la UE de 2024 sobre IA excluyen todo uso de la IA que no sea el de asistir al ser humano en sus decisiones, dado que se trata de una actividad que —se dice— ha de ser humana.
En el ejercicio de las funciones administrativas, la decisión legal sobre la reserva a humanos se basa en las limitaciones de la IA, como la falta de empatía, la incapacidad de realizar inferencias abductivas y las exigencias de respetar la participación ciudadana y su consideración diligente, así como de motivar las decisiones administrativas. Todo ello ante la necesidad de garantizar el derecho a una buena administración, que exige una consideración con la diligencia debida de todos los elementos relevantes para decidir, que debe plasmarse en el expediente y en la motivación, como el TJUE, el TEDH y nuestro TS han repetido hasta la saciedad, y hemos tenido oportunidad de explicar en este mismo blog, lo que no le es posible actualmente a la IA, a la vista de dichas limitaciones.
En el caso de la motivación, la STJUE de 21 de junio de 2022 (asunto C-817/19) señaló que su exigencia “se opone a la utilización de las tecnologías de inteligencia artificial en el marco de sistemas de autoaprendizaje (machine learning)…”. En la misma línea se ha pronunciado el Conseil Constitutionnel francés en su decisión 2018–765, de 12 de junio, en la que se indica lo siguiente: “En consecuencia, los algoritmos capaces de revisar por sí mismos las reglas que aplican, sin el control y la validación del responsable del tratamiento, no pueden utilizarse como base única de una decisión administrativa individual”.
Este concepto de reserva de humanidad es similar, salvando las distancias, a la reserva de potestades para los funcionarios (art. 9.2 EBEP), quienes, debido a su relación estatutaria con la Administración, garantizan imparcialidad, objetividad y resistencia a presiones externas.
La «reserva de humanidad» en el ordenamiento jurídico actual
El artículo 22 del Reglamento General de Protección de Datos de la UE establece una reserva de humanidad como principio, aunque permite excepciones si una norma específica lo prevé. En España, esta norma debe tener rango de ley, de acuerdo con el art. 18.4 de la CE. El art. 41 de la Ley 40/2015 es una regulación susceptible de manifiestas mejoras, en el marco de la competencia estatal sobre esta materia.
Diversas leyes prohíben ya el uso de la IA, salvo para el ejercicio de potestades regladas. Es el caso de la legislación alemana o de la legislación catalana (art. 44 de la Ley 26/2010), entre otras leyes autonómicas.
Diversas leyes prohíben ya el uso de la IA, salvo para el ejercicio de potestades regladas. Es el caso de la legislación alemana o de la legislación catalana (art. 44 de la Ley 26/2010), entre otras leyes autonómicas.
Asimismo, la Carta de Derechos Digitales española, mero soft law, también establece que la adopción de decisiones discrecionales quede reservada a personas, salvo que normativamente se prevea la adopción de decisiones automatizadas con garantías adecuadas.
El ombudsman europeo ha señalado, citando la STJUE de 22 de enero de 2014, asunto C-270/12, UK/Parlamento y Consejo,que el uso de IA no puede suponer una delegación prohibida de discrecionalidad, señalando la necesidad de que el legislador especifique esos límites. La IA solo podría ser utilizada para automatizar totalmente potestades regladas, o como apoyo y asistencia de la decisión humana en estas y en las discrecionales.
La importancia de la supervisión humana
Una técnica menos restrictiva que la reserva de humanidad es permitir el uso de la IA, pero bajo supervisión humana. Esta supervisión debe ser efectiva, no un mero gesto simbólico, y realizada por personas con la autoridad y competencia para modificar las decisiones, como exige ahora el art. 14 del Reglamento de la UE.
Una técnica menos restrictiva que la reserva de humanidad es permitir el uso de la IA, pero bajo supervisión humana.
Surge aquí un nuevo puesto en el sector público, en paralelo, por ejemplo, al delegado/a de datos, que debiera existir en las Administraciones. En el caso norteamericano, una orden ejecutiva de 2023 del presidente Biden obligó a las agencias a contar con un CAIO, Chief Administrative Intelligence Officer.
El ámbito local: un escenario clave
En el ámbito local, la «reserva de humanidad» adquiere especial relevancia debido a la cercanía de la Administración con los ciudadanos. Los ayuntamientos deben garantizar que la automatización no comprometa la calidad de los servicios públicos, la empatía en la atención ciudadana y la capacidad de adaptación a las necesidades individuales.
En el ámbito local, la «reserva de humanidad» adquiere especial relevancia.
Existen ya numerosos ejemplos de uso de la IA en el ámbito local y están en crecimiento. La automatización de potestades administrativas locales debiera tener en cuenta los límites de la IA y la reserva de humanidad. En este sentido, la ausencia de suficiente regulación estatal al respecto debiera ser colmada mediante, en lo que se refiere al ámbito local, una regulación a incluir en la LBRL, en línea similar a lo ya hecho en países como Suecia (Ley del gobierno local de 2017, capítulo 6, sección 37, incluyendo excepciones a la automatización, como cuestiones de tipo político).
La ausencia de suficiente regulación estatal al respecto debiera ser colmada.
Conclusiones
La «reserva de humanidad» es un concepto relevante para garantizar que la IA se utilice de manera conforme con el derecho a una buena administración de las personas en la Administración pública, especialmente en el ámbito local.
En mi reciente libro El Reglamento de Inteligencia Artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España (Marcial Pons, 2024, con primeras páginas y prólogo en abierto de la catedrática de Psicología de la Universidad de Deusto Helena Matute), que ha tenido el honor de ser galardonado con el Premio Ferrer Eguizábal por parte del Ilustre Colegio de Abogados de Barcelona, me ocupo, entre otras cuestiones, de este concepto.
Asimismo, están a punto de ser publicadas dos obras más sobre la IA y la reserva de humanidad con especial atención al mundo local. De un lado, el Anuario del Buen Gobierno y de la Calidad de la Regulación, de la Fundación Democracia y Gobierno local, antes del verano de 2025. Además, nuestro libro colectivo The EU Artificial Intelligence Act and the Public Sector. Humans and AI systems in Public Administration in the light of the European Regulation on Artificial Intelligence of 2024,de la editorial del European Group of Public Law, con prólogo del profesor norteamericano Cary Coglianese.
Autor/a: Juli Ponce Solé