RESUMEN:
Este artículo analiza el impacto de la transformación digital sobre los derechos fundamentales de los contribuyentes, con especial énfasis en los derechos a la intimidad, a la protección de datos, a un juicio justo y a la tutela judicial efectiva. Ante el desfase entre la evolución tecnológica y la respuesta legislativa, el autor examina la reciente doctrina del Tribunal Supremo sobre el derecho al entorno virtual y la protección de datos almacenados en dispositivos físicos y en la nube.
Se profundiza en el análisis del caso BOSCO (2025) como precedente fundamental para el acceso al código fuente de las aplicaciones empleadas por la Administración, así como en algunos casos relevantes de Derecho comparado. Asimismo, el trabajo evalúa de forma crítica el empleo de software de rastreo masivo y la elaboración de perfiles mediante inteligencia artificial por parte de la Agencia Tributaria, difícilmente conciliables con el Reglamento General de Protección de Datos y la jurisprudencia que censura las expediciones de pesca y la violación del entorno virtual.
Finalmente, el autor reivindica la dignidad humana, el principio de Estado de Derecho y el libre albedrío frente al determinismo del dataísmo, defendiendo la exigencia de explicabilidad en las decisiones automatizadas y la naturaleza indelegable de la función judicial, que debe permanecer siempre bajo supervisión humana en la aplicación del sistema tributario.
Palabras clave:
Autodeterminación informativa. Derecho al entorno virtual. Transparencia algorítmica. Inteligencia artificial. Dignidad humana. Estado de Derecho.
ABSTRACT:
This article analyzes the impact of digital transformation on taxpayers’ fundamental rights, with a specific focus on the rights to privacy, data protection, a fair trial, and effective judicial protection. Given the lag between technological evolution and the legislative response, the author examines the recent doctrine of the Supreme Court regarding the right to a virtual environment and the protection of data stored on physical devices and in the cloud.
The paper delves into the analysis of the BOSCO case (2025) as a fundamental precedent for accessing the source code of applications used by the Administration, as well as relevant cases in comparative law. Furthermore, the work critically evaluates the use of mass tracking software and AI-driven profiling by the Tax Agency, practices that are difficult to reconcile with the General Data Protection Regulation and the case law that censures “fishing expeditions” and the violation of the virtual environment.
Finally, the author upholds human dignity, the rule of law, and free will against the determinism of dataism, advocating for the requirement of explainability in automated decisions and the non-delegable nature of the judicial function, which must always remain under human oversight in the application of the tax system.
Keywords:
Informational self-determination. Right to a virtual environment. Algorithmic transparency. Artificial intelligence. Human dignity. Rule of Law.
1. INTRODUCCIÓN
Hoy casi todos los aspectos de nuestra vida pivotan en torno a nuestros smartphones, las plataformas digitales, las redes sociales y los múltiples aparatos que desempeñan su función bajo tecnología digital. Cada servicio digital acaba conduciendo a otro servicio digital gracias a la interconexión de las plataformas y a que la inmensa mayoría de los usuarios de telefonía se adhieren a unos términos y condiciones a menudo ininteligibles. Acceden así gratuitamente a múltiples servicios en contraprestación a la cesión de sus datos personales, que son explotados a través de algoritmos opacos, con propósitos desconocidos, y a riesgo de la vulneración de su privacidad. Con frecuencia las plataformas no dan opción. Si el usuario no accede a transferir sus datos, tras firmar un documento que supuestamente libera a la empresa de cualquier tipo de responsabilidad, no podrá disponer del nuevo sistema operativo necesario para seguir utilizando su teléfono. Cabe un heroico ejercicio de resistencia, pero a cambio de huir de la Civilización. Es esa limitación al roce terrenal, a eso que los expertos llaman fricción, la que ha facilitado la transición del mundo analógico al digital.
Hoy asistimos a un nuevo principio de realidad. Todo lo que es digital es efectivamente real. Y todo lo que es efectivamente real acaba siendo, antes o después, digital.
Como reflexiona Paolo Benanti, el smartphone y las aplicaciones de las plataformas digitales que tejen nuestras relaciones “contribuyen a crear una dictadura de la transparencia donde el individuo es monitorizado, evaluado y presionado constantemente para conformarse a las normas dominantes”. Corremos así el peligro, como apunta Olga Sánchez, de adaptarnos a un sistema controlado técnicamente, de perder nuestra autonomía y nuestra capacidad de desafiar las predicciones del algoritmo, de convertirnos en seres previsibles y conformistas.
La vigilancia pasiva que aceptamos voluntariamente al aprobar los términos de uso de cualquier servicio digital amenaza con socavar los pilares básicos de nuestros modelos de convivencia. El asalto a nuestra privacidad, la desacralización de nuestro hogar, e incluso de nuestro cuerpo, va a seguir en aumento. Como señala Giuliano da Empoli, hace ya tiempo que los ingenieros de Silicon Valley dejaron de programar ordenadores. Ahora programan comportamientos humanos. “La revolución se ha convertido en una cuestión técnica, y mil hombres bien organizados tienen más oportunidades de hacerse con las riendas del Estado que una masa revolucionaria en armas”.
Y es en este contexto donde el Derecho, como de costumbre, se ha movido muy por detrás de los acontecimientos. Los legisladores no han podido o querido seguir el ritmo de los grandes tecnólogos. Con cierta pasividad y complacencia, no han regulado toda la variedad de riesgos y situaciones que pueden derivarse de una transformación social y económica tan extraordinaria que amenaza con dilapidar nuestros derechos humanos más básicos. El Derecho tributario no ha sido una excepción. No existen normas tributarias para abordar adecuadamente las actuaciones administrativas que, dentro de nuestro mundo digital, pueden llegar a conculcar los derechos de los contribuyentes. Ante tal carencia normativa, nuestro Alto Tribunal podría haber optado por interpretar el Derecho a través de meros ejercicios de subsunción de los casos enjuiciados en la norma positiva vigente, como si fuera una máquina más. Afortunadamente no ha sido así. Cuando ha tenido que enfrentarse a nuevos retos conectados con nuestra realidad digital, tales como el abordaje de los dispositivos electrónicos, ha explorado el Derecho en su máxima extensión, partiendo de principios básicos y de derechos fundamentales. Es posible que nuestro Tribunal Supremo se vea obligado a actuar de la misma forma en el futuro, si el poder legislativo siguiera abdicando de su obligación de cubrir nuestro enorme vacío legal. Nuestro Alto Tribunal puede estar llamado a actuar en el futuro próximo como nuestro último baluarte del Estado de Derecho.
2. LA GRAN PREGUNTA DE NUESTROS TIEMPOS
El extraordinario avance de la tecnología y, en particular, de la inteligencia artificial, ha provocado la mayor crisis de identidad que probablemente la humanidad haya sufrido jamás. Hoy nos hacemos una pregunta trascendental cuya respuesta condicionará nuestro futuro: en qué consiste ser humano.
Descartes consideraba que el ser humano es cuerpo y alma. Y su alma era la capacidad de pensar. Así lo exponía en su Discurso del método. Pienso, luego existo. Al separar la res cogitans (alma) de la res extensa (cuerpo), Descartes facilitó a la teología una herramienta para defender la inmortalidad del alma. Tesis que se ha venido propagando fundamentalmente a través de los postulados del humanismo cristiano.
A finales del siglo XX emerge un nuevo movimiento filosófico y antropológico: la filosofía del post-humanismo o del transhumanismo. Se trata de un enfoque cultural en el que la línea divisoria entre lo humano y la máquina se vuelve difusa. Según este enfoque no se descarta que la especie humana sea sustituida por otra más evolucionada, hibridada con la máquina. Algunos defienden que el ser humano es realmente un algoritmo complejo que puede habitar en diversas formas orgánicas e inorgánicas. Que el ser humano no es más que una mente que puede ser descargada en una nube. Que el ser humano no tiene una esencia inmutable. Que el concepto ser humano no deja de ser un constructo social, cuyo significado evoluciona a lo largo de los tiempos.
Como señala Yuval Noah Harari en su Homo Deus, hoy ha surgido una nueva religión: el dataísmo, que sostiene que el universo es un mero flujo de datos. Los dataístas son escépticos en cuanto a las capacidades humanas. Prefieren depositar su confianza en datos masivos y en algoritmos informáticos que los explotan. Los dataístas suelen utilizar un lenguaje mesiánico. Ray Kurzweil, uno de sus profetas, titula su famoso libro La singularidad está cerca, evocando así las palabras de San Juan Bautista: “el reino de los cielos está cerca”. Harari advierte que el dataísmo amenaza con hacer de Homo sapiens lo que Homo sapiens ha hecho con el resto de los animales. “Cuando los humanos perdamos nuestra importancia funcional para la red, descubriremos que, después de todo, no somos la cúspide de la creación”.
La Catedrática de Filosofía del Derecho Cristina Monereo nos invita a leer la novela de ciencia ficción Flores para Algernon. Cuenta la historia de Charlie Gordon, un hombre con discapacidad intelectual, que se somete a una operación para aumentar su inteligencia tras el éxito del experimento previamente realizado con un ratón llamado Algernon. A medida que Charlie se va volviendo más inteligente adquiere conciencia de su propia dignidad, y de cómo aquella fue previamente despreciada por los científicos que experimentaron con él. Es posible que todos pronto acabemos pareciéndonos a Charlie o a Algernon. Según los grandes visionarios, en pocos años existirá una inteligencia artificial generativa que supere a la inteligencia humana. Así que las tres leyes de la robótica de Isaac Asimov, orientadas a proteger al ser humano de las máquinas, y a las que hacía referencia en su Yo Robot en el año 1950, deberán ser cuidadosamente observadas. Ya no parece ciencia ficción. El premio Nobel de Física Geoffrey Hinton, así como otros reconocidos tecnólogos como Joshua Bengio, Stuart Russell y Andrew Yao, han iniciado proyectos para evitar que las inteligencias artificiales no acaben teniendo la tentación de tomar el control sobre el ser humano. La clave radicará en construir inteligencias artificiales maternales. Aquellas que, aun siendo más inteligentes que el ser humano, no aspiren a deshacerse de nosotros.
Charlie Gordon nos enseñó que lo que nos hace humanos es algo más que la inteligencia. Ese algo más tiene que ver con nuestra vulnerabilidad como seres vivos, como seres sintientes. Es esa fragilidad humana, que forma parte de nuestra naturaleza, la que debe ser protegida a toda costa.
Los derechos humanos surgieron como necesidad de confrontar lo humano con lo inhumano: la barbarie, la injusticia. Hoy abrimos un nuevo frente: la confrontación de lo humano con lo no humano, representado por máquinas y algoritmos.
Los posthumanistas apuestan por revisar nuestras concepciones de justicia y nuestro modelo clásico de agencia y responsabilidad, pues ésta podrá ser también asumida, según su paradigma, por entidades artificiales. Pero si se asimila la condición humana a la condición artificial, el ser humano podría acabar perdiendo paulatinamente su condición prioritaria en el mundo. Y, con ella, su dignidad, al menos tal y como la hemos venido entendiendo hasta ahora.
3. LA DIGNIDAD HUMANA
El respeto de la dignidad humana ha sido reconocido en el artículo 1 de la Declaración Universal de los Derechos Humanos y en el artículo 1 de la Carta de los Derechos Fundamentales de la Unión Europea. La dignidad de la persona es además referida en el artículo 10.1 de nuestra Constitución como uno de los fundamentos del orden político y de la paz social.
Uno de los imperativos categóricos formulados por Kant estriba en considerar al hombre como un fin en sí mismo, y no como un medio. El hombre tiene el derecho a no convertirse en un ser-dato. Como señala el filósofo Byung Chul-Han en su obra Infocracia, el dataísmo es un totalitarismo sin ideología. “El hombre-masa no tiene identidad. Es nadie (…) Más bien es alguien con un perfil, mientras en la era de las masas solo los delincuentes tenían un perfil. El régimen de la información se apodera de los individuos mediante la elaboración de perfiles de comportamiento”.
Como apunta Juan Luis Suárez, la transformación digital nos ha ido deshumanizando progresivamente. Nos ha hecho perder condiciones típicamente humanas, como la libertad, la igualdad, el respeto por la diferencia y nuestro espíritu crítico.
Hoy es, pues, más necesario que nunca, reivindicar el principio de dignidad humana. Y a partir de él derivar otros principios y derechos adaptados a nuestra realidad digital, si no queremos acabar abducidos por la tiranía del algoritmo que promueven los evangelistas de lo posthumano, que cabalgan el tigre confiando en que no les devore a ellos. Y este renovado principio de dignidad humana debería tener una importancia clave en todos los ámbitos del Derecho. Incluido, por supuesto, el Derecho tributario.
4. LA DEMOCRACIA Y EL LIBRE ALBEDRÍO
Soshana Zuboff nos advierte que, desde la segunda década de este siglo, asistimos a un capitalismo de la vigilancia, en el que las grandes plataformas digitales acumulan un poder omnímodo a través de la acumulación de cantidades masivas de datos. Zuboff considera que los gobiernos apenas han regulado estas prácticas. De hecho, han acudido a estas empresas para asegurar sus propios objetivos de control ciudadano, lo que amenaza su libre albedrío, pilar fundamental de cualquier sociedad democrática. Las tecnologías digitales no sólo nos observan, sino que predicen nuestro comportamiento. La inteligencia artificial puede llegar a conocernos antes y mejor que nosotros. Y la instrumentalización de las personas como medios, para cumplir los propósitos ajenos, es el camino que conduce al totalitarismo, como ya nos alertó Hanna Arendt.
Hoy nos encontramos ante la amenaza de un neofeudalismo integrado por unos cuantos señores que suelen frecuentar las playas de California. Que anticipan lo que Solar Cayón denomina algocracia, o la capacidad de los algoritmos de configurar un nuevo gobierno. Una algocracia que podría acabar convirtiéndose en una alogocracia, en un gobierno dominado por la irracionalidad y el dogmatismo de unos pocos. El escándalo de Cambridge Analytics del año 2018, por el que se recabó información personal para fines políticos de más de ochenta millones de usuarios de Facebook, sin su conocimiento ni consentimiento, así como algunos otros casos similares, nos han demostrado cómo las plataformas digitales pueden llegar a cambiar comportamientos de los ciudadanos y su intención de voto. Cómo pueden contaminar el debate público. Kant, en su Metafísica de las Costumbres, definía la libertad jurídica como “la facultad de no obedecer a otra ley que no sea aquella a la que los ciudadanos han dado su consentimiento”. En una sociedad en la que se produce una creciente manipulación de los intereses y conductas, en la que el consentimiento colectivo puede entenderse viciado, ¿cabe hablar estrictamente de democracia, de Estado de Derecho, valores consagrados en el artículo 2 del Tratado de la Unión Europea? El futuro papel de los tres poderes del Estado y, en particular, del poder judicial, resultará clave para que la democracia no acabe convirtiéndose en un mera apariencia dirigida por una minoría. En el ámbito del Derecho tributario, como en muchos otros, resultaría deseable que los principios de democracia y de Estado de Derecho se erigieran en brújula omnipresente a la hora de abordar realidades amenazantes de nuestro contrato social.
5. ALGUNAS SENTENCIAS CLAVE DE NUESTRO ALTO TRIBUNAL
Nuestro Tribunal Supremo ha venido definiendo un cuerpo de doctrina, en relación con algunas realidades, que debería ser especialmente observado a la hora de establecer una adecuada balanza entre la legítima lucha contra el fraude fiscal y la protección de los derechos fundamentales de los contribuyentes, dentro de un entorno digital y de progresiva explotación de datos masivos de los ciudadanos a través de tecnologías invasivas. Seguidamente repasamos algunas de estas sentencias clave.
5.1. Requerimientos masivos de información
La jurisprudencia de nuestro Alto Tribunal relativa a requerimientos masivos de información y a la prohibición de las denominadas “expediciones de pesca” se ha venido configurando a través de un extenso cuerpo de sentencias que han fijado los límites de la potestad de obtención de información establecida en los artículos 93, 94 y 142 de nuestra Ley General Tributaria. Nuestro tribunal ha distinguido entre dos formas de canalizar la obtención de información en materia tributaria, con carácter previo al inicio de una actuación inspectora. La información por suministro, mediante la que los sujetos obligados deben facilitar datos con trascendencia tributaria de forma periódica y estandarizada. Y la información por captación, propia de los requerimientos individualizados.
La sentencia de referencia es la de 20 de octubre de 2014 (rec.1414/2012), que recuerda que los requerimientos individualizados han de ser concretos y singulares, sin que tengan cabida los requerimientos abstractos, genéricos e indiscriminados. Se reitera aquí el criterio mantenido en previas sentencias en cuanto a los datos que, per se, reúnen transcendencia tributaria de manera directa, y aquellos otros datos con incidencia indirecta, en los que la Administración debe hacer un mayor esfuerzo de motivación y justificación del requerimiento. En la sentencia se concluye que no siempre la tasación de un inmueble se encuentra vinculada a una operación que haya de tener transcendencia fiscal. Y rechaza “la idea-fuerza subyacente en el planteamiento de la Administración: cualquier dato económico tiene por sí mismo trascendencia tributaria”. Posteriores sentencias del Tribunal ahondaron en esta idea, tales como las de 23 de octubre de 2014 (rec.2182/2012), 22 de enero de 2015 (rec.1290/2012), 11 de marzo de 2015 (rec.1412/2012) y 30 de abril de 2015 (rec. 1287/2012).
Especialmente relevante es también la sentencia de 13 de noviembre de 2018 (rec.620/2017), en la que se rechaza la procedencia de una petición realizada por la Administración tributaria al Consejo General del Poder Judicial, relativa a la participación de abogados y procuradores en todos los procedimientos judiciales concernientes a los años 2014, 2015 y 2016, al estimarse desproporcionada y arbitraria.
5.2. Protección del entorno virtual
En su sentencia de 29 de septiembre de 2023 (rec. 4542/2021), el Tribunal Supremo resuelve un caso en el que, en el marco de una comprobación tributaria, los inspectores actuarios adoptaron la medida cautelar consistente en la copia en un disco duro de la información contenida en un ordenador portátil, con el consiguiente precinto para su posterior apertura tras autorización judicial. El tribunal empieza por apuntar que el supuesto no puede quedar incardinado en un supuesto de inviolabilidad del domicilio, previsto en el artículo 18.2 de nuestra Norma Suprema, pues un ordenador no puede considerarse como un domicilio. Pero no le queda duda de que se trata de un supuesto de violación de derechos fundamentales que, en palabras del tribunal, debería haber sido regulado por ley orgánica. Asimila la autorización para captar datos informáticos del inspeccionado con una autorización judicial de entrada en su domicilio. Estima que el deber de proporcionalidad impone separar, antes del copiado, los datos que tengan trascendencia fiscal de los que no lo tengan. Entiende que, con el mero copiado masivo de datos al margen del juez, ya cabe entender violado el derecho fundamental del ciudadano, pues la información suministrada por la Inspección para obtener la autorización judicial debe someterse antes a verificación por éste. Y dictamina que “no cabe concebir como libre un consentimiento exigido por la Inspección como una especie de trágala”.
A partir de aquí, apoyándose en la doctrina jurisprudencial penal y de nuestro Tribunal Constitucional, que toma como referencia la Sentencia del Tribunal Europeo de Derechos Humanos en el caso Malone contra el Reino Unido, acerca del derecho a la inviolabilidad de las comunicaciones, acoge un derecho fundamental de última generación denominado derecho al entorno virtual, ya defendido en su sentencia previa nº 489/2018, de 23 de octubre. Concluye así que las exigencias de autorización de acceso y entrada a domicilios constitucionalmente protegidos, sujetas a los principios de necesidad, adecuación y proporcionalidad de la medida, son extensibles a aquellas actuaciones administrativas que “tengan por objeto el conocimiento, control y tratamiento de la información almacenada en dispositivos electrónicos (ordenadores, teléfonos móviles, tabletas, memorias, etc.)”, pues tales actuaciones pueden afectar a “los derechos fundamentales a la intimidad personal y familiar; al secreto de las comunicaciones y a la protección de datos”, derechos que se consideran vulnerados en el caso enjuiciado.
En la posterior sentencia de 25 de junio de 2024 (rec. 7845/2022), el Tribunal Supremo falla que esta protección del derecho al entorno virtual debe extenderse a la información alojada en los servidores o en la nube, sin perjuicio de que su sentencia fuera en este caso desestimatoria, al no caber apreciar la conculcación del derecho a la intimidad por tratarse de una persona jurídica, y en la medida en que el auto judicial recurrido contenía una cumplida motivación respecto de la necesidad, idoneidad y proporcionalidad de la autorización de entrada y acceso a la información contenida en los servidores y equipos informáticos.
5.3. El caso BOSCO y la transparencia algorítmica
La Sección Tercera de la Sala de lo Contencioso-Administrativo del Tribunal Supremo dictó una sentencia trascendental el 11 de septiembre de 2025 (rec. 7878/2024), en el denominado caso BOSCO. La aplicación informática BOSCO era la herramienta informática disponible en la sede electrónica del Ministerio de Energía, Turismo y Agenda Digital, que debían emplear las empresas comercializadoras de energía eléctrica para conocer qué consumidores cumplían los requisitos normativos para ser calificados como consumidores vulnerables y percibir, en consecuencia, el denominado bono social. Es decir, esta aplicación determinaba, de forma automatizada, si un determinado consumidor era o no merecedor de este incentivo. La Fundación Ciudadana Civio solicitó el acceso al código fuente de la aplicación a través del Portal de Transparencia, solicitud que fue desestimada por silencio administrativo. Se presentó después reclamación ante el Consejo de Transparencia y Buen Gobierno que estimó en parte la misma, y obligó al Ministerio a remitir al reclamante la especificación técnica de la aplicación, el resultado de las pruebas realizadas para comprobar que la aplicación implementada cumplía con la especificación funcional, así como cualquier otro entregable que permitiera conocer el funcionamiento de la aplicación. Sin embargo, el Consejo desestimó el acceso al código fuente de la aplicación, al encontrarse amparado por el derecho de propiedad intelectual sobre la base del límite previsto por el artículo 14.1.j) de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno.
En esta sentencia el Tribunal Supremo empieza recordándonos que el derecho de acceso a la información pública, contemplado en el artículo 105.b) de nuestra Constitución (CE), puede condicionar derechos fundamentales y libertades públicas tales como el derecho de participación política (artículo 23 de la CE), el derecho a la libertad de información (artículo 20 de la CE) y el derecho a la tutela judicial efectiva (artículo 24 de la CE). En el ámbito del Derecho internacional, pauta interpretativa obligatoria conforme al artículo 10.2 de la CE, se reconoce el derecho de acceso a la información pública en el artículo 42 de la Carta de Derechos Fundamentales de la Unión Europea.
El Tribunal reconoce el principio de transparencia algorítmica, “que impone a las Administraciones públicas obligaciones de información pública para facilitar el acceso a los ciudadanos, en mayor o menor medida, a las características fundamentales de los algoritmos empleados en la toma de decisiones o su código fuente, como una manifestación del principio de transparencia, consagrado constitucionalmente (artículo 105.b) de la CE)”. En conexión con este principio menciona un concepto de mayor amplitud: el de democracia digital o electrónica, que “nace como consecuencia del uso de las tecnologías digitales por los gobiernos y los ciudadanos, y su desarrollo pretende fortalecer las prácticas democráticas tradicionales”.
Apoyándose en el derecho a la buena administración contemplado en el artículo 41 de la Carta de los Derechos Fundamentales de la Unión Europea, y en el derecho a la seguridad jurídica de las personas administradas (art. 9.3. de la CE), el tribunal estima legítimo el acceso al código fuente de la aplicación BOSCO, tras ponderar los intereses en conflicto. Otorga prevalencia al interés en el acceso al código fuente de la aplicación BOSCO sobre el derecho a la propiedad intelectual de la Administración del Estado, máxime teniendo en cuenta que los eventuales perjuicios que pudieran dimanarse del acceso a tal código fuente por terceros no autorizados podrían ser minimizados a través de determinadas cautelas. En estas circunstancias, nuestro Alto Tribunal considera que “evitar la opacidad del algoritmo o el código fuente se muestra consustancial al Estado democrático de Derecho, sujeto al principio de transparencia, y refuerza la confianza ciudadana en el correcto funcionamiento de las Administraciones públicas”.
Asimismo, el tribunal remacha que estas últimas reflexiones “adquieren especial importancia en un escenario regulatorio como el actual, donde no existen autoridades de supervisión independientes que garanticen el correcto funcionamiento de dichas aplicaciones telemáticas, lo que, dejando al margen el ejercicio de acciones judiciales, reduce notablemente las posibilidades de su fiscalización por los ciudadanos”.
El tribunal, al elaborar su tesis, se refirió a la Ley 15/2022, de 2 de julio, integral para la igualdad de trato y la no discriminación, cuyo artículo 23 establece principios favorables a la transparencia de los algoritmos empleados en la toma de decisiones por las Administraciones Públicas, a efectos de minimizar sesgos con posible impacto discriminatorio.
Nuestro Alto Tribunal acaba así concluyendo que la transparencia exigible en el funcionamiento de la aplicación BOSCO “no queda garantizada con la mera explicación funcional sobre la misma, ofrecida por la Administración titular de la aplicación, sino que exige el acceso al algoritmo, pues de otro modo no resultaría posible comprobar con exactitud y detalle dicho funcionamiento y, por ende, la sujeción de las órdenes o instrucciones en lenguaje informático que contiene las previsiones legales y reglamentarias sobre los requisitos necesarios para la obtención del bono social”.
Se trata de una sentencia que tendrá una importancia trascendental para otorgar la suficiente confianza y seguridad jurídica a los ciudadanos, cuyo destino podrá decidirse en la práctica por algoritmos opacos al servicio de las Administraciones tributarias, aun cuando los relatores oficiales no se cansen de repetir que siempre prevalecerá el principio de human-in-the-loop.
6. LA INTELIGENCIA ARTIFICIAL
6.1. Planteamiento general
La utilización de la inteligencia artificial en el ámbito del Derecho exige, al menos dos reflexiones. La primera, qué impacto puede tener la inteligencia artificial a la hora de impartir justicia. La segunda, cómo puede explicarse una decisión adoptada por una administración tributaria en la que subyace el uso de la inteligencia artificial.
6.2. La impartición de justicia
Algunos académicos consideran que la inteligencia artificial no es más que estadística y que, por tanto, un software de semejante especie no puede pasar de ser una mera herramienta historiográfica. De forma que un algoritmo de inteligencia artificial sería, en todo caso, un juez sesgado, pues sólo tendría en cuenta lo justo positivo e ignoraría lo justo natural. Tal vez sea este un juicio precipitado, porque el desarrollo de la inteligencia artificial no deja de sorprendernos. Puede que estas herramientas sean capaces de proponer soluciones en el futuro basadas en principios del ordenamiento jurídico que vayan más allá del Derecho positivo.
Ahora bien, incluso asumiendo esta posibilidad, hay algunas decisiones que deberían ser necesariamente humanas, por mucho que avance la tecnología. En el ámbito de la filosofía del Derecho, como en el de la filosofía en general, existen corrientes diversas. Algunos problemas no serían enjuiciados de la misma forma por un iuspositivista como Juan Antonio García-Amado, que por un post-positivista como Manuel Atienza, o por un no-positivista como Robert Alexy. Algunos atienden con más fervor a los principios generales del Derecho y otros se pegan más al Derecho positivo. Algunos priorizan el ejercicio de subsunción de las realidades en preceptos normativos vigentes y otros anteponen la ponderación de los diversos derechos e intereses en conflicto. No nos acabamos de poner de acuerdo en cuanto al punto de partida. En eso consiste precisamente la riqueza del Derecho. Y en el ámbito del Derecho tributario ocurre exactamente lo mismo. Además de todas estas disquisiciones, existe otra más específica que influye crucialmente en el curso de los acontecimientos: ¿Qué debe entenderse por “servir con objetividad los intereses generales”, a los que se refiere el artículo 103.1 de nuestra CE? Algunos entienden que la preservación de los intereses generales pasa por priorizar la lucha contra el fraude fiscal. Otros, que la protección de los derechos fundamentales de los ciudadanos debe ser la luz que nos guíe. Estamos ante diferentes cosmovisiones éticas o ideológicas, que deberían confluir en un mínimo ético compartido por la mayoría de los ciudadanos, o que debería evolucionar según lo haga nuestra propia cultura. Pero, en ningún caso, tales cosmovisiones deberían ser definidas por un algoritmo desconocido. Si delegáramos también a las máquinas este tipo de decisiones, renunciaríamos por completo al libre albedrío humano.
Como señala el Catedrático de Filosofía del Derecho Jesús Ignacio Martínez García, la inteligencia artificial invita a la pereza intelectual. “Por falta de tiempo o por comodidad, podemos dejar que los dispositivos electrónicos no sólo sean una asistencia técnica sino también una guía, y aceptemos acríticamente sus propuestas”. Cuando llegue ese momento, “el progreso de la inteligencia tecnológica coincidirá con un retroceso de la racionalidad”, concluye. No se trata de una quimera. Ya existen jueces que han empezado a ser sancionados por redactar sentencias a partir del resultado ofrecido por una inteligencia artificial, sin revisión alguna. Si ahondamos en este camino, como nos advierte da Empoli, en el futuro los abogados, y tal vez los jueces, deberán adaptarse a las instrucciones que determine la inteligencia artificial y justificarse mucho en el caso de que decidan seguir un camino alternativo. Ya lo advirtió hace años Mario Vargas Llosa. La inteligencia artificial soborna y sensualiza a nuestros órganos pensantes, que se van volviendo paulatinamente dependientes de ella y, finalmente, sus esclavos.
No deberíamos olvidar nunca que la función de dar a cada uno lo suyo es indelegable. Sólo un ser humano frágil, perfectible, con espíritu crítico aunque imperfecto, debería acabar impartiendo justicia en atención a la especial vulnerabilidad del hombre.
6.3. La explicabilidad de las decisiones
En el anteriormente mencionado caso BOSCO, el Tribunal Supremo puso a disposición del reclamante el código fuente de la aplicación informática. A partir de aquí el reclamante debía realizar un trabajo adicional: verificar si el código fuente de la aplicación definía algoritmos razonables, éticos y ausentes de sesgos discriminatorios, durante el proceso orientado a levantar una bandera verde o roja en la concesión del bono social a los ciudadanos. En la medida en que las decisiones de las administraciones deben estar suficientemente motivadas por mandato constitucional (art. 9.3. y 103.1 de la CE), el uso de software avanzado conectado con decisiones administrativas puede avocar a un ecosistema de expertos informáticos que actúen como peritos y contra-peritos de las aplicaciones utilizadas, de cara a cuestionar o defender la bondad y racionalidad de tales sistemas informáticos.
La aplicación BOSCO era relativamente poco sofisticada. No se apoyaba en inteligencia artificial. La explicabilidad de sus algoritmos, basados en sencillas reglas matemáticas, parece, a priori, una tarea abordable. ¿Pero qué ocurriría con un software basado en técnicas de machine learning, de autoaprendizaje sin supervisión humana? Gran parte de los sistemas de inteligencia artificial están basados en sistemas de redes neuronales que parten de información compleja, y en los que ni los mismos expertos son capaces de trazar el proceso seguido para adoptar una decisión. En gran medida son cajas negras. Puede llegar a entenderse la lógica subyacente de la aplicación, cómo se ha construido, en qué océanos de datos realiza sus búsquedas. Pero no resulta posible explicar por qué, en un caso concreto, la herramienta ha optado por responder con un determinado output. Así que, en el futuro, nuestros tribunales se enfrentarán a un reto mayúsculo: determinar qué debe entenderse por una decisión automatizada explicable. Una pregunta que podría tener interés casacional objetivo, dada la ausencia de jurisprudencia consolidada sobre el estándar de motivación y la posible afectación a un gran número de situaciones. ¿Deberá consistir la explicabilidad de la decisión en una verbalización del proceso de subsunción de un caso concreto dentro de una norma, así como del correspondiente ejercicio de ponderación de intereses realizado? ¿O nos bastará con una mera explicación abstracta acerca de la razonabilidad de las bases con las que se ha construido una determinada inteligencia artificial, aunque ni los abogados ni los simples mortales seamos capaces de entender nada en concreto acerca de una determinada decisión, y nos veamos obligados a realizar un acto de fe? En este segundo caso el oráculo de Delfos, encarnado en algoritmo supremo, habrá ganado. Y todos le rendiremos probablemente pleitesía, de la misma forma en que nuestros antepasados adoraban a Zeus, a Júpiter o al rey Sol.
7. UN NUEVO MARCO DE DERECHOS
7.1. Los derechos en la era digital
La transformación digital de la sociedad obliga a repensar los derechos fundamentales de los contribuyentes. Un nuevo catálogo de derechos está empezando a cobrar forma para proteger a los ciudadanos de una nueva realidad virtual, automatizada y de vigilancia pasiva. Derechos reconocidos hasta la fecha, fundamentalmente, a través de documentos de soft law. Cabe mencionar la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital, publicada por la Comisión Europea el 26 de enero de 2022, que insiste en “reforzar el control democrático de la sociedad y la economía digitales, en pleno respeto de los principios del Estado de Derecho, la justicia efectiva y el cumplimiento de la ley”. En esta Carta se adquieren, entre otros compromisos, los de (i) velar por la transparencia en el uso de los algoritmos y la inteligencia artificial, (ii) asegurar que los sistemas algorítmicos se basen en datos adecuados para evitar la discriminación ilegal, con supervisión humana, y (iii) salvaguardar que la inteligencia artificial y los sistemas digitales se utilicen con pleno respeto de los derechos fundamentales de las personas.
Como consecuencia de las nuevas tecnologías que permiten realizar implantes en el cerebro humano, alterarlo, escanearlo, o conectarlo con ordenadores, empieza ya a hablarse de los neuro-derechos, orientados a dar respuesta a algunas inquietantes preguntas. Por ejemplo, ¿podría atenderse a una solicitud de la fiscalía para investigar un cerebro humano o para realizar sobre el mismo una resonancia magnética funcional? Chile ya ha reformado su Constitución para proteger la integridad mental y la actividad cerebral como un derecho fundamental. La Corte Suprema de Chile, en el caso Girardi contra Emotiv, falló en 2023 que, en atención al derecho a la privacidad, una empresa debía eliminar toda la información recolectada de un usuario por su dispositivo Insight, que monitoreaba la actividad eléctrica cerebral y permitía comercializar la información recabada en la nube.
No parece que vaya a resultar necesario acudir a los neuro-derechos para proteger a los contribuyentes, al menos en un futuro próximo, aunque en ocasiones la realidad supera a la ficción. Entre los neuro-derechos que vienen siendo perfilados se encuentra el derecho a que las personas queden protegidas frente a los sesgos algorítmicos y a que las decisiones humanas no sean manipuladas. Y aquí cabría recordar algunas de las medidas adoptadas por nuestra Administración tributaria para sesgar a los contribuyentes en una determinada dirección, dentro de ese enfoque de economía conductual auspiciado por el premio Nobel de Economía Richard Thaler. Conocido es el caso del software de la Agencia Tributaria RentaWeb, destinado a la presentación de declaraciones de IRPF, en el que el contribuyente era forzado a alinearse con un determinado criterio administrativo. No cabe descartar tentaciones parecidas en el futuro.
7.2. El derecho a la intimidad y a la protección de datos de carácter personal
El artículo 8 del Convenio Europeo de Derechos Humanos reconoce el derecho al respeto a la vida privada y familiar y la prohibición de la injerencia de la autoridad pública en el ejercicio de este derecho, salvo en los casos previstos por la ley que constituyan medidas necesarias en una sociedad democrática para salvaguardar valores tales como la seguridad nacional, la defensa del orden y la prevención del delito. Asimismo, la Carta de los Derechos Fundamentales de la Unión Europea reconoce, en su artículo 8, el derecho a la protección de los datos de carácter personal. El derecho a la intimidad personal y familiar es asimismo reconocido en el artículo 18.1 de la CE. Según nuestra Norma Suprema, la ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos. El Tribunal Constitucional de la República Federal de Alemania, en su Sentencia de 15 de diciembre de 1983, atendiendo al riesgo que la informática y el almacenamiento de datos representa para los derechos de los ciudadanos, reconoció el derecho a la autodeterminación informativa, que supone el poder de controlar el flujo de información relativo a su persona, para lo que resulta indispensable conocer y consentir su almacenamiento y su uso. Nuestro Tribunal Constitucional se hizo eco de este derecho en su sentencia 292/2000, de 30 de noviembre.
El profesor Bernardo Olivares, en diversas publicaciones, ha venido alertando acerca de la utilización de software, por parte de la Agencia Tributaria, en el que a través de algoritmos avanzadas, que incluyen el uso de la inteligencia artificial, se pretende luchar contra el fraude fiscal. En particular, da cuenta de un software contratado por la Agencia en 2023 orientado a obtener información en redes sociales que permite crear avatares o identidades falsas para infiltrarse en las redes sociales de los ciudadanos. Esta aplicación pretende identificar signos de riqueza externas inconsistentes con las rentas declaradas y extraer patrones de comportamiento para seleccionar a aquellos contribuyentes que, con mayor probabilidad, estén cometiendo fraude.
Esta forma de recabar y tratar datos de los contribuyentes, aunque sea para seleccionarlos de cara a una posterior comprobación, se parece mucho a una expedición de pesca por arrastre en la que se viola el derecho al entorno virtual, circunstancias que han sido censuradas por nuestro Tribunal Supremo, aunque en un entorno más pedestre. Estas prácticas resultan difícilmente conciliables con los principios de licitud, lealtad, transparencia y minimización de datos previstos por el Reglamento (UE) 2016/679, general de protección de datos. La Agencia tributaria podría estar vulnerando el artículo 14.2.g) de dicho Reglamento que en cierta medida pretende hacer efectivo el derecho a la autodeterminación informativa. En particular, el referido precepto obliga a comunicar al interesado la existencia de decisiones automatizadas, incluida la elaboración de perfiles, así como información significativa sobre la lógica aplicada y las consecuencias previstas por dicho tratamiento.
El Tribunal de Justicia de la Unión Europea, en su Sentencia de 7 de diciembre de 2023, asunto C-634/21 (SCHUFA Holding), concluye que un software que genera de forma automatizada valores de probabilidad (scores) sobre la solvencia de personas físicas constituye una decisión individual automatizada, prohibida con carácter general salvo que, conforme al artículo 22.2 del Reglamento General de Protección de Datos, el Derecho nacional autorice tales decisiones, y siempre que la norma correspondiente salvaguarde, al menos, el derecho del interesado a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión.
El Tribunal Constitucional de la República Eslovaca, en su sentencia de 10 de noviembre de 2021, analizó la constitucionalidad de la aplicación informática eKasa, en virtud del cual todas las cajas registradoras del país debían estar conectadas por internet a los servidores de la Hacienda eslovaca. Concluye que la evaluación automatizada de un individuo basada en la recopilación masiva de datos constituye una interferencia en el derecho de autodeterminación informativa, y que no puede quedar amparada por una mera decisión administrativa. Es necesario para ello una ley expresa, en la que el legislador garantice la legitimidad y proporcionalidad de la solución, y asegure un control de la calidad del sistema, antes y después de su puesta en servicio. “El uso del sistema debe documentarse y registrarse no solo para permitir la supervisión colectiva, sino también para facilitar la ejecución de los derechos individuales”, afirma el tribunal.
En un sentido similar, si bien en otro ámbito de tratamiento especial de datos, nuestro Tribunal Constitucional, en su sentencia 76/2019, de 22 de mayo, resolvió que la mera inexistencia de «garantías adecuadas» o de las «mínimas exigibles a la Ley» constituye de por sí una injerencia en el derecho fundamental, de gravedad similar a la que causarían intromisiones directas en su contenido nuclear. Y reitera la esencialidad de respetar la reserva de ley cuando se trata de regular derechos fundamentales, como así establece el artículo 53.1 de la CE.
7.3. El derecho a un juicio justo y a la tutela judicial efectiva
El Convenio Europeo de Derechos Humanos, en su artículo 6, contempla el derecho a un juicio equitativo. La Carta de Derechos Fundamentales de la Unión Europea, por su parte, contempla en su artículo 47 el derecho a la tutela judicial efectiva y a un juez imparcial. Derecho a la tutela judicial efectiva igualmente recogido por la CE (art. 24.1), junto con el de presunción de inocencia (art. 24.2).
Todos estos derechos pueden verse muy seriamente amenazados por tecnologías invasivas que recopilen masivamente datos de los ciudadanos y los exploten a través de algoritmos opacos. Derechos esenciales del contribuyente como el derecho a ser oído (en trámite de audiencia) pueden acabar convirtiéndose en papel mojado si no resulta posible impugnar una determinada actuación administrativa al desconocerse los fundamentos de la decisión. O, peor aún, si el ciudadano desconoce que la maquinaria administrativa se ha puesto en marcha para seleccionarle como contribuyente de alto riesgo, sujeto a comprobación administrativa. Aun cuando la Administración pueda alegar que siempre habrá intervención humana en el proceso de decisión, la realidad es que el sesgo de automatización, el de seguir a pies juntillas lo dictaminado previamente por el algoritmo, es difícilmente evitable. La Administración debería acreditar pormenorizadamente en qué ha consistido la intervención humana, pues la inversión de la carga de la prueba en este caso implicaría la exigencia de una prueba diabólica para el contribuyente, especialmente improcedente cuando se trata de la afectación de derechos fundamentales.
El contribuyente debería poder conocer el origen de la información de la que se nutren las herramientas de software avanzado, cómo adoptan sus decisiones, y en qué tipo de sesgos pueden incurrir. La explicabilidad algorítmica, cuando concurre inteligencia artificial, podría llegar a ser impracticable, pues como ya se ha apuntado ni los propios expertos son capaces de explicar cómo, en concreto, un algoritmo conduce a un determinado resultado.
Como señala el magistrado Manuel Marchena, “cualquier decisión que implique la privación de derechos fundamentales no puede fundamentar su procedencia en el altísimo grado de acierto estadístico del algoritmo que sirve de base, a partir de la información estadística que nutre su funcionamiento, para la privación de libertad o la afectación del patrimonio”. Ya lo anticipó hace algunos años Cathy O´Neil. Si no se corrige esa falsa apreciación de objetividad de los procesos tecnológicos, quedaremos abocados a una “producción masiva, prácticamente industrial, de injusticia”.
8. BIBLIOGRAFÍA
- Bernardo D. OLIVARES OLIVARES (2026), Sistemas de inteligencia artificial en la Agencia Estatal de Administración Tributaria: Despliegue tecnológico y control jurídico. Atelier Libros Jurídicos.
- Bernardo D. OLIVARES OLIVARES (2026), Contribuyentes, influencers, deslocalizados y corruptos. Los algoritmos al servicio de la Administración tributaria, ¿los algoritmos al servicio del Estado de Derecho?. Revista Técnico Tributaria, num. 152, 2026, pp. 63-121.
- Brenda Isabel MURUGARRA RETAMOZO (2024), Neuroderechos, neurotecnologías e inteligencia artificial: protección de la actividad cerebral humana. Ed. Colex.
- Byung CHUL-HAN (2022), Infocracia. La digitalización y la crisis de la democracia. Ed. Taurus.
- Cathy O´NEIL (2018). Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Ed. Capital Swing.
- Cristina MONEREO ATIENZA (2024), Ciencia ficción y Derecho: la reconstrucción del concepto de ser humano a propósito de la novela Flores para Algernon de Daniel Keyes, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial. Ed. Reus, pp. 67-90.
- Giuliano DA EMPOLI (2025), La hora de los depredadores. Ed. Seix Barral.
- Guillermo SÁNCHEZ-ARCHIDONA HIDALGO (2026), La autoliquidación tributaria ante la delegación de la voluntad humana en la inteligencia artificial. Revista de Contabilidad y Tributación CEF, 515 (feb. 2026). Pp. 1-38.
- Immanuel KANT, La metafísica de las costumbres (2005). Ed. Tecnos.
- Isaac ASIMOV, Yo Robot (2009). Editora y Distribuidora Hispano Americana.
- Jesús Ignacio DELGADO ROJAS (2024), Dos modelos económicos en la sociedad del riesgo algorítmico: economía de la atención digital y economía de la vigilancia global, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial. Ed. Reus, pp. 15-26.
- Jesús Ignacio MARTINEZ GARCÍA (2019), Inteligencia y derechos humanos en la sociedad digital. Cuadernos Electrónicos de Filosofía del Derecho, num. 40, 2019, pp. 168-189.
- Jesús Ignacio MARTÍNEZ GARCÍA (2024), Inteligencia jurídica y racionalidad: consideraciones a partir de Ferraris, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial. Ed. Reus, pp. 43-54.
- José Ignacio SOLAR CAYÓN (2019), La Inteligencia Artificial Jurídica. El impacto de la innovación tecnológica en la práctica del Derecho y el mercado de servicios jurídicos. Ed. Aranzadi.
- Juan IZQUIERDO ALARIO, Límites actuales de la IA en la decisión judicial. En especial, en la aplicación del Derecho, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial (2024). Ed. Reus, pp. 27-41.
- Juan Luis SUAREZ, La condición digital (2023). Ed. Trotta.
- Lorenzo DEL FEDERICO, Old and New Taxpayers´ Rights in the Digital Age: Supranational Convergences (2025). International Tax Studies. IBFD.
- Lucas E. MISSERI, Inteligencia artificial y filosofía política: algunas notas críticas sobre un nuevo campo temático, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial (2024). Ed. Reus, pp. 55-65.
- Manuel MARCHENA GOMEZ, Inteligencia artificial y jurisdicción penal (2022). Discurso leído por el Excmo. Sr. D. Manuel Marchena Gómez en el acto de su recepción como Académico de número de la Real Academia de Doctores de España y contestación del Excmo. Sr. D. Jorge Rodríguez-Zapata Pérez.
- María Olga SÁNCHEZ MARTÍNEZ, La inteligencia artificial en la información del siglo XXI, en Carla ROMERO ÁLVAREZ y otros autores, Retos actuales de la Filosofía del Derecho. Especial atención a la Inteligencia Artificial (2024). Ed. Reus, pp. 129-142.
- Mariano SIGMAN y Santiago BILINKIS, Artificial. La nueva inteligencia artificial y el contorno de lo humano (2023). Ed. Debate.
- Mario VARGAS LLOSA, La civilización del espectáculo. Ed. Penguin Random House.
- Paolo BENANTI, El colapso de Babel (2025). Ed. Encuentro.
- Soshana ZUBOFF, La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder (2020). Ed. Paidós.
- Yuval Noah HARARI, Homo Deus. Breve historia del mañana (2017). Ed. Debate.
