Jurisprudencia, algoritmos y derechos fundamentales

Los poderes públicos están abandonando poco a poco el mundo analógico para sumergirse en la llamada “revolución industrial 4.0″ que nos ha traído el internet de las cosas (IoT) y los sistemas de aprendizaje automatizado que, imitando redes neuronales, pueden convertirse en verdaderas black boxes o cajas negras de las que poco o nada se sabe sobre su forma de operar (Meseguer Yebra, 2022).

Para aquilatar la transcendencia de esta jurisprudencia un examen histórico de algunos casos nos ilustra: por ejemplo, un sistema de inteligencia artificial fue el tercer candidato más votado en las elecciones a la alcaldía de un distrito de Tokio en 2018 o que el Parlamento Europeo se esté planteando la necesidad de regular un Estatuto de Persona Electrónica.

Con tales ejemplos, se entiende mejor que la Carta de Derechos Digitales haya preferido hablar de derechos de las personas “ante” la inteligencia artificial y no de un derecho a la inteligencia artificial.

En España los sistemas de inteligencia artificial (IA) como: Viogén, Saler, Veripol, Bosco, RisCanvi, Hermes, Send@… estos son solo algunos de los nombres con los que se ha bautizado a algoritmos y que utilizan las administraciones públicas para la gestión de sus procedimientos.

Ahora a todos nos queda claro que los sistemas de inteligencia artificial están compuestos por algoritmos y que los mismos tienen un código fuente que puede quebrar derechos fundamentales como el de elegir o ser elegidos, o simplemente alterar los resultados de un proceso electoral o determinar a los electores sobre sus preferencias, como fue el caso de Cambridge Analytica que combinaba la minería de datos y el análisis de datos para inclinar preferencia en los procesos electorales.

En el caso de la República Dominicana, que camina hacia un proceso de modernización tecnológica con aplicación de inteligencia artificial, algunos algoritmos que se utilizan en la administración pública y se aplican a los procesos de gestión humana, así como a los programas de administración electoral, redes de información, también utilizan estas herramientas modernas para cumplir con eficacia y eficiencia lo que es la tarea de la administración pública.

El sistema de inteligencia artificial (IA) BOSCO es el nombre de una aplicación informática que se utiliza en España para asignar el bono social eléctrico, una ayuda para familias vulnerables.

Tras una batalla legal de años, la Fundación Civio y el apoyo del Tribunal Supremo en septiembre de 2025, se ha establecido una jurisprudencia que obliga a la administración a revelar el código fuente de BOSCO; es información pública y debe ser accesible. Esta decisión pionera establece un precedente sobre la transparencia algorítmica en la administración pública, permitiendo a los ciudadanos escrutar y supervisar los sistemas automatizados que gestionan derechos fundamentales.

“El derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos”, lee la sentencia, “especialmente cuando tienen por objeto el reconocimiento de derechos sociales”

En la sentencia dice que Bosco comprende un algoritmo o código fuente que pretende ser una traducción a lenguaje informático de las disposiciones normativas que regulan los requisitos que deben cumplir los consumidores para el reconocimiento en su favor del bono social”.

En consecuencia, “la Sala estima trascendentes las características y la función atribuida a la aplicación Bosco, así como el fin al que sirve, a la hora de ponderar la relevancia pública de la información a la que pretende acceder Civio”.

Cuando el algoritmo informático falla en la selección de los beneficiarios, la administración pública argumenta que no era necesario abril el código fuente, pero el  Tribunal Supremo  dice: “la transparencia sobre el mismo puede contribuir (…) a la mejora del código y fortalecimiento de su seguridad, puesto que, por un lado, incentiva a la Administración a extremar las cautelas de seguridad en el propio diseño y control del programa informático y, por otro lado, su escrutinio por actores diversos e independientes permite aflorar vulnerabilidades inicialmente inadvertidas y posibilitar su corrección temprana”.

Sin duda alguna, esta jurisprudencia marca un ante y un después, es verdadera ruptura con la visión tradicional, en materia de derecho administrativo, nuestras especialistas, tienen retos importantes y tareas asignadas, así como la propia administración pública queda advertida.