El Tribunal Supremo ha acogido este martes una vista clave para el futuro de la transparencia en el sector público. Por primera vez, los magistrados deben decidir si el código fuente de un algoritmo utilizado por el Estado debe estar al alcance de la ciudadanía. El fallo sentará un precedente sobre si las administraciones deben revelar todos los detalles de estos sistemas de decisión automatizada, una cuestión crucial en una era en la que la inteligencia artificial empieza a ganar terreno también en las instituciones públicas.

La propia celebración de la vista oral da cuenta de su trascendencia. En el Supremo —y más aún en lo contencioso-administrativo— la gran mayoría de casos se resuelven por escrito. En el centro del caso está BOSCO, el algoritmo que determina qué hogares pueden acceder al bono social de la luz.

El litigio comenzó en 2018, cuando la Fundación Ciudadana Civio solicitó al Ministerio para la Transición Ecológica y el Reto Demográfico el código fuente de BOSCO, junto con sus especificaciones técnicas y resultados de pruebas, a través del Portal de Transparencia. Una documentación esencial para fiscalizar cómo toma decisiones el algoritmo y si concede correctamente las ayudas a quienes tienen derecho a ellas.

El Ministerio, entonces dirigido por Teresa Rivera, no contestó al requerimiento. Ante la falta de respuesta, Civio recurrió al Consejo de Transparencia y Buen Gobierno (CTBG), el organismo que supervisa que las administraciones públicas cumplan con la ley de transparencia. Este estimó parcialmente su reclamación: se entregaron los documentos que explicaban “qué hace el programa y cómo” y los “casos de prueba”, pero se denegó el acceso al código fuente por considerar que estaba protegido por la propiedad intelectual.

Civio llevó entonces el caso a los tribunales. Pasó por un juzgado de lo Contencioso-Administrativo y por la Audiencia Nacional. Fueron dos reveses para la Fundación y su aspiración de abrir el código de los algoritmos públicos. Ambas instancias no solo estuvieron de acuerdo con la resolución del Consejo de Transparencia sobre el hecho de que la protección de la propiedad intelectual era excusa suficiente para mantener las tripas de BOSCO en la caja fuerte, sino que también consideraron que la denegación de acceso estaba justificada por otros motivos.

El principal fue el de la seguridad pública y la garantía de la confidencialidad de los datos personales, que el Gobierno asegura que quedarían en peligro si se conociera el código fuente del algoritmo, dos argumentos que el CTBG había descartado en un principio.

El giro hacia la seguridad

La abogacía del Estado se apoyó en informes periciales (incluido uno del Centro Criptológico Nacional, dependiente del CNI y encargado de la ciberseguridad de las instituciones públicas; y otro del Ministerio para la Transformación Digital) que concluyeron que la revelación del código fuente de los algoritmos de la administración aumenta la gravedad de potenciales brechas de seguridad en las aplicaciones informáticas del Estado.

“Se podrían utilizar dichas vulnerabilidades para acceder a las bases de datos conectadas con la aplicación, que recogen datos especialmente protegidos, como la discapacidad o la condición de víctima de violencia de género del solicitante”, aseveraba el informe del Centro Criptológico: “El conocimiento del código fuente aumenta el riesgo de que la explotación de las vulnerabilidades pueda afectar a la seguridad nacional, la seguridad pública o la seguridad de los administrados”.

Civio refutó enérgicamente este argumento. Lo consideró “obsoleto” y argumentó que, por el contrario, la transparencia y el código abierto permiten que organizaciones de la sociedad puedan investigar y auditar el sistema, lo que en última instancia “evitaría todos los perjuicios” al aumentar las posibilidades de descubrir esos posibles fallos de seguridad en el código.

Además, alegó que el Gobierno estaba poniendo sobre la mesa “riesgos indeterminados y no probados” para no dar más información sobre BOSCO, cuando la tendencia es aumentar la transparencia de los algoritmos tanto a nivel nacional como internacional. Entre otros, citó los ejemplos de RadarCovid, RisCanvi (el algoritmo que evalúa el riesgo de reincidencia de los presos en Catalunya) o los procedimientos judiciales de EEUU o Italia, donde los jueces han fallado a favor de abrir el código de los programas de decisión automática.

La decisión del Supremo

Este cambio en el argumento principal del caso por parte del Gobierno (de la propiedad intelectual a la seguridad) en el proceso judicial dejó una sensación de “indefensión” en Civio, puesto que en un principio parecía que el litigio se encaminaba por otro camino. De hecho, la Fundación pidió en su recurso al Supremo que este ciñera el debate a la resolución original del Consejo de Transparencia, que solo limitó el acceso a la información en virtud de la propiedad intelectual de BOSCO.

Los magistrados, no obstante, se han mostrado muy interesados en el aspecto de la seguridad durante la vista de este martes en el alto tribunal. La abogacía del Estado ha avisado que conceder acceso al código fuente del algoritmo sería como informar abiertamente de “los planos y la seguridad” de un edificio público, permitiendo que cualquiera supiera cómo atacarlo. También ha negado la posibilidad de conceder el acceso solo a una parte del código, algo que, ha asegurado, comprometería la integridad de todo el sistema.

Otro de los argumentos del Gobierno es que no es necesario hacer transparente el código de BOSCO, ya que este es solo “una herramienta”, cuyas decisiones son “supervisadas” y se pueden apelar. Algo que Civio también ha rechazado.

“Un algoritmo no es un lápiz”, protesta Eva Belmonte, codirectora de la Fundación, en conversación con elDiario.es. “El argumento de este Gobierno y de prácticamente todas las administraciones que niegan el acceso a los algoritmos es que son solo herramientas, que la tecnología es neutra. Pero eso no es así. Si hay un algoritmo que está influenciando en una decisión de un organismo público, tenemos derecho a conocer cómo funciona y hasta qué punto nos afecta”, defiende.

“Este es, para mí, el fondo del asunto: si no conoces cómo funciona la tecnología, te pueden colar cualquier cosa”, avisa Belmonte.

Los magistrados tienen ahora en sus manos una decisión que trascenderá el caso BOSCO. Su fallo, que podría llegar antes del período iinhábilde agosto, marcará hasta qué punto la ciudadanía puede acceder al funcionamiento interno de los algoritmos públicos, en un momento en que estas herramientas influyen cada vez más en decisiones clave de la administración.