Civio abre camino en la transparencia algorítmica: el Supremo condena al Gobierno a entregar el código fuente de BOSCO

Hoy damos un paso de gigante hacia la transparencia algorítmica. Y esto no es ni exageración ni hipérbole. El Tribunal Supremo ha dado la razón a Civio y obliga al Gobierno a darnos el acceso al código fuente de BOSCO, la aplicación que decide quién recibe y quién no el bono social, tras exigirlo desde 2018 y enfrentarnos a numerosos reveses judiciales. Y lo hace en una sentencia que estima nuestro recurso de casación, crea jurisprudencia y establece que conocer las tripas de los programas y algoritmos que usan las administraciones públicas es un derecho democrático.

En la sentencia, que puedes leer íntegra aquí, descarta que se pueda imponer la opacidad total amparándose en la seguridad nacional o la propiedad intelectual, como había argumentado el Gobierno. Esto es, no pueden pasar por encima, de forma genérica y absoluta, del derecho de acceso a la información, un derecho que declara constitucional.

En este caso, además, tiene en cuenta que el programa que decide sobre el bono social no explica las razones de resolución en su respuesta, que toma una decisión de forma automática (no es un sistema de consulta o apoyo) y que si contiene errores tiene un “efecto multiplicador”, con miles de personas viendo denegada una ayuda a la que tienen derecho, no el error puntual que podría cometer una persona. Y, por eso, conocer cómo funciona es de “singular relevancia”.

Ni propiedad intelectual ni seguridad

Aunque la sentencia admite que conceder el acceso al código fuente puede entrañar riesgos, dicta que deben ser ponderados en cada caso, y siempre teniendo en cuenta la especial relevancia de esa información para el interés general.

Uno de los principales argumentos del Gobierno fue la defensa de su propiedad intelectual. El Supremo considera que se blande como un “mero riesgo de eventuales perjuicios”, pero que la administración no aclara en qué le dañaría. Además, establece que la protección de la propiedad intelectual se rebaja en casos como este, en el que la administración pública es la propietaria y el programa no es de una empresa, y más aún cuando no estamos hablando de un bien de mercado con derechos de explotación, sino de una herramienta que debería estar al servicio del interés público.

En cuanto al segundo argumento, los posibles daños a la seguridad nacional, destaca que abrir un código fuente puede entrañar riesgos, sí, pero que esos riesgos “por lo general, pueden ser previstos, lo que posibilita el diseño de la aplicación o programa informático fortaleciendo la seguridad del sistema”.

Durante los juicios anteriores, el Gobierno utilizó dos valoraciones técnicas para apuntalar sus argumentos. Por un lado, el Subdirector general de tecnologías de la información del Ministerio argumentó que podíamos minar criptomonedas en su sede o acceder a los datos personales de las personas que solicitan la ayuda. Por otro, el perito del Centro Criptológico Nacional aseguró que abrir cualquier código fuente supondría vulnerabilidades del sistema. Estos dos argumentos rocambolescos sirvieron de base para que tanto el juzgado de primera instancia como la Audiencia Nacional rechazaran nuestras pretensiones. El Supremo responde a ambos: considera que no se ponderaron los intereses en juego ni se valoró el caso particular, más allá de dar por buenas esas afirmaciones. Además, responde que afirmar que dar acceso al código supone una vulneración haría que, de facto, nunca nadie pudiera acceder a ningún programa informático y que la seguridad pública se usaría como veto con carácter absoluto y automático en estos casos.

Y va más allá: aunque admite que puede haber ciertos riesgos, ponderados en cada caso, “cabe afirmar, en sentido contrario, que la transparencia sobre el mismo puede contribuir, en iguales términos potenciales, a la mejora del código y fortalecimiento de su seguridad puesto que, por un lado, incentiva a la Administración a extremar las cautelas de seguridad en el propio diseño y control del programa informático y, por otro lado, su escrutinio por actores diversos e independientes permite aflorar vulnerabilidades inicialmente inadvertidas y posibilitar su corrección temprana”. Como pasó, por ejemplo, con Radar Covid, como se recoge en la propia sentencia y como destacamos tanto en nuestros recursos como en la vista oral, de la mano de nuestro abogado, Javier de la Cueva.

Ese día también afirmamos que acceder al código fuente no suponía acceder a los datos personales de los solicitantes. Y es que una cosa es el programa, las reglas que contiene; y otra muy distinta, su contenido. El Supremo también nos da la razón en este punto. Además, recuerda que la legislación europea “descarta la ocultación del código fuente como principio general”.

La transparencia algorítmica como valor clave en una ‘democracia digital’

No se trata solo de BOSCO. Y por eso esta sentencia es tan importante. Se trata, a partir de ahora, de cualquier algoritmo o programa que usen las administraciones públicas y que nos afecte. En lo que el Supremo denomina una nueva “democracia digital”, los poderes públicos tienen la obligación de “explicar de forma comprensible el funcionamiento de los algoritmos que se emplean en la toma de decisiones que afectan a los ciudadanos para permitirles conocer, fiscalizar y participar en la gestión pública”.

El aumento del uso de estas tecnologías debe ir acompañada de “exigencias de transparencia de los procesos informáticos”, lo que puede requerir, prosigue, “el acceso a su código fuente”, como ocurre en el caso de BOSCO.

En resumen, como señala la sentencia: “El progresivo desarrollo e implantación de la administración electrónica y el uso creciente de aplicaciones informáticas destinadas a la gestión de servicios públicos, con evidente trascendencia en los derechos de los ciudadanos, en la medida que determinan o condicionan el reconocimiento o denegación de derechos y prestaciones públicas, es decir, que operan como fuente de decisiones automatizadas, conlleva que la configuración y uso de los algoritmos en dichas aplicaciones adquieran una relevancia decisiva y exijan su transparencia”.

Además, este caso es especialmente relevante, puesto que, en la normativa actual, explica, “no existen autoridades de supervisión independientes que garanticen el correcto funcionamiento de dichas aplicaciones telemáticas”.

En este caso, además, la sentencia se hace eco de que la explicabilidad de los algoritmos es una “creciente demanda ciudadana” que, como en nuestro caso, se exige “como garantía efectiva frente a la arbitrariedad o los sesgos discriminatorios en la toma de decisiones total o parcialmente automatizadas”. Y es que “evitar la opacidad del algoritmo o el código fuente se muestra consustancial al Estado democrático de Derecho”.

El derecho de acceso como derecho constitucional

La sentencia se apoya en la Carta de derechos fundamentales de la Unión Europea, la Constitución, la propia Ley de transparencia y sentencias anteriores del propio Supremo, que mencionamos siempre desde Civio en todos los procesos y reclamaciones, y que establecen que no se pueden imponer límites al derecho de acceso de forma genérica y absoluta, sin ponderar cada caso.

De hecho, el Gobierno, además de argumentar de forma poco precisa el posible daño a su propiedad intelectual y a la seguridad nacional, invocó “de forma genérica” en sus argumentos otra ristra de límites al derecho de acceso: las funciones administrativas de vigilancia, inspección y control, la política económica y monetaria y la garantía de la confidencialidad o el secreto requerido en procesos de toma de decisión. La sentencia es tajante: este listado, sin razonamiento que lo justifique, “resulta inconsistente y carece de fundamento”.

Y no se queda solo en la transparencia algorítmica, sino que da un empujón a la transparencia en general y al derecho de acceso a la información. Así, aunque oficialmente, en la ley, no esté reconocido como derecho fundamental, pese a las reclamaciones de organizaciones de la sociedad civil como Civio, el Supremo afirma que está estrechamente vinculado a otros derechos como la libertad de información, el control de los tribunales, el acceso a registros, la participación, la crítica del poder o la fiscalización de las administraciones públicas y lo enmarca como “derecho constitucional”. Un derecho que es, afirma, “inseparable” de la democracia misma. Y la transparencia, un deber incluido en el principio de buena administración, que no es una “mera fórmula vacía de contenido”.

Además, usa jurisprudencia del Tribunal Europeo de Derechos Humanos (TEDH), para establecer que, además del interés público del caso, Civio “desempeña funciones de vigilancia social asociadas a la guarda y custodia del Estado de Derecho y, por ende, de la democracia, en la medida que pretende velar por el correcto funcionamiento de las instituciones públicas y promover la información de los ciudadanos acerca de su mismo y la gestión de los recursos públicos”.

La transparencia no es solo un punto de una ley, la que la regula, sino, como declara la sentencia, “un derecho constitucional ejercitable, como derecho subjetivo, frente a las administraciones públicas, derivado de exigencias de democracia y transparencia, e inseparablemente unido al Estado democrático y de Derecho”.