
Así hemos defendido en el Supremo la transparencia de los algoritmos públicos
Sin acceso al código fuente, "¿cómo pueden los jueces controlar a las administraciones públicas y cómo podrá la ciudadanía conocer cómo se toman las decisiones?", ha argumentado Javier de la Cueva, abogado de la fundación, en la vista oral. Ahora toca esperar a la sentencia.
“Este no es un caso más”, ha arrancado Javier de la Cueva, abogado de Civio, en la vista pública del caso BOSCO celebrada hoy en el Tribunal Supremo. Lo que se debate no es solo si el código fuente de la aplicación que decide quién recibe el bono social, la ayuda para pagar la factura de la luz, debe ser transparente. Lo que se debate en este caso, que arrancó tras un recurso de casación de Civio y siete años de lucha, es “cuál tiene que ser la forma del Estado de Derecho en un sistema como el actual”, cada vez más dependiente de algoritmos y programas informáticos.
Sin acceso al código fuente, “¿cómo pueden los jueces controlar a las administraciones públicas y cómo podrá la ciudadanía conocer cómo se toman las decisiones?”, ha planteado ante los cinco magistrados y una sala llena. Y es que se trata de un caso clave, no solo porque es la primera vez que la transparencia algorítmica llega al Supremo y por los casos internacionales que han ido sucediéndose en los últimos años, sino también porque esta sentencia va a marcar cómo se interpreta la Ley de Transparencia en este ámbito de ahora en adelante.
La transparencia algorítmica, ha argumentado Civio en la vista, es imprescindible para poder vigilar lo que pasa, comparar distintas versiones de un programa y salvaguardar el derecho a la información y a la libertad de prensa. Pero, sobre todo, para que las administraciones rindan cuentas de cómo se toman las decisiones. Según una reciente sentencia del Constitucional colombiano, el acceso al código fuente es una garantía fundamental para “evitar que estas tecnologías lleven a la vulneración de otros derechos fundamentales”.
Tener acceso al código de BOSCO, y de otros programas que tomen decisiones, sirve también para detectar errores. No es una teoría: sabemos que, al menos durante un tiempo, BOSCO denegaba la ayuda a personas que tenían derecho a ella. El abogado del Estado, por su parte, ha comparado conocer el código fuente con “preguntarle a un funcionario cómo ha hecho una comprobación”, algo que a su parecer sería inaudito. La diferencia, cuando hablamos de un algoritmo, es que si existen errores no son puntuales: el funcionamiento masivo del programa hace que cualquier fallo de programación pueda afectar a cientos de miles de personas.
El letrado del Gobierno ha repetido otro de los argumentos que el Gobierno ha usado en cada una de las instancias de este periplo judicial: si el programa comete un error, la persona afectada puede reclamar ante Consumo. Por supuesto. Pero, ante una denegación, muchas personas pueden darla por buena y no todo el mundo sabe que se trata de un error. Ni todo el mundo tiene los recursos, el tiempo y el conocimiento para recurrir. Y más en ayudas destinadas a consumidores vulnerables. Por eso es imprescindible que las cosas funcionen.
El abogado del Estado ha argumentado que, cuando hablamos de códigos fuente de administraciones públicas, “no tiene sentido abrirlos para mejorar”. El argumento de Civio es justo el contrario: cuantos más ojos miren, más fácil será encontrar fallos. Así pasó, por ejemplo, cuando se abrió a la ciudadanía la aplicación Radar Covid. Y como ocurre en muchos otros casos de código abierto. Al referirse a este asunto, ha puesto como ejemplo el uso de Linux, y ha asegurado que solo “funciona en local y para uso particular y propio”, obviando que muchísimas administraciones públicas y empresas usan software libre.
También ha sido impreciso cuando ha asegurado que “no es BOSCO quien decide” si te conceden o no el bono social. Tanto la norma que desarrolla cómo funciona la aplicación como la reciente resolución de la Agencia Española de Protección de Datos (AEPD), en la que multa a la administración por no realizar una correcta evaluación de impacto, son claras: el bono social se pide ante la comercializadora, que introduce los datos en BOSCO y este da una respuesta automática, sin intervención de ningún funcionario. Además, ha añadido que “una de las cosas buenas de BOSCO es que la comercializadora no tiene acceso a esos datos”, cuando en realidad son las propias comercializadoras las que introducen los formularios que presentan las personas solicitantes y que incluyen si son familia numerosa, direcciones, si son pensionistas… No están todos los datos personales, claro, pero sí algunos. Porque no es la administración la que recoge esta solicitud.
Un elemento clave del recurso de casación era que se delimitara cómo se debe aplicar el límite de la propiedad intelectual frente al derecho de acceso a la información. Sobre ese asunto, de la Cueva ha argumentado que “no discutimos que el código tenga o no propiedad intelectual, sino cómo interpretar este límite, que no puede ser un velo absoluto”. Si cualquier documento público con derechos de propiedad intelectual estuviera vetado, no podríamos acceder a mapas, a informes, a planos… “El límite no puede ser automático”, ha concluido, recordando la importancia de la ponderación y aludiendo a jurisprudencia anterior del propio Tribunal Suppremo.
El abogado del Estado, por su parte, apenas ha tratado este asunto en su intervención. De hecho, su parte ha estado centrada sobre todo en un asunto que no estaba incluido en la resolución del Consejo de Transparencia y Buen Gobierno (CTBG), objeto e inicio de todo este litigio: la seguridad. Tal y como han insistido en cada una de las instancias, el Gobierno asegura que dar acceso al código fuente puede dar pie a “ataques” informáticos. Además, ha recordado las declaraciones y el informe del Subdirector General de Tecnologías de la Información y de las Comunicaciones del Ministerio de Industria, Comercio y Turismo, que participó en el proceso en primera instancia, y que aseguró que solo con el código completo era posible entender cómo funciona BOSCO. Además, afirmó que acceder al código nos permitiría “atacar” el sistema. Es el mismo funcionario público que argumentó que si nos daban el código podríamos “minar criptomonedas” en los servidores del Ministerio. Sobre esa última afirmación, el abogado de Civio ha sido tajante: “Es como decir que los ovnis existen”.
De hecho, tanto el acceso parcial como el límite de la seguridad han suscitado varias preguntas de los magistrados de la sala, que han cuestionado cómo puede suponer un problema de seguridad acceder a un programa tan sencillo y cómo se puede comprobar que la norma -en este caso la que desarrolla las condiciones para acceder al bono social- está bien trasladada al código informático sin afectar a esos supuestos problemas de seguridad. El abogado del Estado ha respondido que “desvelar el código fuente es como abrir las puertas de todo un entramado de la administración” y lo ha comparado con entregar los planos y las estrategias de seguridad de un edificio público. Javier de la Cueva ha respondido: “Si tengo el código fuente yo no puedo acceder a los datos de la Agencia Tributaria, que es la que abre las puertas de ese edificio”. Esto es: no es lo mismo acceder al continente (al código que hace el cálculo) que al contenido (a los datos que obtiene) y a su conexión con las fuentes de las que bebe. Además, y en cuanto al acceso parcial, Civio ha recordado que, como mínimo, nuestra pretensión es acceder a la parte del código que realiza el cálculo, la que comprueba que una persona tiene derecho o no a la ayuda.
El de hoy es el último paso hasta que llegue la sentencia del Supremo, en la que decidirá cuál es el nivel de transparencia exigible a los códigos que usan las administraciones públicas. Una decisión que sentará precedente y que marcará un antes y un después en la transparencia no solo de este caso, BOSCO, sino de los algoritmos que toman -y tomarán- decisiones que nos afectan. Y es que no estamos ante un proceso judicial cualquiera: se trata de un recurso de casación en el que el Tribunal Supremo marcará el camino en este asunto clave.
La relevancia de este caso es evidente hasta para el propio abogado del Estado que, al final de la vista, al ser cuestionado por los magistrados de la sala, ha reflexionado: “Si se concede este acceso a BOSCO, ¿habría que conceder el acceso al código fuente de otras aplicaciones informáticas, como Lexnet o Minerva? Es evidente que no”. En Civio creemos justo lo contrario, que es evidente que sí. Que cualquier algoritmo público que tome decisiones que nos afectan, o ayude a tomarlas, debe ser transparente, excepto aquellas partes del código que puedan dañar, pero de forma argumentada y real, a otros derechos superiores a proteger, como la seguridad y la privacidad.
Desde 2018 reclamando en los tribunales conocer el código que decide quién recibe el bono social
En 2018, hace siete años, solicitamos las funcionalidades, los casos de prueba y el código fuente de BOSCO, una herramienta programada por el Ministerio de Transición Ecológica y que es la que se usa para decidir quién tiene derecho al bono social eléctrico, la ayuda para pagar la factura de la luz. Queríamos comprobar cómo funcionaba y si estaba mal programada, ya que muchas personas vulnerables, y potencialmente beneficiarias, nos comunicaban que se lo estaban denegando. Se trata de un caso especialmente relevante, porque la herramienta toma decisiones automáticas, tras el cálculo, sin la intervención de un funcionario. Es decir, no sirve de apoyo a la toma de decisiones, toma la decisión.
Nos dieron una parte de lo que solicitábamos, pero no el código fuente. Ya con esa información parcial pudimos desvelar que BOSCO tenía errores y negaba la ayuda a personas que tenían derecho a ella. Pero necesitábamos conocer el código fuente para saber si había más errores, así que reclamamos ante el Consejo de Transparencia y Buen Gobierno (CTBG), que por entonces rechazó nuestra petición de acceder a ese código. Esa fue su postura entonces, pero años después cambió de posición y ahora sí avala que se entregue ese código.
Fuimos a los tribunales. El Juzgado Central de lo Contencioso Administrativo número 8 rechazó nuestro recurso. Era 2022. Recurrimos. En mayo de 2024, la Audiencia Nacional volvió a rechazar nuestros argumentos. La sentencia daba por bueno que hacer público el código vulneraría derechos de autor, aunque estos derechos pertenecieran a una administración pública, no a terceros. También que compartir el código podría generar riesgos –en nuestra opinión infundados, erróneos o directamente falsos– como conocer el nivel de renta de los solicitantes de ayudas y otros datos personales comprometidos, y modificarlos con propósitos ilícitos. O perpetrar delitos, e incluso minar criptomonedas con la infraestructura del Ministerio. Por último, nos impuso el pago de un total de 3.500 euros en costes procesales, entre la primera y la segunda sentencia en contra.
Para entonces, la clave ya no era solo conocer cómo funciona BOSCO, sino combatir la opacidad en programas y algoritmos que se usan en las administraciones públicas y toman decisiones que nos afectan. Por eso dimos un paso más y fuimos al Supremo y presentamos un recurso de casación. Ahora toca esperar a la sentencia.