Por la transparencia de las decisiones automatizadas

En Civio estamos en un proceso judicial que podría marcar el futuro de la transparencia en decisiones automatizadas. Estas decisiones, tomadas por programas informáticos y algoritmos, afectan nuestras vidas de forma directa: desde quién recibe ayudas públicas hasta cómo se asignan recursos esenciales.

El Tribunal Supremo ha admitido a trámite nuestro recurso de casación en el caso BOSCO, el programa que decide quién puede acceder al bono social eléctrico. Pero lo que está en juego va mucho más allá de este caso concreto: podría sentar un precedente clave sobre el acceso ciudadano a las “tripas” de los sistemas automatizados que usan las administraciones públicas.

Los algoritmos públicos deciden sobre derechos y recursos que nos afectan a todos. Sin transparencia, no podemos auditar su funcionamiento, identificar errores o evitar arbitrariedades y abusos. En 2019, demostramos que BOSCO tenía fallos graves que denegaban ayudas a personas vulnerables que cumplían los requisitos. Pero sin acceso al código completo, no podemos saber si esconde más errores.

El caso BOSCO no trata solo de un programa, sino del modelo de gestión pública que queremos: uno abierto al escrutinio o una caja negra que oculta decisiones que nos afectan a diario.