Por la transparencia de las decisiones automatizadas

En Civio estamos en medio de un proceso judicial que podría definir el futuro de la transparencia en decisiones automatizadas. Estas decisiones, tomadas por programas informáticos, algoritmos e inteligencias artificiales, afectan a nuestras vidas y derechos.

Llevamos desde 2018 luchando para que se reconozca el derecho de la sociedad a obtener transparencia sobre estos sistemas. El caso BOSCO no solo trata sobre el acceso al código fuente de una herramienta que decide quién recibe el bono social de la luz. Lo que está en juego es nuestra capacidad de auditar sistemas automatizados que toman decisiones cruciales, evitando confiar ciegamente en ellos y enfrentando los riesgos en forma de errores y abusos. En 2019, demostramos que BOSCO estaba mal diseñado, y que negaba la ayuda a personas que cumplían los requisitos. La transparencia algorítmica es más que un ideal: es el camino ineludible para asegurarnos un trato justo y no discriminatorio por parte de las administraciones públicas.

La situación actual no es favorable. La Audiencia Nacional, basándose en premisas que consideramos erróneas, nos ha denegado dos veces el acceso al código fuente de BOSCO, imponiéndonos además 3.500 euros en costes procesales.

No nos rendiremos. Queremos que el Tribunal Supremo revise este fallo y aclare varios aspectos fundamentales de la aplicación la Ley de Transparencia. Nos jugamos mucho, como evitar que se abuse de sus límites para impedirnos conocer el funcionamiento de las infraestructuras automatizadas de las Administraciones Públicas.

Digamos no a las cajas negras y a los puntos ciegos que nos impiden detectar errores, abusos o arbitrariedad en decisiones basadas en procesos informáticos.