Por la transparencia de las decisiones automatizadas

En Civio estamos en medio de un proceso judicial que podría definir el futuro de la transparencia en decisiones automatizadas. Estas decisiones, tomadas por programas informáticos, algoritmos e inteligencias artificiales, afectan a nuestras vidas y derechos.

Llevamos desde 2018 luchando para que se reconozca el derecho de la sociedad a obtener transparencia sobre estos sistemas. El caso BOSCO no solo trata sobre el acceso al código fuente de una herramienta que decide quién recibe el bono social de la luz. Lo que está en juego es nuestra capacidad de auditar sistemas automatizados que toman decisiones cruciales, evitando confiar ciegamente en ellos y enfrentando los riesgos en forma de errores y abusos. En 2019, demostramos que BOSCO estaba mal diseñado, y que negaba la ayuda a personas que cumplían los requisitos. La transparencia algorítmica es más que un ideal: es el camino ineludible para asegurarnos un trato justo y no discriminatorio por parte de las administraciones públicas.

La situación actual no es favorable. La Audiencia Nacional, basándose en premisas que consideramos erróneas, nos ha denegado dos veces el acceso al código fuente de BOSCO, imponiéndonos además 3.500 euros en costes procesales.

No nos rendiremos. Queremos que el Tribunal Supremo revise este fallo y aclare varios aspectos fundamentales de la aplicación la Ley de Transparencia. Nos jugamos mucho, como evitar que se abuse de sus límites para impedirnos conocer el funcionamiento de las infraestructuras automatizadas de las Administraciones Públicas.

Digamos no a las cajas negras y a los puntos ciegos que nos impiden detectar errores, abusos o arbitrariedad en decisiones basadas en procesos informáticos.

En pocas palabras:

La automatización está redefiniendo nuestra relación con lo público. Si no podemos conocer cómo funcionan estos sistemas, nos arriesgamos a decisiones arbitrarias y discriminatorias que vulneren nuestros derechos.

La documentación del caso BOSCO, en abierto

Abrimos al uso público los documentos que vamos generando en este litigio para que sean útiles a otras personas y organizaciones:

Ayúdanos a crear más proyectos como este y a seguir presionando para que las ayudas públicas sí lleguen a quienes más las necesitan.

¡Hazte socia o socio!

 

Puedes deducirte hasta un 80% de tu donación en tu declaración de la renta.

Quiero hacer una donación puntual Elige tu cuota

Cuota de

◂ Volver

Donación de Cuota de

Responsable del tratamiento de datos personales: Fundación Ciudadana Civio. Finalidad: tramitar tu donación y la correspondiente deducción fiscal. Derechos: puedes ejercer los derechos que te reconoce la normativa de protección de datos escribiendo a la dirección: [email protected]. Puedes obtener más información sobre estos derechos en nuestra Política de Privacidad.