Por la transparencia de las decisiones automatizadas
Por la transparencia de las decisiones automatizadas
En Civio estamos en medio de un proceso judicial que podría definir el futuro de la transparencia en decisiones automatizadas. Estas decisiones, tomadas por programas informáticos, algoritmos e inteligencias artificiales, afectan a nuestras vidas y derechos.
Llevamos desde 2018 luchando para que se reconozca el derecho de la sociedad a obtener transparencia sobre estos sistemas. El caso BOSCO no solo trata sobre el acceso al código fuente de una herramienta que decide quién recibe el bono social de la luz. Lo que está en juego es nuestra capacidad de auditar sistemas automatizados que toman decisiones cruciales, evitando confiar ciegamente en ellos y enfrentando los riesgos en forma de errores y abusos. En 2019, demostramos que BOSCO estaba mal diseñado, y que negaba la ayuda a personas que cumplían los requisitos. La transparencia algorítmica es más que un ideal: es el camino ineludible para asegurarnos un trato justo y no discriminatorio por parte de las administraciones públicas.
La situación actual no es favorable. La Audiencia Nacional, basándose en premisas que consideramos erróneas, nos ha denegado dos veces el acceso al código fuente de BOSCO, imponiéndonos además 3.500 euros en costes procesales.
No nos rendiremos. Queremos que el Tribunal Supremo revise este fallo y aclare varios aspectos fundamentales de la aplicación la Ley de Transparencia. Nos jugamos mucho, como evitar que se abuse de sus límites para impedirnos conocer el funcionamiento de las infraestructuras automatizadas de las Administraciones Públicas.
Digamos no a las cajas negras y a los puntos ciegos que nos impiden detectar errores, abusos o arbitrariedad en decisiones basadas en procesos informáticos.
En pocas palabras:
Más información
2024
2022
-
Carta al Gobierno sobre la futura supervisión de algoritmos e inteligencias artificiales
-
La Justicia impide la apertura del código fuente de la aplicación que concede el bono social
2020
2019
2018
La documentación del caso BOSCO, en abierto
Abrimos al uso público los documentos que vamos generando en este litigio para que sean útiles a otras personas y organizaciones:
-
Contestación del abogado del Estado, en representación del CTBG, a nuestra demanda
-
Resolución de cumplimiento del ministerio ante el requerimiento del Consejo de Transparencia
-
Análisis Funcional del sistema BOSCO del ministerio ante el requerimiento del CTBG
-
Casos de uso del sistema BOSCO del ministerio ante el requerimiento del CTBG
-
Admisión a trámite del recurso de Civio por el Juzgado Central de lo Contencioso-Administrativo
-
Recurso de Civio ante el Juzgado Central de lo Contencioso-Administrativo
-
Preguntas para ser respondidas por el autor del Informe del Centro Criptológico Nacional
-
Impugnación de las preguntas periciales por la Abogacía del Estado
-
Sentencia del Juzgado Central de lo Contencioso-Administrativo
-
Rectificación del Consejo de Transparencia: escrito de no oposición
-
Escrito de preparación de recurso de casación ante el Tribunal Supremo
Ayúdanos a crear más proyectos como este y a seguir presionando para que las ayudas públicas sí lleguen a quienes más las necesitan.
¡Hazte socia o socio!
Puedes deducirte hasta un 80% de tu donación en tu declaración de la renta.