Temas Civio
transparencia algorítmica
Investigamos y vigilamos las aplicaciones que usan las administraciones públicas. Desde el caso de BOSCO, la aplicación que decide quién tiene derecho a las ayudas en la factura de la luz, hasta las cajas negras más opacas.
Vista oral del caso BOSCO: 8 de julio, el día clave para la transparencia de los algoritmos públicos
Es la primera vez que un caso sobre la transparencia de un algoritmo público llega al Tribunal Supremo, y Civio estará allí defendiendo el derecho a poder conocer cómo funcionan los sistemas de decisión automatizados.
¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura
El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados "pobres" y "peligrosos". El algoritmo está entrenado solo con pacientes blancos.
La Policía Local de Valencia comienza a usar IA predictiva
Una década después de que comenzara a popularizarse este tipo de software, la mayoría de cuerpos policiales niegan su uso y señalan que lo que sí emplean son programas de análisis estadísticos.
Mientras el Constitucional colombiano reconoce el derecho a la transparencia algorítmica, España trata de blindar su opacidad
Según la Corte Constitucional colombiana, el acceso al código fuente es una garantía fundamental para "evitar que estas tecnologías lleven a la vulneración de otros derechos fundamentales". En cambio, la Abogacía del Estado trata de blindar el secretismo frente al recurso de Civio ante el Tribunal Supremo.
La Policía Nacional deja de usar Veripol, su IA estrella para detectar denuncias falsas
Desde el Ministerio de Interior afirman que han desestimado su uso por carecer de validez en procedimientos judiciales.
Un registro de algoritmos, el primer paso para una IA transparente en España
¿Puede un país garantizar los derechos de su ciudadanía si no sabe qué decisiones toman sus algoritmos? Frente a los límites del Reglamento europeo, la coalición IA Ciudadana propone crear un registro nacional, obligatorio y accesible, que permita saber qué algoritmos se usan, para qué y con qué efectos.
Las prisiones españolas usan un algoritmo sin actualizar desde 1993 para decidir sobre permisos de salida
Más de 200 resoluciones de distintas audiencias provinciales dictadas en 2024 citan el resultado de este algoritmo como motivo para denegar u otorgar permisos penitenciarios. La TVR clasifica a los presos extranjeros sin arraigo como de riesgo elevado, aunque no tengan ningún factor de riesgo más.
La transparencia de los algoritmos públicos, en juego: Civio presenta el recurso sobre BOSCO ante el Tribunal Supremo
¿Puede la administración negarse a revelar cómo funcionan los programas que deciden sobre nuestros derechos? ¿Y hacerlo alegando la propiedad intelectual como excusa? Defendemos que no, y el Alto Tribunal ya tiene en sus manos nuestros argumentos.
