Temas Civio
transparencia algorítmica
Investigamos y vigilamos las aplicaciones que usan las administraciones públicas. Desde el caso de BOSCO, la aplicación que decide quién tiene derecho a las ayudas en la factura de la luz, hasta las cajas negras más opacas.
Sanidad incorpora reconocimiento facial con IA para fichar a 170.000 pacientes de Ceuta y Melilla
El sistema del INGESA está calificado con un riesgo inicial “muy alto”. Según fuentes consultadas por Civio, el análisis sobre cómo afectará a la protección de datos es “insuficiente e incoherente” y alertan de que puede disuadir a los pacientes de pedir atención sanitaria cuando la necesitan.
Así hemos defendido en el Supremo la transparencia de los algoritmos públicos
Sin acceso al código fuente, "¿cómo pueden los jueces controlar a las administraciones públicas y cómo podrá la ciudadanía conocer cómo se toman las decisiones?", ha argumentado Javier de la Cueva, abogado de la fundación, en la vista oral. Ahora toca esperar a la sentencia.
BOSCO: la chispa que encendió la lucha de Civio por la transparencia algorítmica
¿Por qué este caso se ha convertido en una batalla clave para la transparencia de las decisiones automatizadas aplicadas a la gestión de lo público?
¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura
El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados "pobres" y "peligrosos". El algoritmo está entrenado solo con pacientes blancos.
La Policía Local de Valencia comienza a usar IA predictiva
Una década después de que comenzara a popularizarse este tipo de software, la mayoría de cuerpos policiales niegan su uso y señalan que lo que sí emplean son programas de análisis estadísticos.
Mientras el Constitucional colombiano reconoce el derecho a la transparencia algorítmica, España trata de blindar su opacidad
Según la Corte Constitucional colombiana, el acceso al código fuente es una garantía fundamental para "evitar que estas tecnologías lleven a la vulneración de otros derechos fundamentales". En cambio, la Abogacía del Estado trata de blindar el secretismo frente al recurso de Civio ante el Tribunal Supremo.
La Policía Nacional deja de usar Veripol, su IA estrella para detectar denuncias falsas
Desde el Ministerio de Interior afirman que han desestimado su uso por carecer de validez en procedimientos judiciales.
Un registro de algoritmos, el primer paso para una IA transparente en España
¿Puede un país garantizar los derechos de su ciudadanía si no sabe qué decisiones toman sus algoritmos? Frente a los límites del Reglamento europeo, la coalición IA Ciudadana propone crear un registro nacional, obligatorio y accesible, que permita saber qué algoritmos se usan, para qué y con qué efectos.
Las prisiones españolas usan un algoritmo sin actualizar desde 1993 para decidir sobre permisos de salida
Más de 200 resoluciones de distintas audiencias provinciales dictadas en 2024 citan el resultado de este algoritmo como motivo para denegar u otorgar permisos penitenciarios. La TVR clasifica a los presos extranjeros sin arraigo como de riesgo elevado, aunque no tengan ningún factor de riesgo más.
La transparencia de los algoritmos públicos, en juego: Civio presenta el recurso sobre BOSCO ante el Tribunal Supremo
¿Puede la administración negarse a revelar cómo funcionan los programas que deciden sobre nuestros derechos? ¿Y hacerlo alegando la propiedad intelectual como excusa? Defendemos que no, y el Alto Tribunal ya tiene en sus manos nuestros argumentos.
