Temas Civio
transparencia algorítmica
Investigamos y vigilamos las aplicaciones que usan las administraciones públicas. Desde el caso de BOSCO, la aplicación que decide quién tiene derecho a las ayudas en la factura de la luz, hasta las cajas negras más opacas.
Cuando tu médica es una IA
Los algoritmos prometen grandes beneficios en medicina, como la detección precoz de enfermedades o una mejora en la capacidad diagnóstica, aunque también implican riesgos como la toma de decisiones erróneas o la deshumanización de la atención sanitaria.
Civio abre camino en la transparencia algorítmica: el Supremo condena al Gobierno a entregar el código fuente de BOSCO
La sentencia, que crea jurisprudencia, considera que el uso de aplicaciones en la toma de decisiones públicas debe ir acompañada de transparencia que permita su fiscalización. Rechaza que la seguridad nacional o la propiedad intelectual puedan limitar de forma absoluta este "derecho constitucional".
Sanidad incorpora reconocimiento facial con IA para fichar a 170.000 pacientes de Ceuta y Melilla
El sistema del INGESA está calificado con un riesgo inicial “muy alto”. Según fuentes consultadas por Civio, el análisis sobre cómo afectará a la protección de datos es “insuficiente e incoherente” y alertan de que puede disuadir a los pacientes de pedir atención sanitaria cuando la necesitan.
¿Lunar o cáncer? El algoritmo que se equivoca en uno de cada tres melanomas y obvia a los pacientes con la piel oscura
El País Vasco trabaja en la implantación de Quantus Skin en sus centros sanitarios tras una inversión de 1,6 millones de euros. Los especialistas critican el sistema de inteligencia artificial de una filial de Asisa por sus resultados "pobres" y "peligrosos". El algoritmo está entrenado solo con pacientes blancos.
La Policía Local de Valencia comienza a usar IA predictiva
Una década después de que comenzara a popularizarse este tipo de software, la mayoría de cuerpos policiales niegan su uso y señalan que lo que sí emplean son programas de análisis estadísticos.
La Policía Nacional deja de usar Veripol, su IA estrella para detectar denuncias falsas
Desde el Ministerio de Interior afirman que han desestimado su uso por carecer de validez en procedimientos judiciales.
Un registro de algoritmos, el primer paso para una IA transparente en España
¿Puede un país garantizar los derechos de su ciudadanía si no sabe qué decisiones toman sus algoritmos? Frente a los límites del Reglamento europeo, la coalición IA Ciudadana propone crear un registro nacional, obligatorio y accesible, que permita saber qué algoritmos se usan, para qué y con qué efectos.
Las prisiones españolas usan un algoritmo sin actualizar desde 1993 para decidir sobre permisos de salida
Más de 200 resoluciones de distintas audiencias provinciales dictadas en 2024 citan el resultado de este algoritmo como motivo para denegar u otorgar permisos penitenciarios. La TVR clasifica a los presos extranjeros sin arraigo como de riesgo elevado, aunque no tengan ningún factor de riesgo más.
La transparencia de los algoritmos públicos, en juego: Civio presenta el recurso sobre BOSCO ante el Tribunal Supremo
¿Puede la administración negarse a revelar cómo funcionan los programas que deciden sobre nuestros derechos? ¿Y hacerlo alegando la propiedad intelectual como excusa? Defendemos que no, y el Alto Tribunal ya tiene en sus manos nuestros argumentos.
Si quieres saber más sobre este tema, consulta todos nuestros artículos sobre Transparencia · Novedades de Civio · Sanidad · Justicia
