La Comisión de transparencia gallega y la Xunta se niegan a compartir el modelo de su sistema de IA para conectar a desempleados con ofertas de trabajo

Tanto la Xunta de Galicia como la Comisión de transparencia gallega, integrada en la Valedora do Pobo, se niegan desde hace dos años a dar acceso al modelo de EMI, un algoritmo de mediación entre personas desempleadas y ofertas de trabajo que usa el servicio gallego de empleo. Ambas negativas nos han llevado a un juicio, ahora mismo en marcha, ante el Tribunal Superior de Xusticia de Galicia (TSXG).

Las alegaciones de ambos organismos se basan en las mismas excusas que llevan utilizando desde 2024 para negar el acceso a esa información: propiedad intelectual y perjuicio a sus intereses económicos, aunque no queda claro cuál sería ese perjuicio concreto; y seguridad, también poco definida y pese a que el Tribunal Supremo ya dejó claro en el caso BOSCO, también presentado por Civio, que las meras alegaciones genéricas a la seguridad no pueden servir para recortar el derecho constitucional del acceso a la información.

En cuanto a la propiedad intelectual y los intereses comerciales, ambos organismos insisten, casi con las mismas palabras, en que se trata de una tecnología “única” y que, citando a la Comisión de transparencia, su difusión “comprometería el retorno de inversión” y “afectaría al valor comercial” del sistema. Además, argumentan que el “aprovechamiento exclusivo por parte del sector público redunda en beneficio colectivo”. Todo eso sin especificar cuáles son esos perjuicios o beneficios ni establecer sistemas para dar acceso a esa información evitando la difusión total del mismo o estableciendo controles para que otras empresas no lo copien, por ejemplo, si es que ese es el problema. Medidas, en todo caso, menos dañinas para el derecho de acceso a la información que el veto total.

Los argumentos de ambas instituciones nombran en varias ocasiones el caso BOSCO. Primero, para asegurar que no es aplicable en este caso, puesto que, según ellos, EMI no toma decisiones automatizadas, solo sirve de apoyo y es la persona desempleada quien decide si acepta o no una sugerencia de empleo que surja del sistema. Desde Civio creemos que sugerir una cosa u otra, o crear un perfil competencial más o menos acertado, afecta a los derechos de la ciudadanía. Después, para decir justo lo contrario y usarlo como base para alegar problemas de seguridad, citando el informe del Subdirector general de tecnologías de la información del Ministerio que argumentó en el caso en el Supremo que podíamos minar criptomonedas en su sede o acceder a los datos personales de las personas que solicitan la ayuda. Un informe superado con creces en la sentencia del Supremo. Y alegando, como hizo el Gobierno en BOSCO, que accediendo podríamos tener acceso también a “otros sistemas dependientes”. Y lo hacen además obviando una diferencia clave: no estamos pidiendo acceso al código, pese a que lo repitan en sus argumentos, sino al modelo que nutre el sistema.

Como ya alegamos durante el caso BOSCO, y confirmó el Supremo, conocer cómo funciona un sistema, las reglas que lo regulan, debería poder permitirse de forma aislada, sin necesidad de pasar claves y conexiones con sistemas que pueden acceder a datos personales, por ejemplo. Además, aunque aseguran que su sistema no toma decisiones, afirman a la vez que un posible acceso permitiría la manipulación del sistema y atentaría contra la igualdad. Si el sistema debe garantizar esa igualdad de la que hablan, es imprescindible poder auditarlo.

Además, el límite de la seguridad no lo usó la Xunta cuando denegó el acceso a la información en un primer momento. Fue la Valedora do Pobo, tras nuestra reclamación, quien lo añadió a la propiedad intelectual y los intereses económicos, aprovechando además para acusarnos de presentar solicitudes “abusivas y redundantes”. Y es que en junio de 2024 pedimos documentos y funcionalidades del sistema y, una vez analizados los pliegos, realizamos una nueva solicitud más explícita para pedir el modelo que mencionaban en ellos. Lo hacemos mucho y es la única manera a veces de acceder a información relevante: preguntar desde un conocimiento mínimo para poder acotar mejor la pregunta una vez sabemos más de un sistema. No es abusar, es intentar entender mejor las decisiones públicas.

El contrato, que firmó Telefónica, es claro en sus pliegos: la propiedad intelectual es de la Xunta, no de la compañía, y puede divulgarlo; y se habla de forma específica de transparencia para permitir control y auditoría y evitar sesgos.

El TSXG deberá decidir, pues, si estos modelos deben ser también auditables, en línea con la sentencia del Supremo, que creó jurisprudencia y es clara: en lo que denomina una nueva “democracia digital”, los poderes públicos tienen la obligación de “explicar de forma comprensible el funcionamiento de los algoritmos que se emplean en la toma de decisiones que afectan a los ciudadanos para permitirles conocer, fiscalizar y participar en la gestión pública”.