Más Madrid, ante el auge en el uso de la Inteligencia Artificial (IA), ha pedido al Gobierno de Isabel Díaz Ayuso, en la Asamblea de Madrid, realizar las evaluaciones de impacto algorítmico previstas en el Reglamento europeo en aquellos sistemas de IA calificados de alto riesgo y que están siendo utilizados por la Comunidad de Madrid. En concreto, el partido liderado por Manuela Bergerot ha registrado una Proposición no de Ley (PNL), para su debate en el pleno, en la que insta al Gobierno de la Comunidad de Madrid a realizar esta serie de estudios para minimizar el impacto negativo de estas herramientas y evitar las sanciones que su incumplimiento supone.
En su texto, Más Madrid señala que desde hace años existen herramientas para la evaluación del impacto de los algoritmos en varios países, y en España la primera referencia a estas evaluaciones se encuentra en la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, que prevé en su artículo 23 la inclusión de “criterios de minimización de sesgos, transparencia y rendición de cuentas” a la hora de definir los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas.
Además, en referencia al reglamento del Parlamento Europeo y el Consejo, las administraciones públicas de todos los estados miembros han asumido la obligación de llevar a cabo evaluaciones de impacto de los derechos fundamentales de los sistemas de IA de alto riesgo.
Pero en estos momentos, la Comunidad de Madrid, aunque ya utiliza sistemas de IA que pueden ser calificados de alto riesgo y cuya presencia aumentará en la mayoría de consejerías con el paso de los años, no realiza las evaluaciones que velen por los derechos fundamentales de los madrileños.
Es así por lo que Más Madrid insta al Gobierno de Ayuso a instaurar este registro público de algoritmos que vele por la seguridad y los derechos fundamentales de los madrileños. Se basan en esta petición en que el reglamento de la IA es una norma directamente aplicable y cuyo incumplimiento puede suponer la interposición de sanciones importantes. Así, piden al Ejecutivo de Ayuso que cumpla con la normativa europea y tome las medidas necesarias para la protección de los derechos fundamentales en un momento en el que se está viviendo un gran desarrollo de aplicaciones de Inteligencia Artificial en las diferentes áreas de gobierno.
Pablo Perpinyà, diputado de Más Madrid que firma la PNL, en declaraciones a ElPlural.com señala que “el desarrollo tecnológico y la protección de los derechos fundamentales son dos pilares indisociables del modelo de digitalización que defienden desde Más Madrid”: “Para aprovechar todo el potencial de la IA en los servicios que presenta la Comunidad de Madrid es crucial que el gobierno asuma la responsabilidad de proteger los datos más sensibles de los usuarios”.
En el mismo sentido, insiste: “Por eso le exigimos al Gobierno de Ayuso que cumpla de una vez por todas con la Directiva de Inteligencia Artificial que exige la realización de las Evaluaciones de Impacto Algorítmico de los sistemas de Inteligencia Artificial de alto riesgo que en estos momentos utiliza la Comunidad de Madrid y evite así las importantes sanciones que podrían llegar en caso de incumplimiento”.
“Se trata, en definitiva, de mejorar el bienestar de los ciudadanos con nuevas herramientas inteligentes que además sean respetuosas con los derechos fundamentales de los madrileños”, remata.
La importancia de los registros públicos de algoritmos
La de los registros públicos de algoritmos no es una petición nueva de Más Madrid al Gobierno de Isabel Díaz Ayuso, ya que llevan tiempo insistiendo en la cuestión ante el auge en el uso de la IA en las administraciones públicas. Sostienen en el grupo que “contar con registros públicos de algoritmos usados por la administración pública es una buena práctica de transparencia algorítmica para proporcionar información clara sobre las herramientas algorítmicas que se utilizan, por qué se utilizan y para qué se utilizan”.
“Contribuye a mejorar la confianza de la población en los sistemas de Inteligencia Artificial y a contar con una gobernanza de datos y algoritmos más robusta. Ya existe experiencia en diferentes países de Europa donde se ha implementado y se cuenta con varios estándares de registro de información que favorecen la comprensión, comparación, el intercambio de experiencias y la mejora continua. La Comunidad de Madrid podría convertirse en la primera región de España en contar con un registro de este tipo”, indican del mismo modo.
Cabe recordar que el uso de algoritmos puede incidir en derechos fundamentales como el derecho a la privacidad, la igualdad ante la ley y la no discriminación. De ahí que la Unión Europea haya insistido con leyes en la importancia de evaluar sus impactos.
