El Gobierno de Pedro Sánchez ha dado este martes uno de los pasos regulatorios más relevantes de la legislatura en materia tecnológica con la aprobación en Consejo de Ministros del proyecto de Ley para el buen uso y la gobernanza de la inteligencia artificial (IA).
La norma adapta el ordenamiento jurídico español al reglamento europeo de IA y establece un severo sistema sancionador para limitar los usos considerados peligrosos, manipulativos o lesivos para los derechos fundamentales.
La decisión del Ejecutivo llega en un contexto político, ético y geoestratégico especialmente significativo. Apenas unos días antes, el papa León XIV anunció la publicación de su primera encíclica, Magnifica Humanitas, centrada precisamente en los riesgos que plantea la inteligencia artificial para la dignidad humana, el trabajo, la verdad y la democracia.
Y todo ello ocurre, además, en vísperas de la próxima visita institucional de Sánchez al Vaticano, donde la gobernanza tecnológica y el impacto social de la IA ocuparán parte del debate internacional emergente.
La coincidencia temporal no es menor. Mientras Bruselas acelera la implantación del Reglamento Europeo de Inteligencia Artificial —el primer gran marco jurídico integral sobre esta tecnología en el mundo occidental—, la Santa Sede ha comenzado también a posicionarse como actor moral en la discusión global sobre los límites éticos de la automatización y los algoritmos.
Un modelo “ético, inclusivo y garantista”
Desde el Ministerio para la Transformación Digital y de la Función Pública que encabeza Óscar López sostienen que el texto busca asegurar un uso “ético, inclusivo y beneficioso” de la inteligencia artificial, incorporando mecanismos de control, obligaciones de transparencia y un catálogo de prohibiciones para los sistemas considerados incompatibles con los derechos fundamentales.
La futura ley distingue distintos niveles de riesgo tecnológico siguiendo el modelo europeo. Los sistemas de “riesgo inaceptable” quedarán directamente prohibidos, mientras que los considerados de “alto riesgo” podrán utilizarse únicamente bajo estrictas obligaciones de supervisión, auditoría y trazabilidad.
Entre las prácticas vetadas figuran aquellas que empleen técnicas subliminales o engañosas capaces de alterar el comportamiento de una persona y causarle perjuicios significativos. También quedarán prohibidos los sistemas que exploten vulnerabilidades vinculadas a la edad, la discapacidad o situaciones de exclusión social y económica.
El Ejecutivo sitúa así a España dentro del reducido grupo de países que están comenzando a construir una arquitectura jurídica específica para la inteligencia artificial generativa, en pleno auge de herramientas capaces de producir imágenes, textos, audios o vídeos prácticamente indistinguibles de la realidad.
‘Deepfakes’, manipulación y pornografía falsa
Uno de los capítulos más sensibles del proyecto afecta a los contenidos creados mediante IA y a las llamadas ‘ultrasuplantaciones’ o deepfakes. La norma obligará a advertir expresamente cuando una imagen, un vídeo, un audio o un texto hayan sido generados o alterados artificialmente.
La preocupación institucional se ha disparado especialmente tras la proliferación de vídeos falsos hiperrealistas, campañas de desinformación automatizada y contenidos sexuales fabricados digitalmente sin consentimiento.
De hecho, el proyecto incorpora de manera específica la prohibición de herramientas destinadas a generar imágenes o vídeos sexuales falsos de apariencia realista, una cuestión que España impulsó activamente durante la negociación del reglamento europeo tras diversos casos de desnudos manipulados de menores y mujeres difundidos en internet.
La ley busca responder así a uno de los grandes dilemas contemporáneos: cómo preservar la confianza pública en la autenticidad de la información en una época marcada por la capacidad tecnológica para falsificar prácticamente cualquier contenido audiovisual.
Multas multimillonarias y retirada de sistemas
El régimen sancionador será especialmente duro para las infracciones más graves. Las empresas que comercialicen sistemas prohibidos podrán enfrentarse a multas de hasta 35 millones de euros o al 7% de su facturación global anual, si esta cifra fuese superior.
En los casos vinculados a sistemas de alto riesgo que incumplan las obligaciones legales, las sanciones podrán alcanzar los 15 millones o el 3% del volumen de negocio mundial.
La escala prevista contempla además sanciones graves de hasta 7,5 millones y leves de hasta 500.000 euros. El texto incorpora ciertos mecanismos de proporcionalidad para pequeñas empresas y startups, intentando evitar que el coste regulatorio estrangule el ecosistema emergente de innovación.
Además de las multas económicas, las autoridades podrán ordenar la retirada del mercado, la desconexión inmediata o incluso la prohibición definitiva de determinadas herramientas tecnológicas cuando representen un riesgo severo.
El papel de la AESIA y las críticas al blindaje público
La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) asumirá un rol central en la vigilancia del cumplimiento normativo y en la coordinación con las autoridades europeas.
La ley permitirá incluso que cualquier ciudadano comunique posibles infracciones de manera anónima, especialmente cuando estén en juego derechos fundamentales o existan riesgos sociales relevantes.
Sin embargo, uno de los aspectos que ya está generando mayor controversia jurídica y política es la exención de sanciones económicas para las administraciones públicas.
Aunque empresas y operadores privados sí podrán recibir multas multimillonarias, las instituciones públicas únicamente afrontarán apercibimientos, medidas correctoras o eventuales expedientes disciplinarios internos.
Diversas asociaciones especializadas en derechos digitales consideran que este punto puede generar una asimetría preocupante precisamente en ámbitos especialmente sensibles, como servicios sociales, ayudas públicas, empleo, justicia, vigilancia o gestión administrativa automatizada.
La IA entra definitivamente en el terreno político y moral
La aprobación de esta ley confirma que la inteligencia artificial ha dejado de ser únicamente un debate tecnológico para convertirse en una cuestión profundamente política, jurídica y filosófica.
La futura encíclica de León XIV pretende precisamente intervenir en ese terreno. El Pontífice busca situar a la Iglesia católica dentro de la discusión internacional sobre los límites éticos de la automatización, la sustitución del trabajo humano, el control algorítmico o la deshumanización digital.
En paralelo, los gobiernos europeos tratan de equilibrar innovación y protección democrática en un escenario marcado por la competencia tecnológica con Estados Unidos y China.
En Moncloa consideran que España puede desempeñar un papel relevante como laboratorio regulatorio europeo en esta materia. No obstante, el verdadero desafío comenzará ahora en las Cortes Generales, donde el proyecto deberá afrontar una compleja negociación parlamentaria y donde previsiblemente emergerán tensiones sobre privacidad, libertad de expresión, soberanía tecnológica y control institucional de los algoritmos.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
