El Gobierno de España ha logrado que la Unión Europea impulse una de sus propuestas clave en el escenario de las redes sociales y del uso de la inteligencia artificial: prohibir el uso y la proliferación de ‘deepfakes’ sexuales. Todo ello de la mano de la polémica generada el pasado mes de enero con la IA de Grok, en X -antigua Twitter-, donde los usuarios pudieron crear millones de imágenes y vídeos de connotación sexual de mujeres y menores de edad sin consentimiento y sin que hubiese restricciones en la plataforma de Elon Musk.
En este sentido, tal y como han precisado fuentes de Moncloa este viernes, nuestro país ha logrado “el apoyo” de la UE para vetar el uso de estos servicios de inteligencia artificial con fines sexuales sin consentimiento o, a su vez, de abuso infantil. Precisan en estos términos que los trabajos de investigación al respecto se iniciaron por la Comisión Europea, liderada por Ursula Von der Leyen, para reformar la ley europea en torno a la IA, contando entonces con el respaldo de países como Francia, Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría.
La reunión de este viernes en Bruselas ha tenido como uno de los debates principales esta cuestión, de la que ha emanado el acuerdo de sus miembros en torno a la propuesta española. Un texto en el que se avala la negociación con el Parlamento Europeo sobre la modificación de la normativa.
Bajo este telón de fondo, se proponen dos nuevos sistemas de implementación en la UE: Por un lado, sobre aquellos que puedan generar, manipular o reproducir ‘deepfakes’ sexuales sin consentimiento del afectado; por otro lado, aquellos capaces de generar, manipular o reproducir pornografía infantil. Con todo, los sistemas similares a los que generó Grok, tanto de creación de contenido íntimo sin consentimiento como el referido a menores de edad, “estarían prohibidos”.
Así, el pacto alcanzado este viernes recoge, a su vez, otras propuestas impulsadas por el Gobierno de Pedro Sánchez, que pasan por “la recuperación del registro de sistemas de alto riesgo que cumplieran determinados requisitos, o aquellas orientadas a conseguir una mayor simplificación administrativa en relación con las evaluaciones de conformidad (evaluación que se hace antes de poner en el mercado algunos sistemas de IA), con el objetivo de reducir burocracia no necesaria”.
El horizonte de aprobación de la reforma de la ley se espera para el próximo mes de abril, cuando dará comienzo los diálogos entre la Comisión, el Consejo y el Parlamento Europeo para elaborar el texto definitivo.
Según precisó un estudio de ONU Mujeres ante esta realidad acuciante, son las mujeres las que sufren en un 99% la pornografía ‘deepfake’, teniendo en cuenta que la gran mayoría de estas plataformas han sido impulsadas por equipos masculinos.
Bruselas animó a los 27 a reformar sus leyes sobre violaciones sexuales
Bajo el mismo marco de reglamento europeo, fue a comienzos de marzo cuando el Gobierno comunitario emplazó a los Estados miembro de la UE a llevar a cabo recordar en sus respectivos códigos penales para tipificar la violación en función del consentimiento en aras de garantizar que el sexto sin consentimiento sea definido como violación en términos legales y a la vista de toda la zona euro.
Para ser exactos, el Gobierno de Von der Leyen apoyarás las reformas nacionales de los países que establezcan “definiciones de violación basadas en el concepto de consentimiento” y, cuando se alcance “una mejor visión de conjunto” de todos los países, se planteará “proponer una nueva iniciativa legislativa” al respecto, tras la negativa allá por 2024 de varios gobiernos.
