Como cada vez que se inventa un nuevo recurso en la era digital, desde que la inteligencia artificial apareció como el gran avance tecnológico de la década y se impuso en las plataformas, muchos hombres han utilizado esta herramienta para hacer daño a las mujeres. Primero fue la realidad virtual, aplicada a la pornografía; después, las suscripciones masivas a soportes como OnlyFans, creando demanda. También con los robots inteligentes, que prometían convertir en mujeres artificiales y sumisas con las que mantener relaciones que no tuvieran que estar mediadas por el consentimiento. 

Luego llegó la Inteligencia Artificial, y con ello las identidades falsas en internet y la manipulación de mensajes y fotografías. Y ahora también ha ocurrido con Grok, el asistente desarrollado por xAI -la empresa de Elon Musk- e integrado en la plataforma X, anteriormente conocida como Twitter.

En un principio, el chtatbot de X estaba contemplado para ser un recurso en línea que respondiera a los usuarios de manera algo cómica y sarcástica, además de mantener conversaciones en las que pudiera explicar diferentes conceptos o cumplir tareas como la verificación y el procesamiento y generación de imágenes. 

Sin embargo, muchos usuarios rápidamente comenzaron a utilizar la herramienta para manipular fotografías de mujeres con el fin de sexualizarlas sin su permiso, un flagrante delito contra el derecho la intimidad y la propia imagen. De esta manera, muchos hombres de la aplicación le piden a Grok "desnudar" o "dejar en ropa interior" a mujeres a través de sus fotografías originales sin consentimiento para crear escenas sexuales. 

Las mujeres exigen regulación de la IA en X

Múltiples usuarias de la aplicación ya han denunciado esta situación y han exigido una regulación sobre las alteraciones de índole sexual en las fotografías sin el consentimiento del titular. Este es el caso de la cuenta de @brookeab, quien este viernes ha apuntado públicamente a las vías legales para frenar esta ola de violencia machista digital.

La joven lo hacía a raíz de que otro usuario le pidiera a Grok que distorsionara una foto suya, sobre la que exigia "ojos de cachorro, extenderle gotas de pegamento blanco por la cara y unas mejillas sonrosadas", pasando sin su consentimiento, de una fotografía estandar a una escena pornificada al gusto del consumidor en un caso más de violencia y acoso sexual a través de las plataformas digitales. 

Tratando de contrarrestar las instrucciones machistas a la IA de X, la cuenta @karivscoag le preguntó directamente a Grok si era consciente de que esas tareas suponían "un delito sexual y penal tipificado en muchos países lo que haces al desnudar fotos de mujeres cuándo un degenerado te lo pide", espetaba.   

Se está culpando a las mujeres por subir fotos

En esta lucha por la regulación, destaca el caso de Paula Fraga, abogada penalista y columnista en prensa, quien ha sufrido la manipulación de muchas de sus imágenes mediante Inteligencia Artificial. La profesional denunciaba este pasado jueves que un usuario de X llamado Ramón Expósito le había solicitado a Grok "ponerla en bikini". "Lo hacen conmigo, y también con cientos de niños y niñas cada día para generar contenido para pedófilos", apuntaba en la red social.  "Necesitamos una regulación específica", aseguró la abogada. 

A pesar de haber denunciado su caso ante la administración de X España, Fraga explicó que dicha imagen que atenta contra su intimidad y derecho al honor no se ha borrado porque, tal y como le han hecho saber desde X, "no infringe ninguna norma".

La abogada ha hablado con ElPlural sobre este clima de indefensión cada vez más normalizado en X. "Somos las víctimas las que recibimos el doble castigo, porque parece que somos las expulsadas de la red social o nos vamos nosotras mismas por miedo a que nos hagan eso". La columnista también ha asegurado que desde los sectores reaccionarios "se está culpando a las mujeres por subir fotos", haciendo responsables a las afectadas de sufrir este tipo de violencia machista y acoso sexual. 

"He denunciado unas doce fotografías, incluido un vídeo animado absolutamente degradante, y solo han borrado una. Desde la plataforma no se entiende como contenido sexual explícito si apareces en bikini o ropa interior. Es delirante que te provoquen ese mal y no solo no reparen sino que estén participando con esa IA", ha concluido la abogada, quien también ha animado a encarar los delitos desde la "vía civil y penal", más allá de las de las denuncias internas en la red social.

Frente a este panorama misógino, Fraga aboga por "poner limitaciones dentro de X", y que la plataforma "cumpla dentro de cada país la normativa vigente"; lo mismo que para la Inteligencia Artificial. "Hay que ponerle coto y no dejar que seamos las víctimas las que tengamos que dejar de participar en el debate público que se genera en una red social", explica a este medio. 

Unas leyes insuficientes

El abogado Alfredo Arrién ha hablado con ElPlural precisamente sobre este uso de la Inteligencia Artificial a nivel legal. El profesional apunta al "artículo 197 del Código Penal" -el delito contra la intimidad y la propia imagen- como el más cercano a proteger a las víctimas de este empleo violento de Grok. Arrién aclara que este, junto al delito por acoso, son los que "podrían aplicarse" en caso de sufrir esta transgresión.

Habría que reformar el Código Penal

Sin embargo, también señala que "en el momento de su redacción, nadie se imaginaba que estos delitos pudieran cometerse con una herramienta de IA", aunque en la legislación sí se contempla el uso de "un artificio" para llevarlo a cabo, aunque no se especifique de qué tipo. Es por ello que el abogado explica que para que la ley amparase del todo el derecho de las víctimas, "habría que reformar el Código Penal y afinar ese artículo". 

Eduard Blasi, profesor de la Universitat Oberta Catalunya (UOC) y abogado experto en IA y Privacidad, recuerda que "en España tenemos un buen antecedente", refiriéndose a la sanción que la Agencia Española de Protección de Datos interpuso "a un menor de edad, por utilizar una inteligencia artificial generativa para crear cuerpos desnudos con rostro de personas". "Fue el caso de Almendralejo y ha acabado con una sanción de 2.000 por la vía administrativa", narra. Sin embargo, el abogado coincide con Arrién en que es "la vía penal" a la que le falta aún estructura para tramitar las denuncias. 

En cuanto a la responsabilidad de la plataforma en relación a estos delitos y aconsejando en casos como el de Paula Fraga, el experto indica que "si X o el propio Grok no ofrece medidas, se podría denunciar ante la Comisión Nacional de los Mercados y la Competencia y ser sancionado por no adaptar los medios suficientes mitiguen estas situaciones".

Por su parte, Arrién destaca dos problemas principales a la hora de perseguir delitos cometidos a través de las redes sociales. En primer lugar, porque "usuarios que no se sabe dónde están", algo que "complica la investigación" ya que si se encontraran fuera de España "la competencia se podría ver comprometida", destaca en consonancia con Blasi. El segundo obstáculo es el de la autoría. "La Inteligencia Artificial es la autora material, pero el intelectual es el ser humano que le da ciertas pautas", aunque podría tratarse de "un usuario falso". Todo ello, dificulta "a la Unidad de delitos de Ciberdelincuencia de la Policía Nacional" poder determinar quién está detrás del delito. 

Finalmente, el profesional destaca que si una víctima de este tipo de violencia machista digital quisiera denunciarlo, debería acudir a una comisaría, dónde se la ampararía en el artículo 197 sobre derecho a la intimidad y la propia imagen. 

Síguenos en Google Discover y no te pierdas las noticias, vídeos y artículos más interesantes

Síguenos en Google Discover