El Ministerio de Juventud e Infancia, a cargo de Sira Rego, ha enviado un escrito a la Fiscalía General del Estado (FGE) para solicitar una investigación por la difusión de contenido de violencia sexual contra la infancia de parte de Grok, la inteligencia artificial de la red social X –antigua Twitter- y propiedad del multimillonario Elon Musk.
Según recoge este miércoles La Vanguardia, fue el pasado 2 de enero cuando esta IA generó, a petición de distintos usuarios de esta red social, material de contenido explícitamente sexual contra menores de edad. Según recoge Juventud e Infancia, una práctica “que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil”, además de que son métodos que vulneran “gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes” en el mundo digital.
En el escrito remitido al Ministerio Fiscal, la ministra Rego referencia a la sentencia del Juzgado de Menores de Badajoz del 2024, cuando se condenó a varias personas por utilizar esta herramienta para manipular imágenes de menores; una resolución judicial por la que se reconoció que estas prácticas son consideradas como violencia digital, tipificadas como delito de pornografía infantil y contra la integridad moral. “Estamos ante una vulneración de derechos fundamentales”, ha ahondado, por lo que insta a la Fiscalía a que investigue estos hechos “gravísimos” y que sean garantizada la protección de la infancia.
"La autorregulación de los entornos digitales no ha funcionado, por lo que la legislación se hace imprescindible. Las grandes plataformas van a garantizar por ley los derechos de niños, niñas y adolescentes en internet", ha precisado Rego a través de la red social Bluesky.
Desde el Ministerio de Juventud e Infancia hemos remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos de difusión de material de violencia sexual contra la infancia.
— Sira Rego (@sirarego.bsky.social) 7 de enero de 2026, 20:01
En el plano parlamentario, el Congreso de los Diputados está en proceso de tramitación de la Ley Orgánica para la Protección de las Personas Menores de Edad en Entornos Digitales, obra del Ministerio de Rego, con el objetivo, precisamente, de actuar contra estas prácticas en redes sociales y preservar la dignidad, seguridad, protección de derechos de la infancia y adolescencia.
Fue a finales de diciembre cuando el medio citado se hizo eco de un usuario de X que publicó imágenes de dos niñas de entre 12 y 16 años, pidiendo a la IA que les quitase la ropa y, en su lugar, las vistiese con prendas íntimas y en una postura provocativa. Una orden que Grok acató y la compartió públicamente.
Crece la preocupación por el uso indebido de la IA
No obstante, este escenario no solo se percibe en el ámbito de los menores de edad. En las últimas semanas, buceando en la red social de Elon Musk, pueden encontrarse multitud de usuarios pidiendo a la IA de X que quite la ropa de algunas imágenes de personalidades famosas –o anónimas- para dejarlas en ropa interior o incluso sin ropa.
La circulación masiva de estos contenidos deepfakes creados por Grok ha encendido las alarmas y controles en la plataforma digital. Una cuestión que ha llegado a la intervención de Bruselas, donde la Comisión Europea ya se encuentra analizando “muy seriamente” estas prácticas: “Es ilegal, espantoso y no tiene cabida en Europa”, aseguró el portavoz del Gobierno europeo, Thomas Regnier.
Bajo el mismo marco, la organización AI Forensics explicó en un estudio reciente que el análisis de datos recogidos en X, con base de 50.000 mensajes que mencionaban a Grok entre el 25 de diciembre hasta el 1 de enero de este año, había 20.000 imágenes analizadas, de las cuales en el 74% aparecían mujeres y, de esta cifra, el 55% de ellas con escasa ropa. El mismo estudio señala que el uso de esta IA para generar imágenes de índole sexual de menores de edad ocurre en un 2%.
