Moncloa eleva la presión sobre las grandes plataformas digitales. El Ejecutivo pedirá a la Fiscalía que analice si X, TikTok y Meta podrían estar incurriendo en delitos relacionados con la generación de pornografía infantil a través de sistemas de inteligencia artificial, en un nuevo paso de la ofensiva regulatoria del Gobierno sobre el ecosistema de redes sociales. La iniciativa, anunciada por el presidente del Gobierno, Pedro Sánchez, busca determinar hasta qué punto las herramientas de IA generativa integradas en estos servicios permiten la creación o difusión de contenidos que vulneran de forma grave los derechos de los menores y podrían encajar en figuras penales ya contempladas en el ordenamiento jurídico español.
“El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”, ha señalado el jefe del Ejecutivo en un mensaje público en redes sociales, en el que ha denunciado que determinadas funcionalidades tecnológicas están “atentando contra la salud mental, la dignidad y los derechos” de niños y adolescentes. Con este movimiento, el Gobierno pretende trasladar el foco desde el uso individual que puedan hacer los usuarios hacia la posible responsabilidad de las propias plataformas cuando sus sistemas facilitan, amplifican o no bloquean de manera eficaz este tipo de contenidos.
La petición a la Fiscalía se enmarca en una estrategia más amplia de control sobre el entorno digital que el Ejecutivo viene perfilando en los últimos meses. El detonante ha sido la creciente preocupación institucional por el impacto de la inteligencia artificial generativa, capaz de producir imágenes hiperrealistas, manipular fotografías reales o crear escenas inexistentes con apariencia verosímil, incluidas representaciones sexuales de menores. Expertos en protección de la infancia advierten de que estas prácticas no solo suponen una forma de violencia digital, sino que pueden alimentar circuitos de abuso, extorsión y acoso difíciles de rastrear.
Desde el ámbito gubernamental se subraya que la investigación fiscal no prejuzga responsabilidades, pero sí pretende aclarar si los actuales mecanismos de moderación, verificación de edad y control de contenidos resultan suficientes. En caso contrario, el Ejecutivo no descarta promover cambios normativos que refuercen las obligaciones de las empresas tecnológicas, incluida la posibilidad de sanciones más severas o responsabilidades penales para sus directivos cuando exista inacción ante contenidos ilícitos.
Este anuncio llega apenas dos semanas después de que Sánchez adelantase otra medida de gran calado: la prohibición del acceso a redes sociales para menores de 16 años. Según defendió entonces, la exposición continuada a discursos de odio, violencia o sexualidad explícita tiene efectos directos sobre el bienestar emocional de los adolescentes. “Las redes sociales se han convertido en un Estado fallido, en el que se ignoran las leyes y se toleran los delitos”, ha afirmado, al tiempo que prometía proteger a los menores del “salvaje Oeste digital”. La propuesta se encuentra actualmente en fase de tramitación parlamentaria y forma parte de un paquete legislativo más amplio sobre derechos digitales y protección de la infancia.
El debate ha reactivado también la discusión sobre el papel de las grandes tecnológicas en la gobernanza del espacio público digital. Mientras las compañías defienden sus inversiones en sistemas de detección automática y equipos de moderación, diversas organizaciones sociales consideran insuficientes las medidas adoptadas hasta ahora. Reclaman auditorías independientes de los algoritmos, mayor transparencia sobre el funcionamiento de la IA generativa y protocolos de retirada inmediata cuando se detecten contenidos que afecten a menores.
En paralelo, el movimiento del Gobierno español se alinea con una tendencia creciente en Europa, donde distintas administraciones estudian fórmulas para limitar los riesgos asociados a la inteligencia artificial y endurecer la regulación de las plataformas. La aplicación de la normativa comunitaria sobre servicios digitales y el desarrollo de nuevas leyes específicas sobre IA marcarán previsiblemente el marco en el que se dirima este pulso entre poder público y corporaciones tecnológicas.