La Comisión Europea ha informado este lunes del inicio de una investigación formal contra X por las imágenes sexuales deepfake generadas sin consentimiento por Grok, su asistente de Inteligencia Artificial (IA) integrado, y otros contenidos controvertidos, que Bruselas sospecha que violan la ley europea de servicios digitales (DSA, por sus siglas en inglés).
El expediente sancionador no establece un plazo claro para la conclusión de la investigación, pero fuentes comunitarias aseguran que lo abordarán como una "prioridad", conscientes de los "riesgos" que plantea.
El procedimiento comunitario prevé distintas etapas, desde la petición de más información, contactos con terceras partes y análisis de la réplica de defensa de la compañía antes de concluir la investigación que, en última instancia, prevé multas millonarias en caso de incumplimiento de hasta el 6 % de la facturación global.
"Creemos que X podría haber infringido la DSA, porque en las últimas semanas y meses hemos observado contenido antisemita, 'deepfakes' no consentidos de mujeres y material de abuso sexual de menores. En Europa ninguna empresa se lucrará violando nuestros derechos fundamentales", ha defendido en una rueda de prensa en Bruselas el portavoz comunitario de telecomunicaciones, Thomas Regnier.
Los servicios comunitarios ya pidieron a X a finales de 2025 que conservara documentación y datos internos en relación a la difusión de mensajes antisemitas y este mismo mes amplió este requerimiento a todo 2026 y en relación también a los contenidos vinculados a las imágenes sexuales con menores generadas por IA.
En este contexto, la plataforma del magnate estadounidense Elon Musk limitó a los clientes con cuentas de suscripción 'premium' el acceso a los contenidos investigados, ante lo que Regnier ha querido dejar claro que el material ilegal "no es un privilegio premium" y "no tiene cabida" en la Unión Europea. Las medidas tomadas hasta ahora "simplemente no son suficientes", ha zanjado el portavoz.
Investigación por falta de evaluación de riesgo y medidas de mitigación
"Los 'deepfakes' sexuales de mujeres y menores son una forma de violencia inaceptable de degradación", ha avisado la vicepresidenta de la Comisión Europea responsable de Soberanía Tecnológica, Seguridad y Democracia, Henna Virkkunen.
En concreto, el Ejecutivo comunitario actúa para aclarar si la compañía de Elon Musk está tomando las medidas adecuadas para evaluar y mitigar riesgos sistémicos que plantea el chatbot Grok, incluida la difusión de contenidos ilegales y su efecto negativo en cuestiones como la violencia contra la mujer, el bienestar físico y la salud mental.
También examinará si X cumple con las obligaciones de la DSA de elaborar y presentar a Bruselas el informe de evaluación de riesgos 'ad hoc' sobre las funcionalidades de Grok y su impacto en los riesgos de X.
En diciembre del pasado año, el Ejecutivo comunitario ya multó a X con 120 millones por engañar a sus usuarios con la marca azul de verificación, en una primera decisión de incumplimiento de la DSA. La compañía no ha pagado aún esta sanción, pero fuentes comunitarios aclaran que tiene un plazo de tres meses que aún no ha expirado y que hay contactos entre las partes que les hacen confiar en que lo hará.
Amplía otra investigación en curso desde 2023
Además de este expediente, la Comisión Europea ha informado de que ha ampliado otra investigación abierta en diciembre de 2023 sobre el cumplimiento por parte de X de sus obligaciones en materia de gestión de riesgos de los sistemas de recomendación.
En concreto, Bruselas busca determinar si X ha evaluado y mitigado adecuadamente todos los riesgos sistémicos asociados a sus sistemas de recomendación, incluido el impacto de su cambio recientemente anunciado a un sistema de recomendación basado en Grok.