No sé tú, pero yo cada vez me encuentro más veces mirando una foto o un vídeo sin saber muy bien si es real o han sido generados con inteligencia artificial. Como, por ejemplo, la foto que ilustra este artículo. ¿Te has dado cuenta de que era IA?
Hay veces que cuesta saber qué es real y qué no
Europa quiere evitar que suceda eso y, desde el pasado 2 de agosto, se aplican las nuevas obligaciones de transparencia del artículo 50 de la ley europea de Inteligencia Artificial. La Comisión explica que la IA está creando nuevos riesgos de “desinformación y manipulación a escala, fraude, suplantación de identidad y engaño del consumidor”.
Si te habla una máquina, debe decirlo
Para empezar, la Comisión explica que los proveedores deben diseñar sus sistemas para que las personas sean “informadas cuando interactúan directamente con una IA”.
Parece obvio cuando abres ChatGPT, pero cuando la IA está escondida detrás del chat de atención al cliente de una compañía o de un asistente que intenta parecer humano, la cosa se empieza a complicar y casi necesitas un test Voight-Kampff. Por eso, Europa quiere que sepamos, antes de seguir hablando, si al otro lado hay una persona o una máquina.
Ese vídeo, también
En las redes sociales, las imágenes, vídeos o audios generados o manipulados con tecnología que puedan parecer auténticos deberán identificarse como tales. La Comisión señala expresamente que los usuarios deben ser informados cuando estén expuestos a deepfakes y a determinados contenidos generados por IA.
Por una parte, los proveedores de sistemas generativos tendrán que incorporar marcas legibles por máquinas que permitan detectar que el contenido fue generado o manipulado mediante IA.
Por otra, cuando se publique un deepfake en un contexto profesional, la persona que lo ve deberá poder saberlo. No basta con esconder toda la información en un rincón técnico del archivo.
La filosofía de Bruselas es que “las personas deberían saber cuándo están interactuando con IA o expuestas a contenido generado por IA”. Pero claro, a ver cómo conseguimos que esa información no se pierda en una captura de pantalla, una edición o un reenvío por WhatsApp.
Una marca de agua que no ves
Hay dos palabras de las que te vas a aburrir: C2PA y SynthID. C2PA es un estándar abierto que permite añadir al contenido información sobre su procedencia: qué herramienta lo creó, cuándo y qué transformaciones puede haber sufrido. SynthID introduce una marca digital dentro del propio contenido, invisible para nosotros pero detectable mediante herramientas compatibles.
OpenAI explica que utiliza estas señales “para ayudar a las personas a saber si el contenido se generó con herramientas de OpenAI”. Sus imágenes compatibles incorporan metadatos C2PA y marcas SynthID; el audio compatible incluye también una marca inaudible.
La compañía advierte, sin embargo, de que estas señales “no garantizan que el contenido sea preciso” ni que no se haya editado o aparezca en el contexto correcto. Saber quién fabricó una imagen no convierte automáticamente en verdad lo que representa.
Google teme que acabemos hartos de etiquetas
Google ha firmado el Código europeo de buenas prácticas sobre transparencia del contenido generado por IA y lleva tiempo desplegando SynthID en imágenes, audio, vídeo y texto.
La compañía define SynthID como una tecnología que ayuda a entender “cómo se creó y editó el contenido”. Pero al mismo tiempo ha advertido de que, si el contenido digital termina “inundado de etiquetas de IA y avisos legales superpuestos”, puede resultar más difícil obtener un contexto claro.
Meta tampoco quiere exceso de avisos
Meta confirmó en julio que firmaría el código europeo y defendió que las medidas de transparencia deben aportar “claridad, en lugar de más confusión”. Su preocupación, como en el caso de Google, es evitar “una creciente variedad de diferentes etiquetas y avisos” que terminen abrumando al usuario.
El reto europeo consiste en conseguir algo reconocible, interoperable y suficientemente resistente para que la información no desaparezca en cuanto el archivo sale de la plataforma en la que fue creado; no que cada empresa invente su propio símbolo, su propia palabra y su propia esquina de la pantalla.
El problema de las capturas de pantalla
Uno de los problemas que mencionan los expertos es que los metadatos pueden desaparecer al descargar una imagen, editarla, convertirla o compartirla. OpenAI reconoce que “las plataformas, las herramientas de edición o las conversiones de archivos a veces pueden eliminarlos”.
Por eso se combinan técnicas diferentes. Google señala que SynthID está diseñado para seguir siendo detectable tras modificaciones habituales; OpenAI combina marca de agua y metadatos porque una tecnología puede conservar información que la otra pierda.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.