La conversación puede empezar de la forma más inocente. Entras en la web de una compañía porque te han cobrado dos veces una factura, aparece una ventana en la esquina inferior de la pantalla y alguien llamado Lucía te pregunta en qué puede ayudarte.
Lucía responde deprisa, nunca se cansa y mantiene una paciencia admirable incluso después de que le hayas explicado el problema tres veces. Quizá sea la mejor trabajadora del departamento de atención al cliente. O quizá no sea Lucía. Ni trabajadora. Ni siquiera una persona.
¿Habías notado que los dos primeros párrafos de este artículo están escritos por una IA?
La obligación de informar
Como pasa con esos dos primeros párrafos que acabas de leer, es una IA quien está haciendo el trabajo. Y, hasta ahora, muchas veces ni nos enterábamos. Sin embargo, desde el pasado 2 de agosto, las empresas que utilizan determinados sistemas de inteligencia artificial en la Unión Europea deben dejar las cosas más claras.
Las nuevas obligaciones de transparencia del reglamento europeo de IA exigen informar a los ciudadanos cuando están interactuando directamente con una máquina y señalar algunos contenidos generados o manipulados de forma artificial.
Hasta ahora, sin embargo, esa frontera podía resultar bastante borrosa. Algunos asistentes virtuales se identificaban desde el principio; otros se presentaban con nombres humanos, fotografías amables y frases cuidadosamente diseñadas para que olvidáramos que estábamos hablando con un programa. La nueva norma trata de poner orden en esa ambigüedad.
“Hola, soy un asistente virtual”
El artículo 50 del reglamento de IA obliga a las empresas a diseñar los sistemas interactivos de manera que las personas sean informadas de que están tratando con una IA. La advertencia deberá ser clara, accesible y fácil de distinguir.
La Comisión Europea explica que las obligaciones afectan a sistemas como chatbots, asistentes virtuales, agentes automatizados y otras herramientas capaces de mantener una conversación o generar respuestas personalizadas.
La información podrá adaptarse al contexto y al riesgo, pero tendrá que aparecer durante la primera interacción y no será necesario repetirla en cada mensaje. Una vez avisado, se supone que el usuario ya sabe con quién —o con qué— está hablando.
Los deepfakes tendrán que avisar
La segunda novedad afecta a las imágenes, los audios y los vídeos manipulados mediante IA. A partir de ahora, quienes publiquen este tipo de contenidos deberán comunicar que han sido generados o alterados con esa tecnología. La etiqueta tendrá que ser visible y comprensible para quien los reciba.
Existen excepciones para obras artísticas, satíricas o de ficción. Una película no tendrá que detenerse a mitad de una escena para recordar que el actor ha sido rejuvenecido digitalmente. Deberá ofrecer información adecuada sobre el uso de la tecnología, pero sin estropear la experiencia o desvirtuar la obra.
También los textos, pero no todos
La regulación incluye además determinados textos generados o manipulados mediante IA cuando se publican con el propósito de informar al público sobre asuntos de interés general. La obligación de indicarlo no se aplica cuando el contenido ha sido sometido a una revisión humana o a un control editorial y existe una persona o entidad responsable de su publicación.
Un medio de comunicación que utilice tecnología para transcribir una entrevista, ordenar documentación o ayudar en una traducción no estaría en la misma situación que una web automatizada que genere cientos de noticias sin que nadie las lea antes de publicarlas.
Eso sí, la Comisión considera que los textos de interés público creados sin revisión humana deben ser identificados como artificiales.
Una marca que quizá no veas
Los proveedores de sistemas generativos deberán incorporar marcas en formatos legibles por máquinas. Son señales técnicas integradas en los archivos para que plataformas, investigadores o herramientas de verificación puedan detectar que un contenido ha sido producido o modificado mediante IA.
Puede tratarse de metadatos, credenciales digitales u otros mecanismos que permitan rastrear el origen del archivo. La Comisión exige que estas señales sean eficaces, interoperables, fiables y técnicamente robustas.
Pero la marca técnica no sustituye necesariamente al aviso visible. Las dos medidas persiguen objetivos diferentes, porque una informa a la persona y la otra ayuda a los sistemas de detección.
No todo lo que parezca humano será falso
Europa intenta establecer una regla básica antes de que la tecnología avance todavía más. No es una solución perfecta; es, más bien, una nueva capa de información para un internet en el que ya no nos creemos nada.
La próxima vez que Lucía responda a una reclamación a las tres de la mañana, quizá encontremos una frase junto a su nombre: “Soy un asistente virtual basado en IA”.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
