Expertos reclaman una narrativa más humana y transparente sobre la IA: reforzar la democracia en plena tranformación digital

La sesión Inteligencia artificial: más allá de las narrativas, perteneciente al ciclo Nuestros derechos en la era digital celebrado en el Palau Macaya de la Fundación ”la Caixa”, pone el acento en las nuevas miradas en torno a la IA. Los expertos reunidos coinciden en que es imprescindible construir narrativas alternativas sobre esta tecnología.

El Palau Macaya de la Fundación ”la Caixa” ha acogido la conferencia Inteligencia artificial: más allá de las narrativas, que ha puesto el broche final al ciclo Nuestros derechos en la era digital, organizado por la Fundación “la Caixa” junto al Observatorio de Derechos Digitales (ODD).

En este encuentro han participado tres especialistas en comunicación y tecnología digital: Carles Planas Bou, periodista tecnológico en El Periódico; Pablo Sanguinetti, escritor, profesor e investigador en la intersección entre tecnología y humanidades; y Marta Peirano, escritora y periodista especializada en las relaciones entre tecnologías y poder.

El propósito del evento ha sido reflexionar sobre la Inteligencia Artificial (IA) y nuestro derecho a la información, así como sobre la responsabilidad del periodismo en la construcción de narrativas sobre el progreso tecnológico. La sesión ha estado moderada por Olivia Blanchard, consultora e investigadora en el impacto social de la tecnología y directora científica del ciclo.

Como punto de partida del debate, Blanchard ha dado a conocer algunos datos derivados de una encuesta reciente del CIS sobre el uso de la IA. En este sentido, ha explicado que un 56 % de los encuestados considera que la IA puede generar más perjuicios que beneficios en el entorno laboral y cultural, mientras que un 66 % cree que puede aportar ventajas en salud y medicina.

La moderadora ha resaltado que, según este mismo estudio, el 92 % asegura haber oído hablar del uso de IA para crear textos, aunque a un 70 % le provoca inquietud. En relación con la regulación, el informe indica que solo el 43 % conoce la Ley de la Inteligencia Artificial, aprobada formalmente por el Parlamento Europeo el 13 de marzo de 2024.

Blanchard también ha planteado preguntas clave sobre el origen y el uso del concepto “IA”. A este respecto, Planas ha asegurado que el término nació en 1955: “Hasta ese momento se refería a la IA como ‘Autómatas Pensantes’, bajo una estrategia de marketing”. Para Planas, “no estamos hablando de inteligencia si no de un software que está programado para dar respuestas verosímiles, lo que no significa que no dé errores”. Y ha añadido: “se nos explica la IA como algo mágico para ocultar lo que realmente es: máquinas que necesitan una potencia ingente y absorben una gran cantidad de recursos energéticos”.

Por su parte, Sanguinetti ha subrayado que “la palabra clave es ‘la simulación’, porque lo que se pretende es construir una máquina que simule a los humanos”.

Sobre las ideologías asociadas a la IA, Sanguinetti ha asegurado que el desarrollo tecnológico no es neutro ni ajeno a los posicionamientos ideológicos. Tal y como recordaba Blanchard, figuras como Sam Altman o Peter Thiel han empleado un lenguaje propio de lo divino: “el empresario alemán Thiel dijo que la IA podría ayudar a atraer al Anticristo”. En esta línea, Planas ha sostenido que “actualmente hay una burbuja en torno a la IA que obliga a que haya campañas de marketing muy invasivas para lanzar el mensaje de que la IA es maravillosa”.

Sin embargo, Peirano ha apuntado que “los que tienen el poder son los que utilizan ese lenguaje ‘divino’”. La experta ha continuado afirmando que “estos personajes que están en el poder creen en la crisis climática y por ello acumulan los recursos, ya que están absolutamente convencidos de que la tecnología les va a salvar; mientras el resto de la ciudadanía vive en la oscuridad”. También ha advertido que “hay que tener cuidado con las infraestructuras que se crean en torno a la IA y que acumulan muchos datos que en las manos equivocadas pueden ser muy peligrosas”.

El papel de los medios de comunicación

El siguiente bloque ha girado en torno al papel de los medios y nuestro derecho a la información. El periodista Planas considera que “el periodismo afronta un reto que es hablar de lo que está pasando actualmente con la IA y de los problemas que está causando y no venderlo como un ente mágico”. Para este periodista, “se debería hablar del coste que tienen el despliegue de todas estas tecnologías, de la extracción de recursos naturales, o del reparto del poder que están generando, de los sesgos que generan y de los trabajadores reales que hay detrás, como los responsables del proceso de etiquetado”.

Por su parte, Sanguinetti ha comentado que “en los medios existen problemas narrativos que se derivan del problema del relato de la tecnología autónoma y siguen el ‘modelo de Frankenstein’: crear algo que al final del camino nos trae un castigo”. También considera peligroso imaginar la IA como algo autónomo, porque “lo que hacemos es borrar del mapa a las personas y a todos los trabajadores que hay detrás de la IA”.

Como mirada hacia adelante, Peirano ha afirmado que “tenemos que ser capaces de desarrollar un tipo de Inteligencia Artificial que nos beneficie a todos, no solo a los que tiene el poder”. Además, ha comparado el modelo chino con el estadounidense: “China centraliza y gestiona la actividad de todas sus empresas dentro y fuera del país, mientras que en EE. UU. la legislación es laxa y no se implementa de manera efectiva”. Por ello ha reclamado “un código abierto, un software libre y transparente para nuestro país”.

A favor de la transparencia, Planas ha mencionado iniciativas como la del Barcelona Supercomputing Centre, que considera un ejemplo para las administraciones. Según él, “cada vez más países en la UE están apostando por softwares con códigos abiertos”.

Para concluir, Blanchard ha invitado a los expertos a recordar iniciativas ya existentes para impulsar narrativas alternativas, a lo que Planas ha destacado que “hay que ser riguroso para tratar los temas que están pasando ahora y no los futuros; hablar de las oportunidades reales de la IA y de los problemas”. También ha recalcado que “los consumidores tienen que saber que estamos usando algo que ha sido programado para seducirnos”.

Para Peirano, “la IA generativa es demasiado interesante para dejarla en manos de cinco personas. El poder que generan es mucho más ambicioso, y va más allá de esa divinidad que parece que tiene que sustituirnos”. Además, ha señalado que “tenemos la posibilidad de desarrollar esas tecnologías de una forma más experimental y más transparente”.

Sanguinetti ha concluido advirtiendo de los riesgos de interpretar mal la tecnología. A su juicio, “mejorar la narrativa es desplazar el foco de la tecnología a las personas y el futuro utópico al uso real en los problemas que tenemos en la actualidad. Desplazar la urgencia de la IA y darle usos diversos y también mostrar un poco de resistencia”. Y ha recordado que “la educación humanística es básica para entender la tecnología”.

Esta ha sido la última sesión de un ciclo que desde el 14 de mayo han acogido el Palau Macaya de la Fundación ”la Caixa” y CaixaForum València, con el objetivo de abrir un espacio de debate sobre el impacto de la digitalización en nuestros derechos en distintos ámbitos de la vida: las relaciones afectivas, la salud, el trabajo, la relación con la administración pública y la IA.

Observatorio de Derechos Digitale: colaboración con 19 entidades

Los derechos digitales son la extensión al entorno virtual de los derechos reconocidos en el ámbito físico. Garantizan principios fundamentales como la privacidad, la libertad de expresión, el acceso a internet o la igualdad y no discriminación, protegiéndolos con la misma eficacia que en el mundo presencial. Su propósito es adaptar estos derechos a los desafíos tecnológicos, reforzando la democracia en plena transformación digital.

En este marco nace el Observatorio de Derechos Digitales (ODD), una iniciativa público-privada impulsada por Red.es —entidad adscrita al Ministerio para la Transformación Digital y de la Función Pública— en colaboración con 19 entidades, entre ellas la Fundación ”la Caixa”. El ODD surge como respuesta estructurada a los desafíos éticos, normativos y sociales de la digitalización, con la misión de difundir los derechos digitales y promover la aplicación de la Carta de Derechos Digitales aprobada por el Gobierno de España en 2021.