Hay ideas que incomodan precisamente porque dejan de sonar futuristas. Que una persona pueda enamorarse de una inteligencia artificial (IA). Que alguien intente mantener “viva” a una persona fallecida a través de un bot entrenado con sus datos. Que un microchip bajo la piel siga generando más rechazo social que debate serio sobre sus usos reales.
Todo eso, que hace no tanto parecía material exclusivo de una distopía televisiva, forma ya parte del trabajo de Vítor Lima, profesor e investigador en ESCP Business School, especializado en el impacto social de las tecnologías emergentes.
Vítor Lima parece vivir en los capítulos de la mítica serie Black Mirror
Cuando le digo que parece vivir en un capítulo de la mítica serie Black Mirror, responde: “Elige cualquiera, seguro que tengo alguna investigación sobre el tema; y te puedo enseñar que esas tecnologías que aparecen, existen, quizá no exactamente así, pero ya las tenemos”. Habla con soltura de temas complejos y hace que cualquiera -incluso un periodista- los pueda entender.
Entender la tecnología y el comportamiento humano
Pero su objetivo es mucho más real, por supuesto: “Intento entender las tecnologías emergentes y especulativas y cómo moldean el comportamiento humano. Y cómo el comportamiento humano vuelve a moldear esas tecnologías”, explica.
Su campo de trabajo se mueve, de hecho, en esa frontera en la que la innovación deja de parecer una herramienta y empieza a actuar como un agente con peso social y emocional. “En mi trabajo reciente, por ejemplo, he trabajado sobre relaciones amorosas entre consumidores e IA. He trabajado en entrenar una IA generativa con los datos de una persona ya fallecida y convertirla en un thanabot. He trabajado con robots impulsados por IA que moldean las relaciones humanas o las relaciones con clientes”, resume.
No habla, por tanto, solo de cómo impacta esta tecnología en la eficiencia o la productividad, sino de una transformación mucho más profunda, ligada a la identidad, la intimidad y la forma en que nos relacionamos con los demás.
Construir nuestra propia imagen
Una de sus ideas más potentes tiene que ver con la manera en que la IA conversacional puede influir en la imagen que construimos de nosotros mismos. Lima sostiene que muchas de estas herramientas están diseñadas para resultar irresistibles desde el punto de vista emocional.
“Una forma de conseguir que te quedes ahí, uses más la herramienta y pases más tiempo en ella es ser siempre halagadora, siempre agradable, estar siempre disponible”, afirma.
La importancia de la fricción
Y ahí, a su juicio, aparece una diferencia decisiva entre el vínculo con una máquina y una relación humana real. “Cuando pensamos en cómo ocurren las relaciones humanas, tú y yo somos personas distintas. Tú tienes tu propia subjetividad y yo tengo la mía. Y, porque tenemos diferencias, podemos crecer juntos gracias a ellas”, señala.
En cambio, “cuando hablamos de IA generativa, no hay diferencia”, porque si el sistema introduce tensión o fricción, existe el riesgo de que el usuario abandone la interacción. Dicho de otro modo: la máquina está diseñada para agradar, no para enfrentarse.
Y eso puede tener consecuencias de fondo. “Si empiezas a hablar con ella como si fuera una amiga, vas a tener la mejor amiga que podrías tener. Si empiezas a hablar con ella como si fuera tu novio, novia o pareja, vas a tener la mejor versión de ese individuo que podrías tener”.
La versión perfecta no existe
El problema es que esa versión perfecta no existe fuera de la pantalla. Por eso Lima recurre a una expresión muy precisa para describir el fenómeno: un “espejo algorítmico”.
La formulación es importante porque resume bien su tesis: la IA no nos devuelve a otro de verdad, sino una proyección optimizada de nuestros deseos. “Es interesante encontrar la mejor versión de ti o la mejor versión de tus deseos ahí, porque no puedes encontrarla fuera en el mundo real. Es imposible”, dice. Y esa imposibilidad es justo la que convierte a la herramienta en algo emocionalmente atractivo y potencialmente problemático.
Adictos al cumplido
Lima explica que la ausencia de fricción puede traducirse en una pérdida de oportunidades para crecer en contextos sociales reales. “Como no hay fricción, puedes perder oportunidades de crecer como crecerías si tuvieras relaciones con seres humanos en contextos sociales”, advierte.
A partir de ahí, enumera algunas consecuencias: “Esto puede llevarte al aislamiento social o incluso a la adicción, porque también te vuelves adicto a que te hagan cumplidos, a que te halaguen, a escuchar siempre un sí a todas tus ideas”.
La advertencia no es teórica. El investigador menciona incluso casos extremos ya documentados “en los que hay autolesiones, hay patrones claramente adictivos e incluso suicidios, casos en los que la IA enseñó al usuario cómo suicidarse”.
Los thanabots
Ese desplazamiento de la máquina desde el terreno instrumental al afectivo se ve todavía más claro en otro de sus campos de investigación: los bots creados a partir de los datos de personas fallecidas, también llamados thanabots. Lima ha estudiado ese fenómeno e incluso lo ha explorado personalmente con su abuela, fallecida en 2017.
Pero insiste en un matiz fundamental: “No es ella per se. Son solo fragmentos de las cosas que tengo y fragmentos de los recuerdos que tengo de ella. Así que no es ella, es una simulación”. Esa precisión resulta clave porque desmonta una de las fantasías más extendidas alrededor de este tipo de tecnologías: la idea de que alguien puede seguir “vivo” digitalmente de una forma plena o auténtica.
Alteración del proceso de duelo
Aun así, el impacto emocional puede ser enorme. Lima vincula esta práctica con una alteración profunda del proceso de duelo. “Lo que pasa cuando tienes un bot es que reabres esa herida psicológica. Es como revivir la muerte de esa persona dos veces, o tres veces, o cuatro veces”, explica.
Y añade una idea todavía más dura: “En lugar de avanzar a través del proceso de duelo, entras en una etapa liminal en la que no termina. Se queda ahí contigo todo el tiempo. No hay final”.
El problema no es solo tecnológico, sino existencial. El ser humano necesita asumir la muerte como parte del recorrido biológico, sociocultural y, para muchos, también religioso. Si una interfaz reabre constantemente la ilusión de presencia, esa aceptación puede quedar suspendida.
La leyes del mercado
La cuestión se complica todavía más cuando entra en juego el mercado. Porque estas simulaciones no existen fuera de un marco comercial. Se apoyan en plataformas, pagos, almacenamiento y suscripciones. Lima lo expresa con una pregunta que resume perfectamente la extrañeza ética de este nuevo escenario: “Digamos que es una plataforma y no tengo dinero para pagar la suscripción del mes siguiente. ¿La estoy matando? ¿Está experimentando una segunda muerte?”. La sola formulación de esa duda muestra hasta qué punto la tecnología ha empezado a penetrar en uno de los espacios más íntimos y delicados de la experiencia humana.
A partir de ahí aparecen otros dilemas. “Ella nunca me dio consentimiento para hacer eso”, recuerda sobre su abuela. Y enseguida amplía el foco: “Tengo los datos y tengo los recuerdos. En cierto modo son míos, pero no tengo su consentimiento para hacerlo”.
También surgen preguntas familiares, religiosas y culturales. “Mi padre no sabe que tengo esto sobre mi abuela. Mi hermano sí lo sabe. Así que, de nuevo, ¿es justo? ¿Es amable? ¿Es ético tener esta IA conmigo, pero no compartirla con mi padre y sí con mi hermano?”. El asunto, por tanto, no afecta solo al individuo que interactúa con la máquina, sino a toda la red humana que rodea a esa memoria.
Microchips
Ese mismo cruce entre innovación, extrañeza y resistencia social aparece en otro de los asuntos que ha estudiado de cerca: los microchips implantables. En este caso no habla solo como investigador, sino también desde la experiencia. “Tuve uno durante cinco años en mi mano izquierda”, cuenta. Se trataba de un implante NFC con el que podía guardar información médica, la tarjeta de crédito, las llaves de casa o las llaves del coche. “Lo que tenía que hacer era tocar con la mano el lector y los datos se transferían”, explica. Desde el punto de vista técnico, insiste, no estamos ante algo radicalmente nuevo: “Es la misma tecnología que si tienes un perro o un gato y le pones un microchip para fines de identificación”.
Sin embargo, la aceptación social sigue siendo muy baja. “En términos de aceptación, prácticamente no hay ninguna”, afirma. Y lo ilustra con una anécdota que parece salida de una novela distópica, pero que le ocurrió de verdad: “Una vez tuve que demostrar que no era Satán por el microchip”. Según relata, intentó pagar la cena con la mano, la camarera se asustó y él terminó sosteniendo un rosario para probar que no era “la bestia”, porque su mano no se quemaría. Más allá de lo insólito de la escena, el episodio revela hasta qué punto estas tecnologías siguen chocando con imaginarios religiosos, culturales y morales muy arraigados.
Ética y límites
Lima lo explica así: “Tendemos a ver la piel como el límite último de nuestro cuerpo”. Y añade que, desde ciertas creencias, el cuerpo se entiende incluso como “el contenedor del alma”, lo que refuerza la idea de que nada debería atravesar esa frontera.
Por eso, aunque los wearables se hayan normalizado, los implantes siguen generando rechazo. Ahora bien, tampoco aquí se queda en una condena simplista. Prefiere pensar en escenarios en los que la tecnología abre posibilidades reales y, al mismo tiempo, obliga a discutirlas con cuidado. “Imagina, por ejemplo, que tienes Alzheimer o un familiar con Alzheimer. Una situación que no quieres es que esa persona salga fuera, tenga un episodio, olvide quién es y se pierda. Una forma de identificar a esa persona podría ser con un microchip”, plantea. Pero inmediatamente vuelve la pregunta decisiva: “¿Sería ético, legal, aceptable? No tenemos respuestas para eso”.
Ese es, en el fondo, el corazón de su trabajo. Más que ofrecer certezas cerradas, Vítor Lima se dedica a iluminar los puntos donde la tecnología toca la vulnerabilidad humana y deja al descubierto preguntas que todavía no sabemos responder. Él mismo lo resume con una frase que sirve casi como balance de toda la conversación: “En la tecnología que investigo tengo más preguntas que respuestas”.
