El pasado 9 de septiembre un investigador británico de 27 años, Jacob Coxon, anunció a través de su cuenta de X que había resignado a su trabajo en Anthropic ya que, en sus palabras, tanto dicha empresa como OpenAi, "está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas", aseguró.
La preocupación de este extrabajador de la mencionada compañía tecnológica es compartida por su exjefe en la compañía Evan Hubinger, que aunque considera "el riesgo de los modelos actuales es bajo", ha mostrado su preocupación por lo que pueda venir en los modelos futuros, especialmente por "la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos” y que hace referencia a la capacidad de la IA pueda automejorarse por mi misma, lo que puede derivar en una progresión tecnológica extremadamente rápida.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sin embargo, hay voces que, aunque no niegan de forma tajante las preocupaciones de Coxon, son más prudentes a la hora de vaticinar la evolución de la IA. Tal es el caso de Pablo Moreno, vicerrector de Investigación y Transferencia de la Universidad Internacional de La Rioja (UNIR), Pablo Moreno, que ha pedido no interpretar desde una perspectiva "totalmente catastrofista" las advertencias sobre el riesgo de que la inteligencia artificial (IA) pueda llegar a acabar con los humanos en la próxima década, aunque ha reconocido que existen riesgos reales y ha situado el "alineamiento" de los futuros sistemas como uno de los principales desafíos.
¿Hay riesgos en una inteligencia artificial cada vez más avanzada?
El catedrático de Computación e IA ha explicado a Europa Press Televisión que estas previsiones se basan en los sistemas actuales y tratan de anticipar qué podría ocurrir cuando las futuras generaciones de inteligencia artificial empiecen a utilizar los modelos anteriores para desarrollar otros sistemas todavía más avanzados. Moreno ha aclarado que no se trata de un peligro asociado a los modelos que existen actualmente, sino a cómo podrían evolucionar en los próximos años. "No es un riesgo de los modelos que usamos hoy, sino de cómo podrían llegar a ser los modelos dentro de unos años", ha señalado. En este sentido, ha recordado que "muchas cosas tienen que pasar para llegar a eso" y que todavía existen posibilidades para controlar y reducir estos riesgos.
El experto distingue entre dos grandes tipos de amenazas. La primera está relacionada con el "mal uso" de la inteligencia artificial. Aunque esta tecnología puede servir para mejorar procesos, facilitar el acceso a la información o incrementar la productividad, también puede utilizarse para "hacer mejores armas", llevar a cabo ciberataques o atacar a empresas y países. El segundo riesgo tiene que ver con el llamado "riesgo de alineamiento", que se produciría cuando una IA siguiera aparentemente las instrucciones que recibe, pero interpretándolas de una manera diferente a lo que esperan las personas.
"Una IA va a intentar hacer lo que queramos; no tiene una iniciativa propia ni estamos trabajando para que la tenga", ha explicado Moreno. El problema, según ha señalado, puede aparecer cuando las instrucciones no son suficientemente precisas. Para ilustrarlo, ha planteado el caso de un sistema al que se le pidiera reducir al máximo los accidentes de tráfico. La IA podría concluir que la mejor manera de conseguirlo sería "prohibir todos los desplazamientos", cumpliendo así con el objetivo planteado, pero sin tener en cuenta el contexto ni aquello que realmente se pretendía conseguir. Por este motivo, el catedrático considera necesario que las empresas que desarrollan estas tecnologías trabajen en el alineamiento de los sistemas y se aseguren de que incorporan criterios que permitan determinar qué comportamientos consideran aceptables los seres humanos.
Una regulación difícil de coordinar
En materia de regulación, el vicerrector de UNIR, Moreno, considera que la dificultad principal no está tanto en determinar qué elementos de la inteligencia artificial pueden someterse a normas, sino en lograr que Europa, Estados Unidos y China adopten medidas en la misma dirección y de forma simultánea.
"Europa puede tener una regulación muy restrictiva, pero si no va acompañada de una regulación en Estados Unidos o en China (...) es difícil avanzar", ha advertido.
A esta dificultad se suma la competencia económica y tecnológica entre países y empresas, que hace complicado que alguno de ellos decida detener por su cuenta el desarrollo de nuevos modelos de inteligencia artificial. "Ninguna se atreve a ser la primera que se pare", ha resumido Moreno.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.