La inteligencia artificial lleva años prometiendo cambiar nuestras vidas. Puede escribir, programar, crear imágenes y resolver problemas en cuestión de segundos. Pero mientras las grandes tecnológicas compiten por construir sistemas cada vez más capaces, una pregunta incómoda vuelve a aparecer. ¿Qué ocurre si un día dejamos de poder controlarlos?
Jacob Coxon conoce esa carrera desde dentro. El investigador británico de 27 años ha trabajado durante los últimos tres años en el desarrollo de inteligencia artificial, primero en OpenAI y posteriormente en Anthropic. Ahora ha decidido abandonar la industria con una advertencia que difícilmente pasa desapercibida. Según sostiene, quienes están construyendo los modelos más avanzados creen realmente que la IA podría llegar a provocar una catástrofe para la humanidad.
Coxon trabajaba concretamente en preentrenamiento, una de las fases fundamentales en la creación de estos sistemas y aquella en la que los modelos procesan enormes cantidades de información para aprender patrones, relaciones y conocimientos.
Su trayectoria también resulta significativa. Dejó OpenAI para incorporarse a Anthropic porque consideraba que esta última compañía mantenía una actitud más prudente frente a los posibles peligros de la inteligencia artificial. Sin embargo, su percepción terminó cambiando.
“Ninguna de las dos empresas actúa de forma responsable”, afirmó el investigador en una publicación en X. Según Coxon, ambas compañías participan en una competición que podría conducir hacia una inteligencia artificial capaz de superar las capacidades humanas e incluso de perfeccionarse por sí misma.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La preocupación gira alrededor de un concepto que hasta hace poco parecía reservado a la ciencia ficción, la automejora recursiva. La idea plantea que un sistema suficientemente avanzado pueda contribuir al diseño de versiones superiores de sí mismo, dando lugar a una progresión tecnológica extremadamente rápida.
El problema no estaría únicamente en alcanzar ese nivel de inteligencia. La gran incógnita es si los seres humanos podrían garantizar que un sistema semejante siguiera actuando conforme a nuestros intereses.
Coxon asegura que algunas de las personas directamente implicadas en el desarrollo de esta tecnología consideran posible un escenario extremo. “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió. También quiso dejar claro que, desde su punto de vista, no se trata de una estrategia destinada a generar publicidad.
No es el único miembro de la industria que reconoce riesgos importantes. Evan Hubinger, responsable de seguridad en Anthropic, respaldó públicamente parte de sus preocupaciones y afirmó que la compañía contempla de forma real la posibilidad de que futuros sistemas de IA puedan causar muertes. A título personal, situó el riesgo por encima del 10 por ciento durante la próxima década.
El dilema de quienes conocen el peligro
La paradoja que denuncia Coxon es especialmente llamativa. Las empresas que desarrollan los sistemas más avanzados son también algunas de las que más investigan sus posibles riesgos.
Anthropic nació precisamente proyectando una imagen centrada en la seguridad. Sin embargo, el pasado febrero eliminó de su política de seguridad el compromiso de detener el desarrollo de determinados modelos si no conseguía mantener sus riesgos bajo control. Para Coxon, incluso una compañía consciente de las posibles consecuencias puede terminar atrapada en la competición por no quedarse atrás.
Ese temor a perder la carrera tecnológica ayuda a explicar uno de los grandes debates de nuestro tiempo. Si una empresa decide avanzar más despacio por seguridad, otra puede ocupar su lugar. Y si todas continúan acelerando para evitarlo, el resultado puede ser precisamente el escenario que intentaban impedir.
La inquietud tampoco procede exclusivamente de antiguos trabajadores. Más de mil empleados de la industria, entre ellos el consejero delegado de Anthropic, Dario Amodei, pidieron a las autoridades estadounidenses que preparasen mecanismos capaces de frenar el desarrollo si la tecnología alcanza determinados niveles de riesgo.
Entre la ciencia ficción y un problema muy real
Hablar de una inteligencia artificial que pueda acabar con la humanidad inevitablemente suena apocalíptico. Eso no significa que semejante desenlace sea inevitable ni que exista actualmente una máquina capaz de hacerlo.
La advertencia de Coxon plantea otra cuestión mucho más inmediata. Estamos desarrollando una tecnología extraordinariamente poderosa mientras todavía discutimos cuáles deberían ser sus límites.
El debate ya no consiste solamente en imaginar qué será capaz de hacer la inteligencia artificial. También exige decidir hasta dónde estamos dispuestos a llegar para descubrirlo.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
