¿Acabará la Inteligencia Artificial con todos nosotros?

La inteligencia artificial lleva años presentándose como una tecnología capaz de transformar casi todos los aspectos de nuestra vida. Hoy puede escribir textos, programar, generar imágenes o resolver problemas en segundos. Sin embargo, mientras las grandes tecnológicas compiten por desarrollar sistemas cada vez más avanzados, crece una pregunta inquietante: ¿qué ocurriría si algún día dejáramos de poder controlarlos?

Jacob Coxon conoce esa carrera desde dentro. El investigador británico, de 27 años, ha trabajado durante los últimos tres años en el desarrollo de inteligencia artificial, primero en OpenAI y después en Anthropic. Ahora ha abandonado la industria lanzando una advertencia especialmente grave: algunas de las personas que trabajan en los modelos más avanzados consideran realmente posible que la IA pueda provocar una catástrofe de enormes dimensiones.

Coxon trabajaba en el área de preentrenamiento, una de las fases esenciales en la creación de estos sistemas. Durante este proceso, los modelos analizan grandes cantidades de información para aprender patrones, relaciones y conocimientos que posteriormente utilizan para generar respuestas.

Su salida de OpenAI y llegada a Anthropic estuvo motivada, precisamente, por cuestiones de seguridad. Coxon consideraba que Anthropic mantenía una postura más prudente ante los posibles peligros de la inteligencia artificial. Con el tiempo, sin embargo, su opinión cambió.

“Ninguna de las dos empresas actúa de forma responsable”, afirmó en una publicación en X. Según el investigador, ambas compañías están inmersas en una competición que podría conducir al desarrollo de sistemas capaces de superar las capacidades humanas y participar en la creación de versiones cada vez más potentes de sí mismos.

Una de las principales preocupaciones es la llamada automejora recursiva. La idea plantea que una IA suficientemente avanzada podría ayudar a diseñar sistemas superiores a ella misma, generando así un proceso de mejora cada vez más rápido. El problema no sería únicamente alcanzar una inteligencia superior a la humana, sino garantizar que un sistema semejante continúe actuando de acuerdo con nuestros intereses.

Coxon asegura que algunos profesionales directamente implicados en esta tecnología contemplan escenarios extremos. “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió. También quiso dejar claro que, desde su perspectiva, estas advertencias no responden a una estrategia publicitaria.

Sus temores no son completamente aislados dentro del sector. Evan Hubinger, investigador especializado en seguridad en Anthropic, ha reconocido públicamente que la compañía estudia la posibilidad de que futuros sistemas de IA puedan causar muertes. A título personal, llegó a situar por encima del 10% el riesgo de consecuencias extremadamente graves durante la próxima década.

Una carrera difícil de frenar

La situación plantea una paradoja. Las empresas que desarrollan los sistemas de inteligencia artificial más avanzados son también algunas de las que más investigan sus posibles riesgos.

Anthropic nació con una imagen especialmente vinculada a la seguridad. Sin embargo, ha modificado algunos compromisos relacionados con la posibilidad de detener el desarrollo de determinados modelos cuando los riesgos no puedan controlarse.

Para Coxon, el problema está en la propia competencia. Si una empresa decide avanzar más despacio por motivos de seguridad, otra puede aprovechar la oportunidad para situarse por delante. Pero si todas aceleran para no quedarse atrás, aumentan las posibilidades de generar precisamente los riesgos que intentan evitar.

La preocupación tampoco procede únicamente de antiguos empleados. Más de mil trabajadores del sector, incluido el consejero delegado de Anthropic, Dario Amodei, han pedido a las autoridades estadounidenses mecanismos que permitan frenar el desarrollo tecnológico si determinados sistemas alcanzan niveles de riesgo preocupantes.

Hablar de una inteligencia artificial capaz de amenazar a la humanidad puede parecer ciencia ficción. Actualmente no existe ningún sistema conocido capaz de provocar por sí mismo un escenario de ese tipo, ni significa que una catástrofe sea inevitable.