En 1963, Estados Unidos y la Unión Soviética acordaron establecer una línea directa de comunicación entre Washington y Moscú. La decisión llegó después de la crisis de los misiles de Cuba y perseguía algo relativamente sencillo: reducir el riesgo de que un error, un retraso en las comunicaciones o una interpretación equivocada acabaran desencadenando una guerra. Más de seis décadas después, algunos expertos estadounidenses y chinos recuperan aquella lógica ante un problema que entonces pertenecía a la ciencia ficción: la inteligencia artificial.
Especialistas de ambos países han propuesto crear un canal bilateral para gestionar incidentes relacionados con sistemas autónomos, acompañado de otras salvaguardas como mantener la IA alejada de determinadas decisiones nucleares y garantizar un control humano efectivo sobre los ciberataques de mayor alcance. Las recomendaciones surgen de un diálogo impulsado por la Brookings Institution y la Universidad de Tsinghua y, por ahora, no han sido adoptadas formalmente por ninguno de los dos gobiernos.
La comparación con la Guerra Fría tiene límites evidentes. Ni Estados Unidos y China mantienen hoy la misma relación que Washington y Moscú ni la inteligencia artificial puede equipararse a un arsenal nuclear. El problema que empieza a preocupar a expertos de ambos lados es distinto: qué ocurre si un sistema automatizado acelera una crisis antes de que los responsables políticos puedan comprenderla y detenerla.
Cuando el tiempo humano deja de ser suficiente
La incorporación de inteligencia artificial a los sistemas militares promete analizar cantidades enormes de información, detectar amenazas y recomendar respuestas a una velocidad imposible para una persona. Precisamente ahí reside también el riesgo.
Un sistema puede interpretar una operación como hostil, sugerir una represalia o actuar sobre una red crítica en cuestión de segundos. Si el rival responde mediante otro mecanismo automatizado, el margen para que una persona compruebe qué está sucediendo puede reducirse rápidamente.
Los expertos que participan en las conversaciones entre estadounidenses y chinos advierten de la posibilidad de que las respuestas automáticas provoquen una escalada antes de que exista tiempo suficiente para recurrir a los canales diplomáticos tradicionales. Entre sus propuestas figura por ello un mecanismo directo de comunicación para incidentes relacionados con IA, una especie de versión tecnológica de los canales de crisis utilizados durante la Guerra Fría.
La cuestión está adquiriendo peso también fuera de estos contactos. El Foro de Xiangshan celebrado esta semana en Pekín, uno de los principales encuentros de seguridad y defensa organizados por China, ha dedicado una parte significativa del debate a los riesgos militares de la inteligencia artificial. Representantes políticos, militares y académicos de numerosos países han reclamado mecanismos internacionales que garanticen que las decisiones sobre el uso de la fuerza sigan bajo supervisión humana.
La línea roja está en mantener a una persona al mando
Detrás del debate aparece una expresión aparentemente sencilla pero difícil de concretar: “control humano significativo”. EEUU y China pueden coincidir en que una máquina no debería decidir por sí sola el lanzamiento de un arma nuclear. Mucho más difícil resulta determinar en qué momento empieza realmente esa decisión. Un algoritmo puede recopilar información, identificar una amenaza, seleccionar posibles objetivos y recomendar una respuesta sin ser quien pulse finalmente el botón.
El problema se repite en la ciberguerra. Las propuestas discutidas por los expertos defienden que los ataques con consecuencias especialmente graves permanezcan bajo control humano y plantean límites a la intervención de sistemas autónomos en infraestructuras críticas.
El debate, por tanto, no consiste únicamente en impedir que una inteligencia artificial “declare una guerra”. La pregunta es cuánto puede automatizarse antes de que la decisión humana termine siendo poco más que la confirmación de una conclusión tomada previamente por una máquina.
El problema de frenar en mitad de una carrera
La dificultad adicional es que esta discusión se produce en plena competición entre las dos mayores potencias de la inteligencia artificial. Washington restringe desde hace años el acceso chino a algunos de los semiconductores más avanzados y considera el liderazgo en IA una cuestión económica y de seguridad nacional. Pekín acelera al mismo tiempo el desarrollo de modelos, chips y sistemas propios. La rivalidad tecnológica estará previsiblemente entre los asuntos que rodeen el encuentro entre Donald Trump y Xi Jinping previsto para el 24 de septiembre en Washington.
Ambos países empiezan, sin embargo, a reconocer que hay riesgos que no desaparecen porque uno de ellos consiga ventaja. El secretario del Tesoro estadounidense, Scott Bessent, ha señalado esta semana que Washington está dispuesto a discutir con Pekín riesgos compartidos relacionados con la inteligencia artificial. Ahí aparece la principal contradicción. Estados Unidos teme que imponer demasiados límites ralentice su desarrollo frente a China. Pekín tampoco tiene incentivos para aceptar restricciones que puedan dejarle en desventaja. La seguridad exige cooperación justo cuando la lógica de la competición empuja en dirección contraria.
Hay además una diferencia fundamental con la Guerra Fría clásica. Buena parte de la tecnología que puede terminar condicionando una crisis militar no nace exclusivamente dentro de estructuras estatales. Su desarrollo depende también de empresas privadas que concentran modelos, chips, centros de datos, talento e infraestructuras difíciles de sustituir. OpenAI, Anthropic, Google o Meta ocupan una posición central en el ecosistema estadounidense. Nvidia controla una parte esencial del hardware utilizado para entrenar y ejecutar los modelos más avanzados. En China, Huawei, Alibaba y otros grandes grupos tecnológicos desempeñan un papel igualmente relevante en el esfuerzo por reducir la dependencia exterior y construir capacidades propias.
Eso complica cualquier intento de establecer límites. Un acuerdo entre Washington y Pekín puede fijar principios generales sobre el uso militar de la inteligencia artificial, pero su aplicación depende en buena medida de compañías que desarrollan la tecnología a una velocidad mucho mayor que la diplomacia. También obliga a resolver cuestiones delicadas sobre acceso a los modelos, supervisión externa, secretos comerciales o intercambio de información con los gobiernos.
La tensión ya está presente en Estados Unidos. Algunas compañías han defendido mecanismos de evaluación independientes y mayores salvaguardas para los sistemas más avanzados, mientras otras sostienen que imponer demasiadas obligaciones puede ralentizar la innovación en plena competición con China. El argumento geopolítico aparece así también dentro del debate regulatorio doméstico: cualquier restricción puede ser presentada como una ventaja concedida al rival.
El problema deja entonces de ser únicamente si EEUU y China son capaces de pactar unas reglas mínimas. También consiste en saber hasta qué punto pueden hacerlas cumplir cuando quienes construyen buena parte de esos sistemas son actores privados con intereses, calendarios y prioridades propias. El viejo teléfono rojo conectaba directamente a dos gobiernos que controlaban sus respectivos arsenales estratégicos. La inteligencia artificial introduce un escenario más disperso. Washington y Pekín pueden intentar fijar líneas rojas, pero antes tendrán que responder a una pregunta más incómoda: quién controla realmente una tecnología cuyo poder ya no pertenece únicamente a los Estados.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
