La inteligencia artificial estuvo a punto de originar un enfrentamiento militar entre China y Estados Unidos durante los primeros meses de guerra en Irán. Un informe elaborado por un chatbot generó la falsa alarma de que un buque chino llevaba componentes vinculados a un programa de armamento nuclear, lo que llegó a activar una operación militar estadounidense para interceptarlo. El error fue detectado a tiempo y la operación fue cancelada, pero el incidente ha reflejado los riesgos de que los sistemas de inteligencia artificial decidan las decisiones de seguridad y defensa.
Meses después, Donald Trump y Xi Jinping abordaron precisamente este peligro durante su encuentro en Shenzhen. Ambos mandatarios alcanzaron un acuerdo para garantizar que las decisiones militares de mayor envergadura no se automaticen y sigan dependiendo de personas. Así lo anunciaba Scott Bessent, secretario del Tesoro de Estados Unidos, quien presentaba este compromiso como uno de los resultados de la última visita del presidente estadounidense a China.
Con este acuerdo tratan de evitar que un algoritmo pueda desencadenar por su cuenta una escalada militar por una identificación errónea de objetivos, una interpretación equivocada de movimientos militares o una confusión de las señales que puedan derivar en un ataque. La IA seguirá asistiendo a los ejércitos en el análisis de información, la vigilancia o en la detección de amenazas, pero todas las decisiones que impliquen el uso de la fuerza deberán quedar bajo supervisión humana.
El episodio, que ha puesto de manifiesto los riesgos de esta tecnología, se produjo en la pasada primavera, durante la guerra de Irán. Según la reconstrucción publicada por la CNN el pasado septiembre, a partir de varias declaraciones, un analista de las fuerzas especiales del país americano recurrió a un chatbot para elaborar un informe de inteligencia sobre un buque chino que navegaba en Oriente Próximo.
El programa identificó erróneamente la carga de la embarcación y la vinculó a activos dirigidos a un programa de armamento nuclear. La información llegó a los mandos del Pentágono y desencadenó los preparativos para una operación de interceptación. Aviones militares estadounidenses ya se habían despegado y un grupo de soldados armados se disponía a abordar el barco cuando múltiples funcionarios revisaron el informe y detectaron el fallo. La operación fue suspendida antes de efectuarla. No obstante, una de las fuentes que reveló el incidente a la CNN resumió la gravedad de lo sucedido con una advertencia: "Casi provocó una guerra".
Un compromiso político sin garantías
El acuerdo entre Trump y Xi, es principalmente político; ya que no se ha anunciado ningún tratado vinculante, ni mecanismos de verificación, ni obligaciones concretas que impidan a ninguno de estos países continuar desarrollando sus sistemas militares basados en la inteligencia artificial y tampoco supone una renuncia tácita al uso de algoritmos en operaciones de combate.
El 29N se decide mucho. Que te lo cuenten bien.
ElPlural.com no tiene grandes grupos empresariales detrás. Lo que tenemos son lectores. Y en un momento como este, eso lo es todo.
Súmate a nuestro proyecto con una suscripción o donación.
Gracias por tu apoyo.
China lleva ya un tiempo integrando estas tecnologías a sus drones de reconocimiento y a sus sistemas de apoyo para la planificación militar. Estados Unidos, por su parte, ya usa herramientas de la IA para analizar imágenes satelitales, identificar objetivos, gestioanr sistemas no tripulados y procesar grandes cantidades de información.
La rivalidad militar entre Washington y Pekín
El acuerdo destaca por la ascendente competencia militar entre las dos mayores potencias del mundo. EEUU mantiene su amplio despliegue internacional con sus bases militares repartidas por los distintos continentes, grupos de portaaviones y un arsenal nuclear. China, por su parte, ha reforzado su armada ampliando su capacidad de misiles y está modernizando su arsenal atómico.
El principal foco de tensión se encuentra en el Pacífico occidental, donde las fuerzas de ambos países operan cada vez más cerca. Taiwán es uno de los puntos más sensibles de la rivalidad entre Washington y Pekín, un escenario en el que un error de identificación, una respuesta automatizada o una interpretación equivocada de las maniobras del adversario podría desencadenar una escalada de consecuencias imprevisibles. En los últimos meses, representantes de ambos países han trasladado sus propuestas para reforzar la seguridad tecnológica. En septiembre acordaron establecer un canal bilateral de alerta sobre los incidentes relacionados con la inteligencia artificial, mientras que el entendimiento anunciado ahora por Bessent supone un nuevo respaldo político a esas conversaciones.
Paralelamente a la reunión de Trump y Xi en Shenzhen, representantes militares de ambos países se reunieron en Shanghái para abordar mecanismos de prevención de incidentes y mejorar la comunicación entre sus fuerzas. Según el Ministerio de Defensa chino, las delegaciones analizaron medidas para reducir todos los riesgos derivados de sus operaciones militares.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
