La ONU no sólo está atendiendo a los discursos de líderes internacionales y sus percepciones sobre el orden mundial en su 81º Asamblea General, sino también a otras cuestiones de mismo calado que nos competen por igual. Una de las temáticas que más sobrecoge es el auge y el alcance expansivo que está ganando la inteligencia artificial (IA), de la que incluso sus impulsores han puesto en alerta al Consejo de Seguridad del organismo mundial.
Los máximos responsables de OpenAI, Sam Altman; y de Anthropic, Dario Amodei, han advertido sobre los riesgos que esta herramienta puede suponer para la humanidad, además de que han reclamado poner freno a su desarrollo para potenciar su control y evitar que caiga en malas manos.
“La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época”, ha subrayado Altman.
Una herramienta que, según su relato, no puede declinar en que la humanidad pase a ser autómata, sino que han de ser las personas quienes tomen sus propias decisiones, por lo que la IA debe continuar siendo un instrumento que “potencie las capacidades de las personas”.
Al tiempo, consideró que caer en el catastrofismo en torno a esta cuestión sería un mensaje contradictorio y una “trampa”, deslizando así que “dejarse arrastrar por los extremos no ayudará a resolver con éxito los desafíos que tenemos por delante”.
Amodei, por su parte, diferenció los riesgos entre el uso indebido de la IA y la pérdida de su control. Reconoció en este punto el “alcance global” de esta tecnología y, por ende, que es “o suficientemente grave como para considerar que constituyen temas importantes” para la ONU. De esta manera, ha reclamado que prime su uso consciente “a un ritmo que garantice que la seguridad evoluciona a la par de las capacidades tecnológicas para todos los actores del sector”.
El principal mandatario de Anthropic ha instado así tanto a las empresas que trabajan con IA como a los gobiernos mundiales a comprometerse en tres ejes vertebrales: integrar evaluadores externos, establecer estándares dentro de la industria y fijar normas internacionales para todos los países. “Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente”, ha remarcado.
La ONU percibe riesgo para los derechos humanos
Por su parte, como posición mediadora en el debate, el secretario general de la ONU, Antònio Guterres, ha puntualizado que “el peligro no reside en la nueva tecnología”, sino en que se practique “sin rendición de cuentas”: “Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro”.
Previamente a este debate, lo cierto es que a mediados del mes de septiembre el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, ya advirtió de que los Derechos Humanos están “en riesgo” de ser más vulnerados ante el auge y descontrol de estas herramientas, por lo que reclamó implementar medidas urgentes y de calado para “trazar un camino de acción para gobernar los modelos avanzados de IA de frontera, fundamentado en el Derecho Internacional de los Derechos Humanos”.
A ojos del alto comisionado, pese a las bondades que sí ha aportado la IA en los últimos años, también ha venido agravando la discriminación en redes sociales, erosión de la privacidad a gran escala, automatización de servicios esenciales perjudicando a ciertos colectivos o el incremento de las campañas de desinformación y los bulos.
Advirtió en estos términos que las próximas generaciones enfrentarán “las consecuencias de las decisiones que se están tomando sobre esta materia sin haber tenido voz en ellas” y, por ende, se les ha de garantizar “que esas decisiones se tomen de forma abierta, teniendo en cuenta sus derechos”.
Modelos antagónicos: choque entre China y Estados Unidos
Como cabía de esperar, bajo las percepciones de los dos bloques mundiales, se han avivado las diferencias en el debate de este jueves en la ONU. Las representaciones de China y Estados Unidos han expuesto posturas antagónicas que parecen no encontrar un punto de entendimiento.
Por un lado, el asistente presidencial y director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, ha defendido que “no es motivo para detener su desarrollo ulterior ni para restringirla mediante nuevas estructuras de gobernanza mundial”. En línea con su presidente, Donald Trump, ha rechazado “totalmente cualquier intento de establecer un esquema globalista de control”.
A la contra, Fu Cong, de la parte china, ha instado a las grandes empresas a situarse en el papel de la responsabilidad sobre su uso, mientras que a los Estados adoptar una postura de cooperación: “La IA es un patrimonio compartido de toda la humanidad y no debe convertirse en un juego de países y personas ricos”, ha defendido.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
