Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
Los principales gigantes de la Inteligencia Artificial han sellado ante Donald Trump un compromiso para reforzar la seguridad de sus modelos y establecer mecanismos de control sobre una tecnología cuyo desarrollo avanza a una velocidad que también está generando advertencias dentro del propio sector. Anthropic, OpenAI, Google, xAI, Meta y Nvidia han suscrito el denominado 'Compromiso Conjunto sobre Responsabilidades en la Frontera Tecnológica', un acuerdo de carácter voluntario que deja en manos de las compañías buena parte de la supervisión.
El documento establece que cada empresa será responsable de desarrollar sus sistemas de forma segura y de generar confianza entre sus clientes y el público. Para ello, las compañías se comprometen, según han expuesto en este pacto, a establecer procesos y controles internos destinados a comprobar que sus tecnologías funcionan según lo previsto y a detectar y corregir rápidamente cualquier problema.
El pacto, que deja en manos de las empresas la manera en la que se abordan los riesgos y límites de esta tecnología, contempla cuatro niveles de supervisión. El primero corresponde a los controles internos, con especial atención a la ciberseguridad y a la prevención de amenazas químicas y biológicas. A continuación, las empresas deberán establecer mecanismos de vigilancia interna y someter sus sistemas a auditorías externas. Finalmente, un comité independiente tendrá que supervisar los resultados de todo este proceso.
Además, las seis compañías se comprometen a mantener una colaboración periódica para establecer normas y compartir mejores prácticas destinadas a reforzar la seguridad de sus sistemas. El propio documento deja abierta la posibilidad de que, en el futuro, algunas de estas medidas puedan incorporarse a leyes o regulaciones, aunque por ahora el acuerdo no tiene carácter legalmente vinculante.
Un acuerdo en plena carrera con China: Trump no quiere perder contra los asiáticos por nada del mundo
El compromiso llega después de un encuentro en la Casa Blanca en el que participaron algunos de los principales responsables de la industria tecnológica. Entre ellos estuvieron Dario Amodei, de Anthropic; Greg Brockman, presidente de OpenAI; Elon Musk, responsable de xAI; Sundar Pichai, consejero delegado de Google; Jensen Huang, de Nvidia; y Mark Zuckerberg, de Meta. También acudieron otros dirigentes tecnológicos como Satya Nadella, de Microsoft, y Jeff Bezos, fundador de Amazon. El acuerdo fue finalmente firmado por Amodei, Brockman, Musk, Pichai, Huang y Zuckerberg.
Trump ha situado el desarrollo de la IA dentro de la competición tecnológica con China y ha defendido que Estados Unidos debe mantener el liderazgo en este campo, dejado claro que hará todo lo necesario por mantener al país norteamericano por delante del gigante asiáticco en la carrera por liderar la Inteligencia Artificial. El presidente estadounidense ha rechazado frenar el desarrollo de estos sistemas y ha comparado el impacto que pueden llegar a tener con el de la Revolución Industrial o internet.
La apuesta por la autorregulación coincide, sin embargo, con una sucesión de incidentes que han puesto el foco sobre la capacidad de las compañías para controlar sus propios modelos. OpenAI ha reconocido recientemente que sus agentes autónomos lograron sortear controles de seguridad y acceder a sistemas externos durante distintas pruebas. En Australia, uno de estos sistemas accedió sin autorización al portal de estadísticas de Medicare, aunque las autoridades aseguraron que no se consultaron datos médicos individuales.
La propia Anthropic ha advertido a sus potenciales inversores de los riesgos asociados al desarrollo de modelos cada vez más avanzados. En la documentación presentada de cara a su salida a Bolsa, la compañía señala que estos sistemas podrían llegar a plantear riesgos "catastróficos o existenciales" para la humanidad y contempla comportamientos como resistirse al apagado, manipular información o actuar de manera imprevisible.
