En los últimos años el planeta entero ha asistido -y sigue haciéndolo- al fugaz avance y desarrollo de nuevas tecnologías que, por suerte o por desgracia, suponen un aspecto fundamental en el desarrollo de las empresas y, por ende, de las economías del mundo. En ello, la irrupción y posterior evolución de la inteligencia artificial (IA) ha jugado un papel protagonista brindando a las empresas oportunidades de desarrollo nunca antes vistas y a la sociedad en general la posibilidad de exprimir al máximo el potencial de la tecnología en beneficio propio.
Sin embargo, de ello se desprende también un profundo y delicado debate que aborda los límites de esta inteligencia artificial y la cara menos visible de ella, como son los riesgos que se pueden desencadenar de sus aplicaciones. En este punto, el reciente aterrizaje en el panorama tecnológico de Claude Mythos, la nueva IA de Anthropic, ha puesto sobre la mesa los principales peligros de estas tecnologías. ¿Pueden desafiar al conjunto de la población? ¿Hasta qué punto resultan beneficiosas sus aplicaciones? Desde principios de abril, Anthropic ha lanzado esta herramienta que permite detectar fallos de seguridad y vulnerabilidades en la infraestructura software de grandes empresas prácticamente imposibles de localizar por el ojo humano. De hecho, uno de los hallazgos más destacados de Mythos se produjo en el sistema OpenBSD que había permanecido oculto durante 27 años.
Sin embargo, aunque inicialmente pueda parecer una herramienta altamente eficaz contra ciberataques, ya que permite detectar fallos con rapidez y poder aplicar una solución antes de que se produzca el hackeo, constituye realmente un arma de doble filo ya que, de caer en manos incorrectas, podría desencadenar consecuencias devastadoras a nivel de ciberseguridad. Precisamente a razón de esto, Anthropic ha limitado su uso a una lista exclusiva de empresas incluidas en un grupo bautizado como Proyecto Glasswing, término que hace referencia a la mariposa de alas de cristal que aprovecha sus alas transparentes para esconderse. Entre las empresas que han recibido acceso a Mythos, figuran Amazon, Apple, Google, Microsoft, Nvidia, CrowdStrike, JPMorgan Chase, Cisco, Broadcom, Palo Alto Networks y la Linux Foundation. Con ello, la empresa dirigida por Dario Amodei, pretende que estos gigantes tecnológicos puedan actuar con rapidez antes de que los hackers se adelanten y aprovechen las debilidades de los sistemas informáticos para generar daños mayores. Además, también tienen acceso la Casa Blanca y Downing Street, en Londres.
No obstante, la polémica que ha despertado esta herramienta responde a que si en vez de caer en manos de cualquiera de las empresas citadas, cae en manos de piratas informáticos, estos podrían acceder a sistemas informáticos de cualquier organización o empresa como hospitales, gestores de sistemas eléctricos o, incluso, sistemas de seguridad de los gobiernos.
Frente a ello, desde la compañía, subrayan que, desde su implantación, “ha identificado miles de vulnerabilidades adicionales de alta y crítica gravedad”. En esta línea, explican que durante las pruebas, Mythos detectó vulnerabilidades que se conocen como “day zero” o “día cero”, que hacen referencia a aquellos fallos que, hasta el momento, eran desconocidos, lo cual también muestra que no existen, por el momento, soluciones para evitar filtraciones de los fallos “día cero”. “Más del 99% de las vulnerabilidades que hemos detectado aún no se han corregido, por lo que sería irresponsable divulgar detalles al respecto”, informó al respecto la empresa el pasado 9 de abril.
La nueva IA de Anthropic, a debate en la Casa Blanca
Antes de que estallaran las primera polémicas en torno a esta nueva IA, desde la Administración de Donald Trump ya había elevado el tono con el veto de la herramienta, al catalogarla como un riesgo para la seguridad nacional. De esta forma, el pasado mes de febrero el Pentágono incluyó a Anthropic en una “lista negra”, lo que hizo que la firma de Amodei llevara a la Administración a los tribunales.
En esta línea, la jueza Lin sostuvo que la declaración de Anthropic como un "riesgo para la cadena de suministro" es "probablemente contraria a la ley, además de arbitraria y caprichosa". Sin embargo, el dirigente de la compañía visitó la pasada semana la Casa Blanca para tratar de acercar posturas, lo que sirvió para que Trump sugiriera un nuevo acuerdo con Anthropic, según detalló en una entrevista en la cadena CNBC. “Tuvimos conversaciones muy productivas con ellos, y creo que están progresando. [...] Son muy inteligentes, y creo que pueden ser de gran utilidad”, abundó
Bruselas advierte de “capacidades cibernéticas sin precedentes”
Por su parte, desde el Ejecutivo comunitario han emitido un comunicado en el que advierten de que la nueva herramienta “presenta capacidades cibernéticas sin precedentes”. A razón de ello, el Banco Central Europeo (BCE) ha preguntado a las entidades que supervisa sobre la seguridad de sus sistemas informáticos, dado que, posiblemente, los bancos europeos podrían ser los próximos en probar Mythos.
“La versión preliminar de Claude Mythos supone un paso importante, pero no es un fenómeno aislado. En los próximos meses, es probable que veamos modelos de la competencia —posiblemente de código abierto— que alcancen o incluso superen las capacidades de Mythos”, sostiene Vivien Mura, responsable de tecnología de Orange Cyberdefense. Por su parte, los ingenieros de Anthropic defienden: “No vemos ninguna razón para pensar que Mythos Preview sea el punto en el que las capacidades de ciberseguridad de los modelos de lenguaje alcancen su límite. La trayectoria es clara”.