Anthropic ha anunciado que ha bloqueado cinco casos de uso de sus modelos de inteligencia artificial vinculados a investigaciones biológicas que, a juicio de la compañía, podían contribuir a hacer más peligrosos determinados patógenos o facilitar otros desarrollos susceptibles de tener un uso armamentístico.
La compañía ha detallado estos episodios en un nuevo informe sobre usos indebidos de sus modelos, en el que analiza también actividades relacionadas con ciberseguridad, armas convencionales y operaciones de influencia. Los cinco casos relacionados con biología fueron detectados durante este 2026 y afectaron a usuarios que accedían a Claude desde países en los que Anthropic no ofrece directamente sus servicios y para hacerlo recurrieron a mecanismos como revendedores o cuentas falsas.
No obstante, la compañía admite que no puede determinar en todos los casos si quienes utilizaron sus sistemas perseguían un objetivo malicioso o desarrollaban investigaciones científicas legítimas.
Algunas de las investigaciones detectadas tienen un posible doble uso: pueden contribuir al desarrollo de vacunas, tratamientos o medicamentos, o, por el contrario, estos mismos conocimientos pueden emplearse para aumentar la peligrosidad de un patógeno o desarrollar una capacidad biológica dañina.
Casualmente, la publicación del informe se produce un día después de que un joven empleado de Anthropic dimitiera y alertara públicamente en la red social X del peligro de extinción civilizatoria para la humanidad que puede provocar la Inteligencia Artificial en los próximos años. Una de las opciones es, precisamente, este uso malicioso por parte de humanos.
Los casos analizados
Uno de los casos examinados por Anthropic involucró a un científico vinculado a un instituto de investigación militar, quien empleó Claude para elaborar una solicitud de financiación enfocada en el estudio del virus del chikungunya.
De acuerdo con el informe, el proyecto contemplaba la creación de mutaciones del virus a través de infecciones sucesivas en animales vivos. El propósito era analizar determinadas modificaciones que podían hacer que el virus aumentara su peligrosidad.
Anthropic señala que este tipo de investigaciones presenta una evidente ambivalencia. Por un lado, podrían ayudar a avanzar en el desarrollo de vacunas y tratamientos más eficaces contra el chikungunya. Sin embargo, los mismos métodos también podrían aprovecharse para conseguir un patógeno con un mayor nivel de peligrosidad.
El informe menciona asimismo otros casos en los que sus modelos fueron empleados en investigaciones relacionadas con el incremento de la transmisibilidad de la gripe aviar, el estudio de variantes del virus de la viruela capaces de ofrecer una mayor resistencia frente a la respuesta del sistema inmunitario o la creación de un catálogo de toxinas obtenidas de animales venenosos.
En este último supuesto también existe un posible doble uso. Aunque el conocimiento sobre estas toxinas puede contribuir a la creación de nuevos medicamentos, también existe la posibilidad de que dicha información sea utilizada con objetivos perjudiciales.
Pero el informe no se limita únicamente a abordar los riesgos relacionados con la biología. Anthropic afirma que también ha identificado usos de sus sistemas vinculados con armas convencionales, operaciones de influencia y actividades relacionadas con la ciberseguridad.
Uno de los casos recogidos en el documento hace referencia a un actor localizado en el norte de Yemen, que recurrió a Claude para recibir ayuda relacionada con el desarrollo de diferentes tipos de sistemas armamentísticos.
Según explica la compañía, los responsables de los distintos casos examinados presentan perfiles muy variados. Entre ellos se encuentran desde actores que cuentan con el respaldo de determinados Estados hasta organizaciones criminales y personas que actúan movidas por motivaciones políticas.
Añadir ElPlural.com como fuente preferida de Google.
Mantente informado con las últimas noticias de actualidad.
