¿Armas biológicas con IA? Anthropic afirma el freno a posibles intentos para su desarrollo
Dayana Guzmán 
La empresa Anthropic aseguró frustrar varios intentos de científicos este año, que incluian el uso de su tecnología para investigaciones que podrían contribuir al desarrollo de armas biológicas. Las afirmaciones coinciden con el creciente temor de los expertos por la amenaza que la IA representa para la seguridad pública.
La startup ofreció cinco ejemplos de casos en los que algunos investigadores eludieron los controles e intentaron ocultar el propósito de sus investigaciones para evitar las medidas de seguridad. Los casos involucraron a usuarios de países a los que la empresa prohíbe el acceso a sus modelos, como Rusia, China e Irán.
«Esperamos que, al compartir esta información, se genere un debate dentro de la industria de la IA y con los gobiernos sobre los riesgos biológicos y la mejor manera de combatirlos», afirmó Anthropic en un informe sobre los intentos de utilizar sus modelos para actividades maliciosas.
Los casos concretos sobre el posible uso indebido biológico facilitados por la empresa incluían el de un investigador de una «región sin apoyo» que «dedicó semanas a planificar» experimentos relacionados con la gripe aviar utilizando a Claude, el modelo de IA de Anthropic. La empresa explicó que sus filtros de seguridad restringían el trabajo a sus modelos menos potentes.
Insistió en que no podía asegurar que los científicos mencionados en sus ejemplos tuvieran la intención de causar daño. La misma información necesaria para crear armas biológicas también podría utilizarse para desarrollar una vacuna.
Anthropic declaró el bloqueo las cuentas mencionadas en el informe, pero no reveló los nombres de las instituciones de investigación ni los países donde ocurrieron los incidentes.
Polémica en la IA
La polémica sobre la seguridad de la IA se desató a principios de esta semana cuando Jacob Coxon dimitió de la empresa afirmando que los empleados «creen firmemente que [la IA] podría matarnos a todos a finales de década».
La preocupación por esta tecnología comenzó a crecer a principios de año con el lanzamiento de modelos avanzados como Mythos, de Anthropic. OpenAI también causó alarma en julio cuando afirmó que sus modelos habían hackeado de forma autónoma al grupo de IA Hugging Face.
Existe un consenso cada vez mayor entre los ejecutivos de IA y los investigadores de bioseguridad sobre la necesidad de proteger y regular el uso de esta tecnología en biología a medida que los modelos se vuelven más avanzados. Los expertos temen cada vez más que la IA pueda ser utilizada por grupos terroristas, actores estatales o atacantes solitarios para diseñar armas biológicas, generar virus o liberar patógenos dañinos ya existentes.
Pero incluso si la IA pudiera utilizarse para diseñar un arma biológica teórica, persisten posibles obstáculos, como la capacidad de fabricarla en la práctica y los recursos necesarios para ello. La ciberseguridad es una de las mayores preocupaciones para los defensores de la seguridad.
El informe de Anthropic sobre el mal uso de su tecnología detalló incidentes que incluyen «una red de aplicaciones de citas falsas diseñadas para estafar a los usuarios y sistemas de vigilancia creados para identificar y controlar a disidentes».
El laboratorio también aportó más detalles sobre las acusaciones de que siete laboratorios con sede en China, incluidos Moonshot y DeepSeek, intentaron replicar su tecnología mediante un proceso conocido como destilación. Anthropic afirmó haber detectado «métodos cada vez más sofisticados para eludir nuestras defensas y aprovechar las capacidades de los modelos de vanguardia estadounidenses».
T/Expansión
