La IA pudo ayudar a crear armas biológicas: Anthropic enciende las alarmas

Anthropic, una de las principales compañías de inteligencia artificial del mundo, informó que bloqueó durante este año varios proyectos en los que científicos utilizaron sus modelos para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

La empresa, responsable del asistente Claude, reconoció que no pudo determinar si los usuarios perseguían objetivos legítimos o pretendían crear agentes dañinos. Sin embargo, decidió interrumpir sus actividades ante las posibles consecuencias de permitir que continuaran.

El hallazgo fue revelado en un informe sobre el uso indebido de sus modelos de inteligencia artificial.

¿La inteligencia artificial ayudó a crear armas biológicas?

Anthropic no afirmó que sus sistemas hayan sido utilizados para fabricar una arma biológica concreta ni que los proyectos detectados llegaran a materializarse. La compañía identificó comportamientos y consultas que podían servir para desarrollar conocimientos aplicables a la creación o modificación de patógenos.

El problema es que la investigación biológica tiene un carácter de doble uso: las mismas herramientas que permiten estudiar enfermedades, desarrollar vacunas o anticipar epidemias también pueden aprovecharse para diseñar microorganismos más peligrosos.

Por esa razón, la empresa reconoció que era difícil distinguir entre una investigación científica válida y una posible operación maliciosa.

“No se ve a alguien diciendo, como en una historieta: ‘quiero construir un arma biológica para matar a todo el mundo’”, explicó Jacob Klein, jefe de inteligencia de amenazas de Anthropic, en declaraciones citadas por el diario estadounidense The New York Times.

“Es una situación increíblemente compleja”, agregó.

Anthropic decidió bloquear los proyectos ante la duda

La compañía aseguró que optó por actuar bajo un principio de precaución. Aunque carecía de elementos suficientes para comprobar que se trataba de planes criminales, consideró que ignorar una posible amenaza biológica tendría consecuencias demasiado graves.

Los sistemas de seguridad de Anthropic detectaron patrones de investigación que despertaron sospechas y llevaron a la empresa a cancelar el acceso de los usuarios involucrados.

El reporte no precisó públicamente qué organismos estaban siendo estudiados, quiénes realizaban las consultas ni cuáles fueron las instrucciones específicas que recibieron los modelos. Revelar esos detalles también podría facilitar que otros actores reprodujeran el procedimiento.

Expertos advierten posibles vínculos con programas estatales

Andrew Weber, investigador principal del Council on Strategic Risks, revisó el informe antes de su publicación y calificó los casos como ejemplos “escalofriantes” de desarrolladores de armas biológicas respaldados por Estados que estarían aprovechando las capacidades de los modelos más avanzados.

La evaluación introduce una preocupación adicional: la IA no solamente podría ser utilizada por individuos o grupos criminales, sino también por programas gubernamentales con recursos, laboratorios y personal especializado.

No obstante, la información disponible no permite confirmar públicamente la identidad de algún país ni establecer que se haya producido una nueva arma biológica.

¿Por qué la IA representa un riesgo para la seguridad biológica?

Los modelos más avanzados pueden analizar grandes cantidades de literatura científica, relacionar hallazgos dispersos y orientar a los usuarios durante procesos complejos. En manos de investigadores legítimos, estas capacidades podrían acelerar el descubrimiento de medicamentos y vacunas.

El riesgo aparece cuando la IA reduce las barreras técnicas para actores que buscan causar daño. Un modelo podría ayudar a interpretar investigaciones especializadas, identificar procedimientos, resolver obstáculos experimentales o mejorar sucesivamente una estrategia.

Hasta ahora, la mayoría de las demostraciones sobre este peligro se había desarrollado en entornos controlados o ejercicios de investigación. El reporte de Anthropic apunta a posibles casos fuera del laboratorio, aunque la propia compañía admite que no logró determinar las verdaderas intenciones de los usuarios.

Las advertencias dentro de la industria de la IA

La revelación se conoce en medio de crecientes cuestionamientos hacia las empresas que compiten por desarrollar sistemas cada vez más potentes.

Un día antes de difundirse el informe, Jacob Coxon, exinvestigador de Anthropic y OpenAI, anunció su renuncia y acusó a ambas compañías de avanzar hacia una superinteligencia sin contar con controles suficientes.

“Ninguna de las dos empresas actúa con responsabilidad. Corren directamente hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”, escribió Coxon en su cuenta de X.

Otros especialistas han abandonado compañías de IA durante los últimos años por preocupaciones semejantes. Sus críticas señalan que la competencia comercial podría provocar que los desarrolladores aceleren sus proyectos antes de resolver problemas relacionados con la seguridad, el control y el uso malicioso de los modelos.

Un dilema que va más allá de Anthropic

El posible desarrollo de amenazas biológicas se encuentra entre los escenarios más graves asociados con la inteligencia artificial. A diferencia de una respuesta falsa o de un fraude digital, una falla en este terreno podría provocar daños físicos difíciles de contener.

El informe también expone un dilema para toda la industria: restringir demasiado los modelos puede frenar investigaciones médicas valiosas, pero permitir un acceso prácticamente ilimitado aumenta el riesgo de que sean utilizados para desarrollar patógenos.

Por ahora, Anthropic asegura haber desactivado las cuentas o investigaciones sospechosas. El episodio, sin embargo, muestra que las compañías tecnológicas ya enfrentan casos en los que deben decidir, con información incompleta, si una investigación puede salvar vidas o convertirse en una amenaza para ellas.