El microbiólogo y experto en bioseguridad David Relman quedó “helado” frente a su computador cuando un chatbot de IA le explicó cómo planear una masacre utilizando agentes biológicos, según reveló un reportaje de The New York Times.

Relman, quien fue contratado para evaluar un sistema antes de su lanzamiento público, relató que el bot no solo describió cómo modificar un patógeno para hacerlo resistente a tratamientos.

También señalaba cómo liberarlo en un sistema de transporte público, identificando vulnerabilidades específicas.

“Respondía a preguntas que ni siquiera se me habían ocurrido, con una astucia y una malicia que me resultaron escalofriantes”, afirmó el científico.

El caso no es aislado. De acuerdo con el reportaje, distintos expertos han recopilado más de una decena de conversaciones con chatbots que detallan procesos sensibles.

Desde la compra de material genético hasta la conversión de este en armas y su eventual despliegue. Incluso, algunos sistemas sugirieron formas de evadir la detección.

El riesgo de más armas biológicas

Uno de los científicos que ha estudiado este fenómeno es Kevin Esvelt, del Instituto Tecnológico de Massachusetts (MIT), quien compartió ejemplos en los que modelos como ChatGPT, Gemini o Claude entregaban información potencialmente peligrosa.

En uno de ellos, un chatbot explicó cómo utilizar globos meteorológicos para dispersar material biológico sobre una ciudad; en otro, clasificó patógenos según su impacto económico o sanitario.

Las preocupaciones no se limitan a la calidad de las respuestas, sino también a su accesibilidad.

Según los expertos citados por The New York Times, la IA podría ampliar el número de personas capaces de causar daño, al simplificar procesos que antes requerían conocimientos altamente especializados.

A esto se suma un ecosistema donde fragmentos de ADN sintético pueden comprarse en línea y tareas científicas pueden subcontratarse a laboratorios privados.

Pese a ello, la amenaza no es inmediata en todos los casos.

Varios investigadores advierten que la creación de un arma biológica efectiva sigue siendo un proceso complejo que exige experiencia práctica.

“¿Creen que una persona sin conocimientos técnicos podría desmontar un reloj suizo y volver a montarlo?”, planteó el virólogo Gustavo Palacios, subrayando la dificultad técnica involucrada.

Sin embargo, el riesgo aumenta cuando estas herramientas caen en manos de actores experimentados.

Jens Kuhn, experto en armas biológicas, señaló que uno de los principales desafíos no es crear el virus, sino convertirlo en un arma, un aspecto en el que la IA podría ofrecer apoyo logístico relevante.

¿Qué dicen las tecnológicas sobre esto?

Las propias empresas tecnológicas han reconocido el problema.

Firmas como OpenAI, Google y Anthropic aseguran estar mejorando sus sistemas para limitar respuestas peligrosas.

No obstante, el reportaje indica que los modelos siguen siendo vulnerables a técnicas como el “jailbreaking”, que permite a los usuarios eludir restricciones de seguridad.

Además, versiones antiguas de estos sistemas —con menos filtros— continúan disponibles, lo que abre nuevas brechas.

Para algunos expertos, las actuales medidas son insuficientes. Cassidy Nelson, investigadora en seguridad tecnológica, las comparó con “una endeble valla de madera fácil de vulnerar”.

El debate también ha llegado a la industria. Dario Amodei, CEO de Anthropic, advirtió que la biología representa el mayor riesgo dentro del desarrollo de la IA.

“La biología es, con mucho, el área que más me preocupa, debido a su enorme potencial destructivo y a la dificultad de defenderse de él”, escribió.

Pese a las advertencias, otros especialistas llaman a no perder de vista los beneficios.

La inteligencia artificial ya ha demostrado su capacidad para acelerar descubrimientos médicos y diseñar nuevas proteínas, lo que podría traducirse en tratamientos contra enfermedades complejas.