Las armas autónomas que aparecían en las películas de ciencia ficción ya son una realidad y están siendo usadas en la guerra de Rusia en Ucrania. El ejemplo más concreto ocurrió el 6 de julio pasado en un ataque de las fuerzas del Kremlin contra la ciudad de Zaporiyia, en el sureste de Ucrania, y que dejó tres personas muertas.

El ataque, dado a conocer por el diario The New York Times, fue perpetrado por un dron guiado por un sistema experimental de inteligencia artificial y no por un piloto humano. “Esto supone un riesgo para el mundo entero”, dijo al periódico el coronel Serhiy Minaiev, comandante de las defensas aéreas de Zaporiyia. “En pocos años, viviremos en una película de ‘Terminator’. No es ninguna broma. Las máquinas están tomando decisiones para atacar”, añadió.

El desarrollo de esta tecnología ha generado cuestionamientos sobre la dimensión humanitaria y ética. En este sentido, el jefe de las Naciones Unidas y el director de la Cruz Roja advirtieron en la semana que las armas autónomas capaces de matar personas sin intervención humana podrían utilizarse pronto en conflictos y pidieron negociaciones urgentes para restringir su uso.

“Estamos peligrosamente cerca de cruzar una línea roja moral: el ataque autónomo de máquinas contra seres humanos”, declaró el secretario general de la ONU, António Guterres, en una declaración conjunta con la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric.

“Deben comenzar ya las negociaciones para adoptar urgentemente un instrumento jurídicamente vinculante que regule los sistemas de armas autónomas con prohibiciones y restricciones claras”, afirmaron.

La próxima semana, los Estados se reunirán en Ginebra para debatir posibles nuevas normas ante la creciente preocupación por el papel de las armas semiautónomas asistidas por inteligencia artificial que se han utilizado en conflictos en Ucrania, Sudán, Gaza, Irán y el Golfo Pérsico.

El rápido avance de la inteligencia artificial (IA) ha revolucionado la tecnología militar, propiciando el desarrollo de Sistemas de Armas Autónomas Letales (LAWS), o “robots asesinos”, como también se les conoce. Se trata de una clase especial de sistemas de armas que utilizan conjuntos de sensores y algoritmos informáticos para identificar un objetivo de forma independiente y emplear un sistema de armas integrado para atacarlo y destruirlo sin control humano manual.

Aunque estos sistemas aún no se encuentran en una fase de desarrollo generalizado, se cree que permitirían operaciones militares en entornos con comunicaciones degradadas o negadas, donde los sistemas tradicionales podrían no ser capaces de operar.

Esta integración de la IA en los sistemas militares no solo mejora la eficacia de las operaciones de combate, sino que también transforma la estrategia militar OODA (Observar, Orientar, Decidir y Actuar), donde puede utilizarse en todos los procesos de toma de decisiones militares, incluyendo inteligencia, vigilancia y reconocimiento (ISR).

Esto implica un cambio del soporte informático tradicional (como los cálculos balísticos) a la participación de la IA y a la toma de decisiones y operación autónomas en todas las fases de la acción militar, indicó la experta surcoreana, Euysun Hwang, en un ensayo publicado por la Universidad de Stanford.

“Muy pronto, los sistemas autónomos dejarán de operar individualmente; con el tiempo, formarán unidades del tamaño de pelotones o incluso batallones que compartirán información y se coordinarán sin intervención humana. Y quien espere la aprobación humana antes de actuar, perderá”, escribieron en un artículo para la revista Foreign Affairs, el exjefe de la CIA David Petraeus y el experto ucraniano Isaac Flanagan.

En este contexto, grandes potencias tecnológicas como Estados Unidos, China y Rusia ya han acelerado el desarrollo de tecnologías de IA militar en preparación para la guerra del futuro y las han incorporado a sus estrategias de defensa. Por ejemplo, en 2018, Estados Unidos publicó la Estrategia de IA del Departamento de Defensa, que destacaba el papel de la inteligencia artificial en el ámbito militar. De manera similar, China y Rusia han declarado la adopción de tecnologías de IA en todos los sectores de la defensa y la seguridad nacional.

Un lugar donde se ha puesto a prueba es en Ucrania, que ha debido usarlos para su sobrevivencia. El think tank Centro para Estudios Internacionales Estratégicos (CSIS) señaló en un informe de junio pasado que una misión de ataque típica ucraniana o rusa requiere un piloto por cada dron del conjunto, un operador que supervisa los sensores y las transmisiones de guerra electrónica, un ingeniero que prepara la carga útil y un comandante que da la orden de ataque: entre tres y seis personas para un solo dron con visión en primera persona que impacta un objetivo. El software es la única solución.

El software Delta

Ucrania cuenta con alrededor de 400 tipos de drones y utiliza cientos de miles cada mes. Sin una capa común que los integre, el sistema sería ingobernable. Esa capa es el software ucraniano de gestión del campo de batalla conocido como Delta.

Incluso teóricos militares rusos han reconocido repetidamente las ventajas de este software, señalando a Delta específicamente como una clara ventaja ucraniana. Moscú ha comenzado urgentemente a desarrollar su propio equivalente en un sistema llamado Svod, junto con el complejo Glaz/Groza, de uso civil, que ahora está integrado en las unidades de drones rusas.

Hay dos aspectos que merecen ser destacados en la forma en que ambas partes llegaron a esa situación. El CSIS indicó que ambos sistemas se construyeron de abajo hacia arriba, a partir de las necesidades de las unidades terrestres en lugar de una visión de mando y control jerárquica. Ambos sistemas integraron primero sensores y plataformas modernas, y solo después comenzaron a utilizar sistemas heredados.

En el 80% de las misiones de ataque, el software que coordina los sistemas no tripulados y lo integra todo no es una capacidad de apoyo, sino el sistema de combate en sí. Quien tenga la mejor integración gana más enfrentamientos, y más rápido, sostuvo el think tank.

El desafío para EE.UU.

“Ucrania y Rusia ya han demostrado que el camino pasa por software diseñado para el futuro no tripulado, no adaptado del pasado tripulado. Estados Unidos cuenta con el talento, la industria y el capital necesarios para desarrollar esa capa a gran escala. Lo que le ha faltado es la estructura del esfuerzo: una decisión clara de apostar por la autonomía como futuro de la guerra, una única institución con el mandato de orquestar tácticamente la operación en un plazo inferior a una década, y una definición de un sistema de armas autónomas letales que abarque el software donde se toma la decisión de atacar, en lugar de limitarse a la munición que la ejecuta”, añadió.

En este sentido, existen cuestionamientos sobre si Estados Unidos se encuentra preparado para estos desafíos. “Estados Unidos sigue teniendo el Ejército más poderoso del mundo, pero aún no está preparado para una nueva era bélica definida por estas realidades. Necesita producir más drones e interceptores de bajo costo y adaptarse mejor a las exigencias de la competencia en inteligencia artificial. Del mismo modo que el Ejército no puede acumular poder aéreo sin construir aviones ni dominar los mares sin buques, no puede ganar en la era de la IA sin aprovechar los datos, adquirir capacidad informática y aprender a utilizar mejor los modelos de IA. Para mantener la ventaja en el campo de batalla, el Ejército estadounidense debe encontrar la manera de asimilar eficientemente estas nuevas tecnologías”, escribió Paul Scharre, vicepresidente ejecutivo del Centro para una Nueva Seguridad Estadounidense, en la revista Foreign Affairs.

“Esto requerirá superar las barreras culturales y burocráticas dentro de las Fuerzas Armadas, forjar relaciones más estrechas con el sector privado y encontrar nuevas formas de evaluar el poder militar. Pero si el Ejército estadounidense no se adapta de esta manera, se encontrará cada vez más igualado en el campo de batalla. Tras décadas de dominio asegurado por su ventaja tecnológica, Estados Unidos se verá debilitado por haber dejado escapar peligrosamente su liderazgo”, concluyó.