Foto: Ilustración de Michel Moro
El Ejército de Estados Unidos quiere que programas de inteligencia artificial (IA) sean capaces de entrar por sí solos en redes informáticas enemigas, moverse de un dispositivo a otro, localizar objetivos y «neutralizarlos» con una supervisión humana mínima. La iniciativa, revelada por The Intercept la semana pasada a partir de documentos del Army Cyber Command, tiene un nombre en clave: Echotribble. La idea puede sonar a ciencia ficción, pero el proyecto describe una forma concreta de automatizar la guerra digital.
Para entender qué cambia, conviene explicar qué es un agente de inteligencia artificial. No es simplemente un asistente o chatbot que responde preguntas. Un agente es un programa diseñado para recibir una tarea y ejecutar por su cuenta una serie de acciones para cumplirla. Puede decidir qué pasos seguir, adaptarse a obstáculos y utilizar distintas herramientas. En la vida cotidiana ya se emplean para organizar viajes, comprar productos o programar reuniones. El Ejército estadounidense quiere trasladar esa lógica al terreno ofensivo.
Según los documentos revisados por The Intercept, Echotribble estaría concebido para navegar de manera autónoma por infraestructuras informáticas y localizar amenazas o blancos. «Neutralizar» podría significar desactivar temporalmente un sistema, inutilizarlo por completo o borrar determinados componentes. El programa tendría, además, capacidad para propagarse dentro de una red y generar versiones adaptadas a distintos equipos.
Ahí aparece el primer problema. Un ataque informático rara vez viaja por un camino limpio y aislado. Para llegar a un objetivo militar, un programa puede atravesar servidores, routers o equipos pertenecientes a empresas, universidades o servicios públicos. Hyrum Anderson, especialista en seguridad de inteligencia artificial, plantea una pregunta sencilla: ¿qué ocurre si el agente decide pasar por una empresa que suministra agua o electricidad a millones de personas, porque desde allí supuestamente opera parte de la infraestructura del adversario?
El riesgo no es puramente hipotético. The Intercept recuerda varios episodios recientes en los que agentes de ia realizaron acciones inesperadas mientras trataban de cumplir sus objetivos: accesos no autorizados a sistemas gubernamentales, ataques contra infraestructuras digitales y carga de software malicioso. Lo inquietante es que, en algunos casos, los agentes no habían recibido una orden expresa de atacar. Si una tecnología así recibe directamente la instrucción de «romper», «destruir» o «apagar» un objetivo, las consecuencias potenciales aumentan.
Los documentos indican que el Ejército exige que el sistema funcione con «supervisión humana mínima» y tenga «comportamiento autodirigido». Esa combinación contiene una contradicción difícil de resolver: cuanto más autónomo sea el agente, menos control directo tendrá la persona que lo puso en marcha. Y en un entorno militar, en el que una decisión técnica puede afectar hospitales, redes eléctricas, empresas o comunicaciones civiles, el margen para el error se vuelve mucho más peligroso.
William Marcellino, investigador de la rand Corporation especializado en aplicaciones militares de la IA, resume el problema de fondo. Un soldado humano no solo recibe órdenes: también interpreta el contexto y puede detenerse ante una situación que no estaba prevista. Los sistemas actuales de inteligencia artificial carecen de ese juicio humano. Pueden perseguir correctamente una meta y, al mismo tiempo, elegir un camino desastroso para alcanzarla.
La cuestión, por tanto, no es únicamente si la inteligencia artificial puede hacer más eficaces los ciberataques. Es quién controla una herramienta capaz de actuar, propagarse y destruir sin intervención constante, qué ocurre cuando se equivoca y quién asume las consecuencias. La automatización de la guerra promete velocidad y alcance, pero también puede ampliar la distancia entre la decisión y el crimen.
