Un chatbot usado por un analista militar interpretó erróneamente el cargamento de un buque chino como componentes de armas nucleares, lo que llevó a preparar una operación de abordaje que se frenó minutos antes de ejecutarse. (Fuente: CNN).
Un incidente crítico, no un simulacro, ni un escenario, ni un juego de guerra, sino un hecho real, en el que el ejército de Estados Unidos estuvo cerca de provocar un conflicto armado con China ocurrió, entre todos los motivos posibles, por una alucinación de inteligencia artificial.
Según reportó en exclusiva CNN, los hechos ocurrieron cuando un analista del Comando de Operaciones Especiales del Pacífico, con sede en Hawái, utilizó un chatbot para examinar el manifiesto de un buque chino en aguas de Oriente Medio. La herramienta de IA combinó información de fuentes abiertas con inteligencia de señales clasificada, e identificó erróneamente que el buque transportaba componentes para un programa de armas nucleares.
El analista no sospechó de las conclusiones de la IA y, al contrario, volvió a utilizarla para empaquetar esas conclusiones en un informe de inteligencia estandarizado, un formato común que genera alta confianza entre los mandos militares. En esa forma, habitual y usualmente digna de confianza, el informe se difundió por toda la estructura de las Fuerzas Armadas.
Con un reporte de inteligencia que sostenía que China estaba moviendo componentes para armas nucleares en Oriente Medio, las Fuerzas Armadas de Estados Unidos prepararon una operación de interceptación. Fuentes reservadas le confirmaron a CNN que personal militar armado se preparaba para abordar el barco, y que varios aviones de combate que ya estaban en el aire fueron dirigidos hacia la zona.
Pero justo antes de ejecutar el abordaje, otros oficiales examinaron a fondo el informe y descubrieron que la IA había malinterpretado el cargamento real de la embarcación. Una de las fuentes calificó el informe de completamente falso y afirmó que el incidente casi inicia una guerra entre ambas potencias. Un militar retirado familiarizado con los sistemas de IA usados por analistas de inteligencia le dijo a CNN que las herramientas internas son en su mayoría copias de las cosas comerciales con retoques superficiales.
No está claro si el chatbot utilizado era un producto disponible comercialmente o una herramienta diseñada específicamente para el gobierno estadounidense. De cualquier forma, la falla ocurre en un momento en que el Pentágono acelera la adopción masiva de IA bajo la Estrategia de Aceleración de Inteligencia Artificial del secretario de Defensa, Pete Hegseth, y pone en evidencia que la integración descentralizada de herramientas de IA todavía carece de criterios unificados de verificación, y que depender de datos automatizados para la selección de objetivos militares en tiempo real conlleva riesgos considerables.
Otra de las fuentes consultadas por CNN señaló que el uso de IA para seleccionar objetivos es definitivamente algo que está aumentando, y que no hay una guía real sobre cómo mantener a un humano en el proceso para evitar víctimas civiles o fratricidios. Pese a este error que casi desencadena un conflicto armado, el Departamento de Defensa continúa acelerando la integración de estas tecnologías en sus operaciones habituales.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.