Una IA generó una falsa alarma sobre un buque chino y casi provoca un conflicto militar

Una inteligencia artificial generó una falsa información sobre un supuesto cargamento de armas nucleares en un buque chino y estuvo a punto de desencadenar una operación militar de Estados Unidos, según una investigación difundida por CNN y TechCrunch.

HACÉ CLICK AQUÍ PARA UNIRTE AL CANAL DE WHATSAPP DE DIARIO PANORAMA Y ESTAR SIEMPRE INFORMADO

El episodio ocurrió durante el conflicto entre Estados Unidos e Irán, en la primavera del hemisferio norte, cuando un analista de Operaciones Especiales del Ejército estadounidense recurrió a un chatbot de inteligencia artificial para analizar información relacionada con una embarcación china.

El sistema combinó información de fuentes abiertas y datos clasificados y llegó a una conclusión equivocada: identificó que el barco transportaba armas nucleares. El analista incorporó posteriormente esos resultados a un informe y la información fue distribuida por los canales de mando.

A partir de esa falsa alarma, aeronaves militares estadounidenses fueron desplegadas y avanzaron hacia el objetivo. La operación, sin embargo, terminó siendo cancelada antes de concretarse luego de que se comprobara que la información proporcionada por la IA no era correcta.

El episodio volvió a poner bajo la lupa uno de los principales problemas asociados al uso de modelos de lenguaje: las denominadas “alucinaciones” de la inteligencia artificial, situaciones en las que un sistema genera información falsa o incorrecta y la presenta como si fuera verdadera.

El riesgo adquiere una dimensión diferente cuando esos resultados son utilizados en ámbitos donde las decisiones pueden tener consecuencias graves. En este caso, una información errónea generada por un chatbot avanzó por la cadena de mando militar antes de ser cuestionada y verificada.

Especialistas citados por TechCrunch advirtieron precisamente sobre ese riesgo. Jake Steckler, veterano del Ejército estadounidense, señaló que el personal militar debe comprender la incertidumbre inherente a los modelos de lenguaje, especialmente cuando se utilizan para tareas relacionadas con selección de objetivos, análisis de inteligencia o planificación de operaciones.

El incidente se produjo mientras el Ejército de Estados Unidos incrementa el uso de herramientas automatizadas e inteligencia artificial para procesar información y acelerar la toma de decisiones. El Pentágono considera que estas tecnologías pueden brindar ventajas a los comandantes al permitirles analizar grandes volúmenes de información en menor tiempo.

Sin embargo, el caso del supuesto buque chino expuso uno de los límites de esa tecnología: la velocidad con la que una respuesta generada por IA puede transformarse en una información operativa antes de que sea sometida a una verificación humana suficiente.

Los especialistas también advierten que estos errores pueden ser particularmente sensibles en el ámbito militar, donde una interpretación equivocada podría derivar en decisiones con consecuencias de vida o muerte.

El episodio vuelve así a poner en discusión los límites y controles necesarios para la utilización de inteligencia artificial en áreas estratégicas, especialmente cuando sus resultados pueden influir directamente en decisiones militares y de seguridad internacional.