Estados Unidos estuvo a punto de interceptar y abordar un barco chino en Medio Oriente debido a un informe de inteligencia generado con ayuda de una IA. El problema fue que buena parte de la información era falsa.

Según CNN, un analista del Comando de Operaciones Especiales de EE.UU. utilizó un chatbot para analizar documentos relacionados con la carga del barco. El sistema combinó información de fuentes abiertas con inteligencia obtenida mediante señales secretas y concluyó, erróneamente, que la embarcación transportaba componentes destinados a un programa de armas nucleares.

El informe llegó a manos de los responsables militares, que prepararon una operación para interceptar el barco y subir a bordo con apoyo aéreo. Solo después descubrieron que el chatbot había identificado de forma incorrecta el material que transportaba.

Una fuente citada por CNN describió el episodio como un incidente que estuvo a punto de iniciar una guerra. 

Alucinaciones 

El caso muestra un problema conocido de los sistemas de inteligencia artificial generativa. Cuando una IA no encuentra suficiente información para responder, puede producir datos que parecen convincentes pero que son falsos. Este fenómeno suele llamarse alucinación. 

Y aunque las empresas han intentado reducirlo mediante mejores modelos, entrenamiento y órdenes específicas para que los sistemas no inventen información, el problema todavía no ha desaparecido. 

La situación resulta especialmente delicada porque el Departamento de Defensa estadounidense está ampliando el uso de estas herramientas. En enero presentó una estrategia para acelerar la incorporación de IA en sus sistemas informáticos y facilitar el acceso de estos modelos a grandes cantidades de datos.

El Pentágono también ha incorporado herramientas de Google, xAI y Anthropic a distintos programas. En junio, un representante del Departamento de Defensa dijo ante el Congreso que la IA generativa ya ayuda a preparar informes exigidos por los legisladores y que alrededor de 1,5 millones de militares y empleados del departamento habían utilizado sus herramientas de IA. 

Riesgos 

El propio gobierno estadounidense había advertido sobre estos riesgos. Una declaración publicada en 2023 sobre el uso militar responsable de la inteligencia artificial señalaba que estas tecnologías debían incorporar controles humanos y una cadena de mando responsable. 

El episodio del barco chino demuestra por qué esa precaución importa. Un error en un chatbot puede ser molesto cuando ocurre al redactar un correo o resumir un documento. En inteligencia militar, una conclusión falsa puede desencadenar una operación real y poner en riesgo vidas.

La IA puede procesar enormes cantidades de información, pero eso no significa que pueda distinguir por sí sola entre un dato verdadero y uno inventado. Cuando sus respuestas entran en una cadena de decisiones militares, el costo de equivocarse puede ser mucho mayor.

Leer artículo completo en robotitus.com →