El lado oscuro de la IA: intentan usar Claude para desarrollar misiles en Yemen

La empresa estadounidense de inteligencia artificial Anthropic reveló que una célula de actores de amenazas ubicada en el norte de Yemen utilizó su modelo Claude para intentar desarrollar software de guía, navegación y control para misiles balísticos y cohetes guiados.

En su más reciente informe sobre amenazas de inteligencia, la compañía no identificó directamente a los responsables como hutíes, aunque señaló que operaban desde una zona del norte de Yemen controlada en gran parte por ese grupo respaldado por Irán.

De acuerdo con Anthropic, los actores trabajaban en el desarrollo de distintos sistemas de armamento, entre ellos un misil balístico multietapa, un misil con múltiples variantes y un cohete guiado equipado con una computadora de vuelo de características similares a las de un teléfono comercial.

La compañía señaló que los responsables utilizaron Claude Code para realizar tareas que normalmente requerirían la intervención de ingenieros de software, como integrar un piloto automático de código abierto, desarrollar sistemas de control y estimación de posición, ajustar parámetros, compilar el firmware y realizar simulaciones de vuelo.

ESTRATEGIAS PARA BURLAR LOS FILTROS

Anthropic aseguró que sus mecanismos de seguridad bloquearon muchas de las solicitudes relacionadas con el desarrollo de armamento, pero no todas.

Para evadir las restricciones, los actores habrían ocultado sus objetivos reales y dividido las distintas tareas entre múltiples sesiones. De esta manera, cada interacción individual ofrecía menos información sobre el propósito final del proyecto y dificultaba que los sistemas de seguridad detectaran la intención completa.

El caso, según Anthropic, demuestra uno de los principales desafíos que enfrenta la industria de inteligencia artificial: impedir que modelos avanzados sean utilizados por actores no autorizados para desarrollar capacidades que puedan representar una amenaza para la seguridad.

UNA PRUEBA DE CAMPO QUE FRACASÓ

El informe también señala que la célula llevó sus avances del entorno digital al campo y realizó una prueba de disparo de un cohete guiado.

La prueba aparentemente fracasó. Horas después, los responsables volvieron a recurrir a Claude para intentar determinar qué había provocado el fallo.

Anthropic aclaró que no tiene evidencia de que los actores hayan conseguido desplegar un dispositivo operativo, aunque sí documentó el desarrollo de software, las simulaciones y la prueba de campo.

Tras identificar la actividad, la empresa suspendió las cuentas relacionadas con los actores y compartió información sobre las amenazas con socios del sector público y privado.

Sin embargo, Anthropic advirtió que los responsables ya habían construido herramientas de simulación capaces de funcionar sin Claude ni otros entornos de computación de ingeniería, lo que significa que la suspensión de las cuentas no elimina por completo la capacidad adquirida.

EL FACTOR HUTÍ Y BAB AL-MANDEB

El hallazgo se produce en un contexto de creciente tensión en Yemen. Los hutíes, que controlan Saná y amplias zonas del norte del país, han desarrollado durante años sus capacidades de misiles y drones con apoyo de Irán, de acuerdo con analistas citados en el informe.

Además, el grupo ha intensificado sus operaciones en torno al estrecho de Bab al-Mandeb, una vía marítima estratégica que conecta el mar Rojo con el golfo de Adén y el océano Índico.

La zona es fundamental para el comercio y el transporte energético internacional, por lo que cualquier escalada militar en sus inmediaciones puede afectar las rutas de navegación y presionar los mercados petroleros.

El caso de Yemen se suma así a las advertencias sobre un nuevo frente de riesgo: el uso de herramientas de inteligencia artificial cada vez más sofisticadas para facilitar actividades relacionadas con armas, incluso cuando sus desarrolladores cuentan con filtros y mecanismos destinados a impedirlo.