Jefe de Anthropic urge a "desacelerar" desarrollo de IA: ¿en qué casos su tecnología fue mal utilizada?

Tecnología Más Tecnología Jefe de Anthropic urge a "desacelerar" desarrollo de IA: ¿en qué casos su tecnología fue mal utilizada? La empresa plantea un plan de implementación de revisores externos permanentes. | Fuente: Imagen referencial generada con ChatGPT por France 24 Actualizado el 14 de Set…

Tecnología
Más Tecnología

La empresa plantea un plan de implementación de revisores externos permanentes. | Fuente: Imagen referencial generada con ChatGPT

por France 24

Actualizado el 14 de Set, 2026 9:12 am

Anthropic ha detectado que su tecnología ha sido mal empleada en casos de espionaje, drones kamikaze y propaganda.

Este 12 de septiembre, Dario Amodei, director ejecutivo de Anthropic, instó a las empresas de inteligencia artificial a "reducir la velocidad" del desarrollo de capacidades de sus modelos ante los crecientes ejemplos de uso indebido de esa tecnología.

Su llamado llega días después de que la propia compañía revelara casos en los que sus agentes de IA fueron empleados para desarrollo de armas, vigilancia patrocinada por el Estado, operaciones de propaganda y otros fines inadecuados.

En una semana en la que su compañía ha estado en el centro de atención por las denuncias de uno de sus exinvestigadores sobre el potencial peligroso de la inteligencia artificial, Amodei instó a las empresas de inteligencia artificial a moderar el ritmo de sus desarrollos ante el creciente temor a un uso indebido de la tecnología.

En un artículo publicado en X este 12 de septiembre, Amodei presentó un marco de tres pasos con el objetivo de regular los avances y ganar tiempo para gestionar los riesgos asociados.

"Debemos reducir la velocidad a la que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganemos", afirmó.

Entre otras medidas, el plan incluiría la implementación de revisores externos permanentes dentro de las empresas líderes en IA, los cuales tendrían acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos.

Amodei aclaró que no busca detener el entrenamiento de modelos ni el progreso técnico, sino garantizar que las empresas dediquen el tiempo necesario a alinear y proteger sus modelos, y que evaluadores externos verifiquen dichas medidas.

Como parte del marco de tres pasos que propuso, Amodei señaló que Anthropic se sometería "unilateralmente" al primero de ellos.

Esta propuesta surge luego de que la propia compañía publicara el jueves un informe sobre cómo diversos actores habían utilizados sus modelos de IA Claude para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude. A continuación, repasamos algunos de esos usos indebidos:

Espionaje en China, Irán y Mali

En su reporte, Anthropic anunció el cierre de varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial, y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes.

Los incidentes se originaron en China, Irán y el occidente de África, y fueron detectados e interrumpidos entre enero y julio, según informó la compañía.

Estas campañas de vigilancia "apuntaban a las mismas comunidades de la diáspora y disidentes que estos regímenes han perseguido históricamente", apuntó el documento.

De acuerdo con Anthropic, entre estos grupos había figuras prodemocracia de Hong Kong, comunidades tibetanas, y minorías y opositores al régimen iraní en el exterior.

En uno de los casos, actores iraníes desarrollaron un método para identificar a personas a través de sus cuentas en redes sociales.

En otro ejemplo, un consultor tecnológico en Bamako, que colaboraba con el servicio de inteligencia estatal de Mali (bajo control de la junta militar), utilizó Claude Code para crear "Lakana 360", un sistema de vigilancia capaz de monitorear aproximadamente 25 millones de tarjetas SIM en la red móvil del país.

La empresa con sede en San Francisco también acusó a desarrolladores chinos de utilizar engañosamente a Claude para generar respuestas a las consultas de los usuarios mientras, de forma simultánea, "destilaban" esos datos para mejorar sus propios modelos.

Drones kamikazes en Rusia

Un pequeño equipo de desarrolladores -probablemente independientes— en Rusia utilizó Claude para crear software destinado a operar drones autónomos "kamikaze".

El enjambre de drones estaba programado para seleccionar sus propios objetivos y estrellarse contra ellos para detonar, sin que una persona tomara la decisión final.

En su programación, el equipo seleccionó repetidamente una ubicación en la región ucraniana de Donetsk como objetivo y utilizó VPN para eludir los bloqueos geográficos de Anthropic.

Los desarrolladores afirmaron haber recibido financiación de programas de investigación gubernamentales y militares rusos.

Sin embargo, Anthropic consideró que se trataba de un pequeño equipo independiente y no de una operación oficial.

Fabricación de misiles en Yemen

Un grupo en el norte de Yemen utilizó Claude Code para ayudar a fabricar armas.

La popular herramienta de programación colaboró en el diseño del software de un cohete guiado, elaboró planos para un misil de largo alcance y contribuyó al desarrollo de un tipo de misil aún más rápido, conocido como vehículo de planeo hipersónico.

Para evitar ser descubiertos, dividieron el trabajo en conversaciones separadas con la IA.

Anthropic afirma que no hay pruebas de que llegaran a completar un arma funcional, aunque el grupo sí realizó un lanzamiento de prueba de un cohete.

Al parecer, el experimento fracasó, ya que posteriormente volvieron a consultar a la IA para intentar averiguar qué había salido mal.

Propaganda en Francia

Anthropic rastreó una operación de noticias falsas hasta LKM Company, una agencia de publicidad francesa.

Utilizando Claude, se produjeron en masa artículos políticos para unos 70 sitios web de noticias falsas en cerca de 20 idiomas, publicando al menos 8 913 notas.

A cada sitio se le asignó la firma de un periodista ficticio y una cuenta falsa de Twitter/X, impulsadas por cientos de perfiles falsos que publicaban comentarios diseñados para parecer escritos por personas reales.

La operación cambiaba su mensaje según quién pagara, vendiendo lo que Anthropic denominó "propaganda como servicio".

Se centró en Estados Unidos, Brasil y Francia, y realizó una intensa labor respecto a la República Democrática del Congo (RDC), favoreciendo generalmente la postura de la RDC en su conflicto con Ruanda.

Influencia en Emiratos Árabes Unidos

Una operación vinculada a Emiratos Árabes Unidos (EAU) apuntó contra los Hermanos Musulmanes y contra expertos de las Naciones Unidas críticos del papel de Abu Dabi en el conflicto de Sudán.

Sus autores se valieron de Claude para generar informes, contenidos para redes sociales y testimonios sobre Sudán.

Anthropic señaló que la operación giraba en torno a una personalidad de IA conocida como 'Deadshot', guiada por una directriz que instaba a realizar "una acción coordinada, transatlántica y regional, para desmantelar a los Hermanos Musulmanes a nivel mundial".

También fueron redactados testimonios oficiales destinados a presentarse en la 62ª sesión del Consejo de Derechos Humanos de la ONU, bajo "restricciones específicas" que prohibían mencionar a EAU en los discursos.

Citas con IA en China

Un estudio con sede en China creó una red de más de 20 aplicaciones de citas que afirmaban contar con personal humano real, pero que en secreto eran gestionadas por Claude.

En un periodo de apenas dos semanas, en abril de 2026, Anthropic detectó más de 4.700 personajes de IA distintos, impulsados por Claude, que conversaron con al menos 25.000 usuarios reales y enviaron unos 2,36 millones de mensajes.

Para ganar credibilidad, se mezclaron trabajadores humanos reales con los bots —aproximadamente un humano por cada tres personalidades de IA— para gestionar tareas que la IA no podía realizar, como videollamadas.