Anthropic desarticuló posibles complots que usaban su IA para investigar armas biológicas

por Agencia EFE

Anthropic indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.

La empresa de inteligencia artificial Anthropic afirmó este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa en el documento.

Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas".

Anthropic incluyó además en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.

¿Qué es Anthropic y quiénes son sus dueños? Lo que se sabe sobre la empresa tendencia por las advertencias sobre la IA

Ingeniero de Anthropic renuncia y lanza advertencia sobre la IA: “Pronto serán sistemas que podrán hackear cualquier cosa”

"Una probabilidad de que pueda acabar con todos": ingeniero que renunció a Anthropic continúa alertando sobre el avance de IA

“Parece una trampa”: Elon Musk minimizó advertencia de exinvestigador de Anthropic sobre la IA y este le respondió

Siguenos en

RPP TV

En Vivo

Un adolescente sobrevivió varios días a la deriva en las aguas gélidas de Alaska: sus dos familiares no logaron salvarse del naufragio

EE.UU. destina 4 millones de dólares para mantenimiento de los monumentos del 11S

¿Quiénes son Los Tiguerones, la nueva banda ecuatoriana declarada terrorista por EE. UU.?

Trump ofrece 5.000 dólares a cada ciudadano si su partido gana elecciones de término medio

Trump propone llamar 'Estrecho Trump' al estrecho de Ormuz

Lo más leído

Copa Sudamericana

Cienciano vs Montevideo City Torque en vivo: ¿cómo ver desde tu celular la ida de cuartos de Copa Sudamericana 2026?

Actualidad

Piura: cerca de 70 escolares sufren intoxicación en el centro poblado de Mallares

Estados Unidos

Un adolescente sobrevivió varios días a la deriva en las aguas gélidas de Alaska: sus dos familiares no logaron salvarse del naufragio

Descentralizado

Carlos Zambrano no se olvida de Alianza Lima: "Quiero que gane el clásico ante Universitario"

Copa Sudamericana

Cienciano vs Montevideo City Torque EN VIVO: ¿a qué hora juegan y dónde ver la ida de cuartos de final de Sudamericana 2026?