Anthropic alerta en ONU de riesgos de IA: ninguna nación puede gestionar esto en solitario

por Agencia EFE

Dario Amodei, CEO de Anthropic, advierte en la ONU sobre los riesgos de la IA avanzada y pide una respuesta global coordinada para garantizar la seguridad internacional.

El consejero delegado de la tecnológica Anthropic, Dario Amodei, advirtió este miércoles ante el Consejo de Seguridad de la ONU que los riesgos asociados a los modelos más avanzados de inteligencia artificial (IA) constituyen "el problema de seguridad global más importante al que se enfrenta el mundo hoy", y reclamó una respuesta internacional coordinada.

Durante una reunión de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.

"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial", subrayó ante los delegados.

El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.

Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.

Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante "incidentes significativos para la seguridad global".

Por último, el directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.

"Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura", concluyó.

El tema de la seguridad en el desarrollo de la IA se ha situado en el centro del debate internacional ante la posibilidad de que los modelos más avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente después de que varias pruebas realizadas con modelos de Anthropic, OpenAI -que también participó en esta sesión del Consejo de Seguridad- y Google mostraran que estos podían escapar de sus entornos de prueba.

EE. UU. se retira de la Asamblea General después de que el presidente de Irán los llamó “terroristas”

México oficializa restricción de celulares durante jornada escolar en la educación básica

Presidente de Irán acusa ante la ONU a Estados Unidos e Israel de terrorismo

“Es una causa nacional”: Milei pide negociaciones sobre Malvinas y amenaza con consecuencias para las empresas

Siguenos en

RPP TV

En Vivo

EE. UU. se retira de la Asamblea General después de que el presidente de Irán los llamó “terroristas”

“Es una causa nacional”: Milei pide negociaciones sobre Malvinas y amenaza con consecuencias para las empresas

Sudáfrica: al menos 11 muertos dejó un tiroteo en una fiesta en KwaMakhutha

Delcy Rodríguez califica de histórica su reunión con Donald Trump y le agradece su "respaldo"

María Corina Machado fue impedida de regresar a Venezuela en tres nuevos intentos en las últimas horas, según ABC

Lo más leído

Conciertos

Robbie Williams en Lima: The Lottery Winners abrirá sus dos conciertos en Arena 1 Park

Más Voley

Maricarmen Guerrero, jugadora de Universitario: "Quisiera que los hinchas me reciban con los brazos abiertos"

Más Voley

¿Alianza Lima presentará a su sexta extranjera en la Noche Blanquiazul? Esta es la tajante respuesta de Cenaida Uribe

Fútbol Mundial

Ecuador vs Corea del Sur EN VIVO: ¿a qué hora juegan y dónde ver el amistoso internacional por fecha FIFA?

Lambayeque

Papa León XIV pidió comer cabrito a la chiclayana y arroz con pato cuando regrese a Chiclayo