Carlos III advierte sobre los "riesgos existenciales" si la IA cae en manos equivocadas

por Agencia EFE

"Quienes han creado estas tecnologías advierten cada vez más de que la IA puede desarrollar capacidades más siniestras", señaló el monarca en su discurso.

El rey británico, Carlos III, advirtió sobre los "riesgos existenciales" que se presentarían si la inteligencia artificial (IA) "cae en manos equivocadas y termina siendo usada de formas potencialmente catastróficas".

El monarca reunió en Dumfries House (Escocia) a varios ejecutivos y líderes mundiales del sector en una especie de cumbre para explorar los límites de un uso de la IA que traiga beneficios a la sociedad, en un contexto en el que se multiplican las advertencias sobre un desarrollo incontrolado de sus capacidades.

Entre los invitados figuran representantes de Nvidia, Google DeepMind, OpenAI, Anthropic y otras empresas, así como representantes de China o del Vaticano y el secretario de Estado británico Kanishka Narayan.

"Quienes han creado estas tecnologías -recordó el monarca- advierten cada vez más de que la IA puede desarrollar capacidades más siniestras, e incluso potencialmente llevarse vidas (por delante)", señaló en su discurso de apertura a los ejecutivos.

Y les recordó que su trabajo no consiste solo en hacer avanzar la tecnología, sino "garantizar que sirve claramente a la humanidad, a las comunidades y al mundo natural".

Sin embargo, no todos los asistentes parecieron alinearse con sus temores. Uno de los más destacados, el CEO de Nvidia, Jensen Huang, pidió que la IA no termine siendo regulada lo mismo que las redes sociales, ya que es "una tecnología" y no "un producto".

Según Huang, el papel de los gobiernos debe consistir en intervenir cuando el desarrollo de la IA "se tuerce", y recordó que ya existen leyes que regulan la salud, el transporte o el entretenimiento -ámbitos donde ya se aplica la IA-, y no hay que obsesionarse con añadir nuevas leyes salvo que sean necesarias.

En cuanto a los sistemas de control de la IA -añadió-, deben hacerse en laboratorios cerrados: "Es ingeniería de la antigua, de la clásica, ni más ni menos, (para) probar los productos antes de ser lanzados al público".

De hecho, Huang se ha unido a Mark Zuckerberg para tomar distancias de los llamamientos de otros 'gurús' de la IA, como los líderes de Anthropic, OpenAI y SpaceX, que han pedido ralentizar el desarrollo de esta tecnología, en uno de los debates de mayor trascendencia esta semana, en el que ha llegado a intervenir el propio presidente de EE. UU., Donald Trump, él también contrario a ralentizar el 'boom' de la IA.

Mark Zuckerberg defiende que cada empresa asuma la seguridad de sus modelos de IA

OpenAI reveló seis nuevos incidentes de comportamientos "inesperados" o "preocupantes" en sus modelos de inteligencia artificial

OpenAI, Anthropic y Google trabajan en la creación de un organismo regulador de la IA

León XIV advierte del riesgo de delegar en la IA decisiones que corresponden a los humanos

Noticias, entretenimiento en vivo, debates intensos sobre fútbol y más. ¡Entra ya! 👇

Siguenos en

RPP TV

En Vivo

Perú dice presente en los Latin Grammy 2026: estos son los artistas nominados

Donna Mills debutó en OnlyFans a los 85 años y ya gana seis cifras tras cumplir un mes en la plataforma

El magnate que vetó a Macklemore por su mensaje propalestino dice que Ed Sheeran le pidió donar 2 millones a Gaza

Hollywood critica a Ed Sheeran tras apartar a Macklemore de su gira por apoyar a Palestina

Macklemore dona un millón de dólares de su gira con Ed Sheeran para apoyar a Palestina

Lo más leído

Descentralizado

De los 70, por los 70 años: Sporting Cristal presentó nueva camiseta de colección

Nacional

Los Mirlos en Tiny Desk: la cumbia amazónica peruana hizo rugir la selva en NPR Music

Actualidad

Dos adultos acompañaban a escolares del Liceo Naval Almirante Guise en bus donde se habría producido agresión sexual, afirma director de la Drelm

Selección Peruana

Lista de convocados de Perú EN VIVO: ¿a qué hora y dónde ver el anuncio de Mano Menezes?

Judiciales

Fiscalía inició investigación preliminar contra menores retenidos por presunto abuso sexual en San Borja