Exinvestigador de DeepMind se suma a las voces de alerta sobre los riesgos de la IA: "También estoy sumamente preocupado "

por Agencia EFE

El investigador Bilal Chughtai se unió a las voces de otros expertos sobre el avance de la inteligencia artificial en una publicación en su cuenta de X, tras renunciar al gigante tecnológico en julio pasado.

Un exinvestigador de Google DeepMind, que trabajó en la seguridad de la inteligencia artificial general (IAG), se sumó a las advertencias sobre la capacidad que tendría la IA para destruir a la humanidad y los llamados a una mayor regulación de esta tecnología.

El investigador Bilal Chughtai se unió a las voces de otros expertos sobre el avance de la inteligencia artificial en una publicación en su cuenta de X, tras renunciar al gigante tecnológico en julio pasado.

"En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto", dijo Chughtai, que trabajó como ingeniero de investigación en seguridad y alineación de inteligencia artificial general en DeepMind desde principios de 2022.

Agentes de IA que escaparon de la red

El ingeniero se refirió al incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace, para avizorar una situación “aún más caótica”.

"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace", escribió.

Chughtai señaló que la alineación de la IA sigue siendo un desafío sin resolver y subrayó que los investigadores aún tienen una comprensión "rudimentaria" de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable.

La advertencia del ingeniero se une a los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.

El director ejecutivo de Anthropic, Dario Amodei, también manifestó su preocupación el fin de semana pasado a través de un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA.

A Amodei se sumaron líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector para exigir más regulaciones.

Meta lanza su nueva suscripción mensual: ¿cuánto costará y qué mejores en IA ofrece en Instagram, Whatsapp y Facebook?

Bill Gates sugiere ralentizar el desarrollo de la IA ante un riesgo de avance "drámatico"

Elon Musk llama a los gigantes de la inteligencia artificial a probar mutuamente sus modelos de seguridad

Estudio en EE. UU. reveló qué profesiones y oficios están entre los más y menos expuestos a la IA

Siguenos en

RPP TV

En Vivo

EE.UU. desviará a Perú, Ecuador, Colombia y Panamá la ayuda militar que estaba destinada para Europa y Oriente Medio

Rusia señala "planes agresivos" de EE.UU. en el espacio, tras reconocimiento de Washington de uso de armas en órbita

Elon Musk llama a los gigantes de la inteligencia artificial a probar mutuamente sus modelos de seguridad

¿Quién es Alex Saab, presunto testaferro de Nicolás Maduro que se declaró culpable ante la justicia de EE. UU.?

Estados Unidos acusa a un ciudadano de recibir armas para cometer actos terroristas en nombre del Estado Islámico

Lo más leído

Venezuela

Alex Saab acuerda "dar información" a EE.UU. que implica a "altos funcionarios venezolanos"

Arequipa

Arequipa: agente del INPE es arrestado por presuntamente ingresar con 20 mil soles y chips de telefonía dentro del penal de Socabaya

Congreso

Proponen sancionar hasta con 8 años de cárcel a quien administre o contrate 'granjas de trolls' o 'bots' en contexto electoral

Estados Unidos

EE.UU. desviará a Perú, Ecuador, Colombia y Panamá la ayuda militar que estaba destinada para Europa y Oriente Medio

Actualidad

Meta lanza su nueva suscripción mensual: ¿cuánto costará y qué mejores en IA ofrece en Instagram, Whatsapp y Facebook?