Sam Altman, director ejecutivo de OpenAI, advierte de que se puede perder el "control del futuro" ante la IA

por Agencia EFE

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos".

El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención esta madrugada sobre la pérdida del control del futuro ante la inteligencia artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X.

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos".

"Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó.

El directivo de OpenAI consideró que para evitar estas dos amenazas se debe "caminar por un angosto camino intermedio", que evite que tanto un país como un laboratorio tengan demasiado poder.

Altman pide confianza en empresas que desarrollan IA

Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado".

En este sentido, apeló a un marco legal federal en EEUU que "establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)", un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.

El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia".

Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA.

Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos.

En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsable de Anthropic, Dario Amodei, mientras el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China.

OpenAI asegura que su IA resolvió uno de los Problemas matemáticos del Milenio

Elon Musk coincide con sus rivales Anthropic y OpenAI en desacelerar la IA

Demócratas en el Congreso urgen ralentizar la IA tras las alarmas de gigantes del sector

OpenAI lanza Astra, su modelo de ChatGPT más potente con autonomía total

Siguenos en

RPP TV

En Vivo

Se conocieron en la adolescencia, llegaron a ser mejores amigas y tras una prueba de ADN descubrieron que eran hermanas

Un dron ruso impactó un tren ucraniano cerca de otros en los que viajaban Boris Johnson y un exdirector de la CIA

Barack Obama pide que regular la IA sea un tema central en las campañas de los demócratas

Líderes de Escocia, Gales e Irlanda del Norte preparan acuerdo para impulsar la independencia de sus territorios del Reino Unido

Líder del Congreso de EE.UU. rechaza freno a la IA y pide una reunión con líderes del sector

Lo más leído

Peruanos en el Mundo

Solo falta la firma: Juan Reynoso será el nuevo técnico de uno de los clubes más tradicionales de la Liga MX

Actualidad

SJM: vecinos piden más seguridad tras enfrentamiento de presuntos barristas que provocó muerte de adolescente

Europa

Independentistas de Escocia, Gales e Irlanda del Norte piden respeto a autodeterminación

Más Tecnología

La ONU advierte que todos los derechos humanos "están en riesgo" ante el avance de la IA

Medio Oriente

Irán amplía a 77 los buques que podrían enfrentar restricciones para cruzar el estrecho de Ormuz