OpenAI, Anthropic y Google trabajan en la creación de un organismo regulador de la IA

por RFI

OpenAI, Anthropic y Google DeepMind están trabajando en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial (IA), en respuesta a los llamados para controlar mejor los abusos de esta tecnología. El proyecto ya ha recibido críticas y corre el riesgo de quedar bloqueado por motivos políticos. Estos tres actores clave de la IA abogan, en particular, por la creación de un organismo de control y supervisión capaz de rechazar los proyectos más peligrosos.

Los gigantes de la inteligencia artificial quieren extender a todo el país lo que acaba de aprobarse en California: la creación de un organismo de supervisión independiente. La idea surgió de una propuesta de Demis Hassabis, quien fue director general de Google DeepMind antes de asumir la presidencia a principios de agosto, y quien sugirió una entidad similar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un organismo de autorregulación del sector financiero.

El debate sobre los riesgos de la IA ha cobrado fuerza desde principios del verano, impulsado por una serie de incidentes y declaraciones apocalípticas de varios profesionales de la inteligencia artificial. En particular, varios modelos de IA de OpenAI y Anthropic salieron espontáneamente de su entorno confinado para acceder a Internet e irrumpir en sitios web y plataformas. Sin embargo, la creación por parte del sector de su propio organismo de supervisión, aunque se llevara a cabo por iniciativa exclusiva del sector, requeriría una ley, sobre todo para evitar que la industria de la IA sea acusada de colusión y de infringir las normas de competencia.

Sin embargo, tras el llamado a frenar el desarrollo de la IA lanzado el sábado por el director de Anthropic, Dario Amodei, Donald Trump y varios miembros de la mayoría presidencial reiteraron su deseo de no restringir al sector, oficialmente por temor a que China tome la delantera. Han desestimado las advertencias lanzadas por varios funcionarios y desarrolladores, en particular Jacob Coxon hace una semana, sobre los riesgos que representa la IA para la humanidad, y el presidente estadounidense las calificó de “basura”.

Expertos independientes

Los principales actores del sector de la IA llevan varios meses instando al gobierno estadounidense a regular el sector y supervisar la seguridad de la IA. A principios de agosto, la administración de Trump puso en marcha un proceso de evaluación de los nuevos modelos de IA, pero este se basa en la participación voluntaria y no se ha dado a conocer su mecanismo.

En su mensaje publicado a mediados de julio, Demis Hassabis había propuesto una estructura financiada por las empresas del sector, cuyo consejo estaría integrado por expertos independientes y representantes del ecosistema abierto. Este último está compuesto por desarrolladores de IA abierta, es decir, accesible de forma gratuita, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic. Una vez que la organización esté en funcionamiento, las empresas más avanzadas en IA deberían someter sus nuevos modelos a una revisión, centrada especialmente en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todos”, comentó en el canal CNBC Aidan Gómez, director ejecutivo de la empresa canadiense Cohere, que está desarrollando su propia IA. “Hay muchísimas partes interesadas a las que se debe consultar”.

“Un punto de partida para la creación de estándares internacionales”

Este nuevo organismo también podría impulsar una desaceleración coordinada del desarrollo de la IA, según Demis Hassabis, en caso de que la comprensión de los riesgos no siga el ritmo de avance de la inteligencia artificial.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad”, declaró el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Demis Hassabis sugirió que el nuevo organismo de autorregulación constituya “un punto de partida para la creación de estándares internacionales para la IA de vanguardia”.

Varios observadores, en particular del lado republicano, acusaron a las grandes empresas de IA de “apropiarse de la regulación”, es decir, de querer definir sus propias normas y ponerse de acuerdo para proteger, sobre todo, su ventaja competitiva, en detrimento de los competidores y los consumidores. David Sacks, un influyente asesor de Donald Trump, planteó el espectro de un cártel de la IA, instando a cada empresa a actuar de manera unilateral, incluso si eso significara ralentizar por sí sola su ritmo de desarrollo, un escenario poco probable dadas las inversiones realizadas en las empresas más destacadas del sector.

¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control

Exinvestigador de DeepMind se suma a las voces de alerta sobre los riesgos de la IA: "También estoy sumamente preocupado "

¿Se enfría el negocio detrás de la IA? Acciones de Nvidia, Intel y más tecnológicas caen con fuerza tras llamado a frenar su ritmo

Elon Musk llama a los gigantes de la inteligencia artificial a probar mutuamente sus modelos de seguridad

Siguenos en

RPP TV

En Vivo

Windows 11 podría integrar una nueva herramienta para detectar miradas indiscretas en tu pantalla

El fin de una era: Microsoft cerró Skype tras 20 años conectando al mundo

WhatsApp Web podría estar a punto de recibir una función esperada por muchos: ¿qué cambiará para los usuarios?

Llegaron los hermanos menores de la serie 50: NVIDIA presentó las RTX 5060 y 5060 Ti con precios, características y fecha de lanzamiento

Microsoft cumple 50 años: medio siglo de innovación, desafíos y transformación

Lo más leído

Más Fútbol

Flamengo y Paolo Guerrero ponen fin a ocho años de disputa judicial por cerca de 400 mil dólares

Internacional

Latin Grammy 2026: conoce la lista completa de nominados

Estados Unidos

Estados Unidos: ¿qué implica el rechazo del Supremo a los planes de Trump para restringir el voto por correo?

Más Voley

Alianza Lima en la Brasil Cup 2026: horarios y canal TV del cuadrangular internacional de vóley con las blanquiazules

Actualidad

Meta lanza su nueva suscripción mensual: ¿cuánto costará y qué mejores en IA ofrece en Instagram, Whatsapp y Facebook?