La ONU alertó sobre sistemas de IA capaces de tomar decisiones con mayor autonomía y cuyo funcionamiento podría afectar comunicaciones, servicios financieros, suministro de agua e infraestructuras críticas.
- Jacob Coxon, el investigador de Anthropic que advirtió el peligro de la IA y como esta podría "matarnos" antes de 2030
- Arabia Saudita cierra el oleoducto Este-Oeste que transporta cerca del 5% del petróleo mundial por ataques de Irak
Daniela MagallanesEscucharResumenCompartirEl alto comisionado de la ONU para los derechos humanos, Volker Türk, pidió una acción urgente con el fin de regular la inteligencia artificial ante los riesgos que plantea el desarrollo acelerado de sistemas cada vez más potentes. El funcionario advirtió que todos los derechos humanos están en riesgo, entre ellos los de la vida, la alimentación, la privacidad, la salud y la seguridad.
Türk sostuvo que el mundo se encuentra ante un posible punto de no retorno. “Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, afirmó. Por ello, instó a los Estados y a las empresas a actuar dentro de espacios multilaterales y reclamó reglas que permitan definir los límites y las responsabilidades frente a esta tecnología.
TE RECOMENDAMOS
COMPATIBILIDAD DE SIGNOS: ¿QUÉ PAREJAS SON MÁS COMPATIBLES? ❤️🔮 | ASTROMOOD CON JHAN SANDOVAL
La IA agéntica amenaza servicios e infraestructuras críticas
Uno de los principales riesgos señalados por el funcionario corresponde a la llamada IA agéntica, capaz de tomar decisiones con un grado mayor de autonomía. Un fallo en estos sistemas podría paralizar servicios esenciales, afectar las comunicaciones, desestabilizar infraestructuras críticas y causar daños en instituciones democráticas.
El impacto podría alcanzar servicios básicos. Türk advirtió que algunas poblaciones quedarían sin agua, calefacción o servicios financieros. Además, señaló que estas herramientas ya aceleran el ritmo de las guerras, amplían su alcance y debilitan las salvaguardias destinadas a impedir el uso de armas de destrucción masiva.
El alto comisionado cuestionó además la concentración del poder tecnológico. “Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”, declaró.
PUEDES VER: ¿Qué son los ‘bots’? La nueva arma de manipulación política en América Latina
Expertos tecnológicos piden ralentizar el desarrollo de la IA
La preocupación también alcanzó a referentes de la industria. Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo del desarrollo tras una prueba de un modelo de OpenAI que logró superar controles de Hugging Face. En ese contexto, el investigador Jacob Coxon dejó Anthropic por sus preocupaciones sobre el posible impacto de estos sistemas en la humanidad.
Sam Altman, de OpenAI, y Elon Musk además figuran entre los líderes tecnológicos que han planteado la necesidad de mayor cautela. El debate se centra en cómo establecer controles sin frenar los avances que pueden tener aplicaciones en distintos sectores.
EE. UU. y China chocan por el control de la tecnología
La regulación tecnológica también se convirtió en un asunto de seguridad nacional para EE. UU. y China. El ministro de Seguridad del Estado chino, Chen Yixin, afirmó que fuerzas hostiles pueden utilizar herramientas generativas para crear rumores políticos, difundir desinformación y ejecutar operaciones de influencia.
Chen calificó la inteligencia artificial como un campo central de la competencia tecnológica entre las grandes potencias y mencionó riesgos que impactarían en la infraestructura china de información. En Estados Unidos, legisladores demócratas pidieron una sesión urgente para abordar la regulación, pero el presidente de la Cámara, Mike Johnson, rechazó la propuesta.
- ONU
- inteligencia artificial
Prefiero a La República en Google
Comentarios 0
Súmate a la conversación
Tu comentario es anónimo, pero para evitar bots necesitamos que te registres. Es gratis y toma 30 segundos.
Crear cuenta para comentar Ya tengo cuenta