¿Qué se sabe sobre el acceso de la IA de OpenAI al sistema público de salud de Australia?

por Agencia EFE

Un agente de IA de OpenAI accedió sin autorización al sistema de salud de Australia, generando preocupaciones sobre ciberseguridad y el control de la tecnología. Camberra investiga el incidente.

Un agente de inteligencia artificial (IA) de OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia, Medicare, y consultó distintos archivos, incidente conocido en las últimas 24 horas que Camberra investiga mientras trata de determinar si otros sistemas públicos resultaron afectados.

La infiltración fue dada a conocer el miércoles por el primer ministro australiano, Anthony Albanese, en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China.

El caso coincide con recientes advertencias por parte de algunas de las principales empresas de IA sobre la necesidad de desacelerar el ritmo al que se mejoran las capacidades de los modelos, la última de ellas de Anthropic, que avisó de que la tecnología avanza hacia una dinámica de "automejora recursiva" que amenaza con catástrofes de ciberseguridad a escala global.

¿Qué se sabe sobre el incidente en Australia?

La infiltración se produjo el 18 de junio, cuando el agente de IA -como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google- accedió a un portal público de estadísticas relacionadas con Medicare mientras investigaba sobre el gasto público en medicamentos.

El incidente no fue comunicado a Camberra hasta el 10 de septiembre, cuando OpenAI -desarrolladora de ChatGPT- alertó mediante correo electrónico a la agencia gubernamental que administra Medicare, Services Australia, que cinco días después notificó a los servicios de inteligencia, detalló este jueves el vice primer ministro y ministro de Defensa, Richard Marles.

El primer "intercambio técnico" entre OpenAI y Services Australia sobre el incidente tuvo lugar este martes, subrayó Marles, que ejerce de mandatario en funciones mientras Albanese participa en la Asamblea General de Naciones Unidas.

¿A qué información accedió?

Camberra aseguró que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.

Se trata de "datos agregados", es decir, métricas globales como promedios y tendencias que no revelan información individual privada, declaró el exjefe del Departamento de Salud australiano, Stephen Duckett, a la cadena pública ABC.

OpenAI, por su parte, afirmó que en su revisión de lo ocurrido no halló pruebas de acceso a historiales de pacientes y que la información obtenida por el agente incluía estadísticas sanitarias y nombres de archivos internos.

¿Cómo consiguió acceder?

Según la interpretación de Camberra recogida por ABC, OpenAI había asignado a un agente la tarea "benigna" de investigar el gasto público en medicamentos y el modelo de IA buscó información en Internet y llegó hasta la web australiana.

Tras formular preguntas al portal y no recibir la información que buscaba, el agente obtuvo acceso no autorizado y se apropió del contenido que perseguía conseguir, difundió el mismo medio.

El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente "identificó vulnerabilidades de forma autónoma".

¿Qué hará Australia?

Ante lo sucedido, el Gobierno australiano anunció este jueves el inicio de una investigación sobre el incidente y la creación de un grupo de trabajo encargado de determinar, entre otras tareas, si se han infringido leyes en el contexto de lo ocurrido.

"Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA", relató Marles.

El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.

La IA de OpenAI accedió sin autorización a un portal de seguro médico australiano

¿Inteligencia Artificial fuera de control?: lo que se sabe del caso de los modelos IA de OpenAI que lanzaron un ciberataque por su cuenta

Siguenos en

RPP TV

En Vivo

La IA de OpenAI accedió sin autorización a un portal de seguro médico australiano

Un terremoto de magnitud 7.3 sacudió Vanuatu, sin alerta de tsunami hasta el momento

Fuerte sismo de magnitud 7.5 sacudió Tonga, en el océano Pacífico

Irán asegura que las futbolistas asiladas en Australia están siendo "tomadas como rehenes"

Cinco futbolistas de Irán reciben asilo en Australia mientras otras preparan su salida

Lo más leído

Actualidad

Cierre de acceso peatonal durante concierto de Robbie Williams generó alerta en San Miguel

Selección Peruana

Perú vs Estados Unidos: el historial de enfrentamientos entre ambas selecciones

Fútbol Mundial

Partidos de HOY, jueves 24 de septiembre: horarios y canales de TV para ver EN VIVO Nations League y Amistosos internacionales

Celebridades

Sydney Sweeney ignora los cuestionamientos por sus desnudos y vuelve a las redes con una desafiante sesión en lencería

Venezuela

Tres países negaron el aterrizaje del vuelo de María Corina Machado para salir de Panamá