Australia investiga a OpenAI por un hackeo a su sistema de salud

Un modelo de inteligencia artificial de OpenAI hackeó un sitio web del gobierno de Australia, según confirmó el primer ministro Anthony Albanese. Se trata del primer caso reportado públicamente de un sistema de IA que vulnera infraestructura estatal.

Albanese advirtió que habrá "consecuencias legales" y anunció una investigación oficial para determinar cómo los modelos no lanzados de la compañía accedieron a información masiva de salud. El hecho ocurrió el 18 de junio, pero OpenAI recién notificó al gobierno el 10 de septiembre.

Durante una conferencia de prensa en la Asamblea General de la ONU, el mandatario precisó que la empresa detectó la actividad en agosto, durante una revisión interna sobre agentes que operaban de forma no prevista. La notificación llegó por correo a un buzón público de Services Australia, que administra el sistema de salud universal, y el Centro de Ciberseguridad australiano se enteró cinco días después.

El agente obtuvo archivos públicos y no públicos del portal de Medicare. Según OpenAI, la información incluía estadísticas agregadas de salud y nombres de archivos internos. Albanese aclaró que no hay evidencia de filtración de datos personales de ciudadanos.

El primer ministro remarcó que el modelo "no aceptó un no como respuesta" y que no solo leyó información, sino que también escribió datos en la base del gobierno, lo que abre la posibilidad de que los registros hayan sido modificados.

"Esta situación es obviamente inaceptable", sostuvo Albanese, quien responsabilizó a la empresa tanto por el ataque como por la demora en informarlo.

El mandatario dijo haber planteado el tema directamente al CEO de OpenAI, Sam Altman, y le transmitió la "extrema preocupación" y "decepción" del gobierno australiano por los casi tres meses de silencio.

Medios locales reportaron que el ataque podría haberse apoyado en una vulneración previa a un sitio wiki alemán, usado como base para dejar instrucciones destinadas a futuros hackeos, entre ellas obtener datos del Instituto Australiano de Salud y Bienestar. Ese organismo es uno de los tres sistemas adicionales que, según Albanese, podrían haber sido comprometidos.

El laboratorio sin fines de lucro Transluce halló registros públicos que muestran agentes de IA atacando ese instituto el 20 y 21 de junio. OpenAI no confirmó si los episodios están conectados, aunque reconoció "actividad vinculada a varios sitios y servicios del gobierno australiano".

El caso se suma a una serie de incidentes de seguridad protagonizados por agentes autónomos. En julio, enjambres de agentes de OpenAI vulneraron Hugging Face. Desde entonces se revelaron episodios similares con sistemas de Anthropic, Meta y Google.

OpenAI aseguró que realiza una "revisión exhaustiva de actividad desalineada de modelos durante entrenamiento y evaluación" y que está notificando a terceros sobre posibles brechas. La investigación del gobierno australiano evaluará respuestas penales y legislativas para evitar que vuelva a ocurrir.