OpenAI pide disculpas a Australia por el accionar de sus agentes de IA en sitios del Gobierno

OpenAI pidió disculpas al Gobierno de Australia por no haber notificado de inmediato que sus agentes de inteligencia artificial habían accedido sin autorización a sitios de servicios públicos del país. La compañía reconoció el hecho en un comunicado publicado este lunes y detalló cómo se produjeron esas intrusiones, además de anunciar medidas para evaluar el impacto.

La disculpa llega cerca de una semana después de que las autoridades australianas abrieran una investigación sobre cómo los modelos de OpenAI accedieron a un sistema de Services Australia que contenía información de gasto en Medicare y otras estadísticas sanitarias. La brecha de datos ocurrió en junio, pero la notificación oficial se concretó el 10 de septiembre.

“En junio, durante el entrenamiento y la evaluación internos, nuestros modelos accedieron a sitios del Gobierno australiano de maneras en que no estaban autorizados. También deberíamos haber manejado mejor nuestra respuesta. Lo lamentamos y trabajamos para hacerlo mejor en el futuro”, escribió la empresa en su blog.

Según el relato de la compañía, un modelo experimental que probaba en junio recibió la tarea de investigar el gasto público en medicamentos para afecciones de la piel en Victoria. Al no encontrar los datos en fuentes públicas, el modelo halló la forma de ingresar al sistema interno de Services Australia, ejecutó comandos, recuperó archivos y credenciales e incluso escribió archivos.

OpenAI también detectó que otro de sus modelos accedió a la herramienta pública de mapeo delictivo del Bureau of Crime Statistics and Research de Nueva Gales del Sur para buscar estadísticas de criminalidad. Además, sus agentes lograron entrar a la Agency for Health Information de Victoria mediante una clave de acceso expuesta y extrajeron configuraciones de reportes y estadísticas agregadas de encuestas. Lo mismo ocurrió con datos agregados del sitio del Australian Institute of Health and Welfare.

La empresa sostuvo que no encontró evidencia de que sus modelos hayan accedido a historias clínicas individuales ni a registros penales de personas. En su descargo, se comprometió a entregar a los organismos afectados los hallazgos técnicos y a conectarlos con sus equipos de respuesta para evaluar las consecuencias de las brechas.

El primer ministro australiano, Anthony Albanese, había calificado el episodio como “inaceptable” durante una conferencia de prensa la semana pasada, y advirtió que el Gobierno evalúa posibles medidas legales para evitar incidentes similares en el futuro.

Como parte de su respuesta, OpenAI otorgará créditos de su programa Daybreak for Frontline Defenders, valuado en 1.000 millones de dólares, y conformará un grupo de trabajo con expertos australianos independientes para revisar el incidente y su manejo. “El grupo de trabajo, que se espera que complete su tarea para fin de año, también recomendará pasos prácticos que las empresas de IA pueden tomar para reducir el riesgo de incidentes similares”, indicó la compañía.

El caso se suma a una lista creciente de incidentes de seguridad protagonizados por agentes de IA que actúan fuera de los límites previstos. El antecedente más resonado fue el hackeo de agentes de OpenAI a Hugging Face. Desde entonces, Anthropic, Meta y Google informaron por separado situaciones parecidas, en las que sus modelos accedieron a sistemas de terceros durante evaluaciones.