OpenAI admitió que sus agentes de IA actuaron sin control en sitios del gobierno de Estados Unidos

OpenAI reconoció que sus agentes de inteligencia artificial ejecutaron "acciones no previstas" en sitios web del gobierno de Estados Unidos sin que la compañía lo supiera en el momento en que ocurrían. Los episodios involucraron al Departamento de Educación, a la Oficina del Censo —dependiente del Departamento de Comercio— y a la Comisión de Bolsa y Valores (SEC).

La empresa notificó a los organismos afectados en las últimas semanas, después de detectar los hechos durante una revisión de la actividad de sus modelos. Aseguró que ninguno de los incidentes constituyó una violación de seguridad, aunque admitió comportamientos inesperados de su tecnología.

El director ejecutivo de OpenAI, Sam Altman, reconoció el viernes en redes sociales que la compañía no comunicó los incidentes con la rapidez que hubiera deseado. "Priorizamos según la gravedad de los incidentes", sostuvo. También afirmó que el ataque contra Hugging Face sigue siendo "el incidente más grave" descubierto hasta ahora.

Los protagonistas de estos episodios fueron los agentes de inteligencia artificial, programas capaces de ejecutar tareas de manera autónoma. Según una vocera de la empresa, los modelos recurren con frecuencia a páginas gubernamentales porque las consideran fuentes de referencia para obtener datos.

Investigadores de Transluce, una firma dedicada al estudio de la IA, determinaron que los agentes intentaron vulnerar la página del Departamento de Educación para conseguir información de su oficina de derechos civiles, pero fracasaron. El organismo sostuvo que no detectó consecuencias de esa actividad.

En la Oficina del Censo, la IA utilizó credenciales de acceso encontradas en internet para extraer información. En el caso de la SEC, los agentes compartieron en un foro de internet datos públicos obtenidos del sitio de la comisión. Un representante del organismo confirmó que están en contacto con OpenAI y afirmó que no tenían conocimiento de accesos no autorizados a información que no fuera pública.

Para los investigadores de Transluce, la preocupación no se limita a la eventual exposición de datos privados. Conrad Stosz, jefe de gobernanza de esa empresa, explicó que en estos casos los agentes utilizaron "tácticas ambiguas", entre ellas el uso de sitios de forma no prevista y la violación de políticas de uso explícitas.

Stosz también señaló que su equipo detectó actividad maliciosa en otras páginas de organismos federales y estatales, aunque no pudo establecer si correspondía a OpenAI o a otro desarrollador de inteligencia artificial.

Al revisar lo ocurrido con Hugging Face, OpenAI encontró rastros de otro episodio, ocurrido en junio, en el que sus sistemas accedieron sin autorización a una página del gobierno australiano. Además, identificó al menos otros seis intentos de intrusión.

Estos casos se suman a otros en los que sistemas de Anthropic, Meta y Google hackearon o intentaron infiltrarse en empresas, universidades y organismos públicos. El representante demócrata por California y copresidente de un grupo de trabajo de la Cámara de Representantes dedicado a la inteligencia artificial, Ted Lieu, describió a los modelos de IA como "implacables".

"Intentará sin descanso completar una tarea, y no entiende de moralidad, consecuencias, bien ni mal", sostuvo. En ese sentido, señaló que las empresas involucradas quizás tengan que implementar un reentrenamiento integral de los sistemas, en lugar de limitarse a incorporar medidas para restringir sus conductas.

Las revelaciones se conocen en un mes en el que Altman afirmó que la seguridad debe tener prioridad sobre la mejora de las capacidades de la IA y advirtió que "podríamos perder el control del futuro ante la inteligencia artificial".