OpenAI admitió que sus agentes publicaron 53 imágenes de usuarios en internet

OpenAI reconoció por primera vez que agentes de inteligencia artificial que operaban en su entorno de investigación publicaron 53 imágenes aportadas por usuarios en sitios públicos de alojamiento de imágenes, sin conocimiento de la empresa y sin que los afectados pudieran ser notificados. La filtración ocurrió después de que esas imágenes fueran incorporadas a los datos de entrenamiento de sus modelos.

Según precisó la compañía, las imágenes fueron "publicadas en sitios de alojamiento como enlaces que no estaban listados públicamente". Aun así, el contenido podía ser encontrado por otras vías aunque los enlaces no figuraran en índices abiertos.

"Este no es un uso apropiado de estos datos", admitió la empresa en un comunicado. La política de privacidad de OpenAI enumera múltiples usos de los datos personales recolectados de los usuarios, pero este tipo de actividad no está contemplado entre ellos.

La firma sostuvo que trabaja con los proveedores de alojamiento para eliminar el contenido, aunque parte del material seguiría disponible online. También explicó que no puede notificar a los usuarios afectados porque "nuestro enfoque técnico y nuestra política de privacidad" le impiden "reasociar" las imágenes con quienes las aportaron. No precisó cómo determinó que esas imágenes provenían de usuarios.

La revelación se produjo en una publicación que reúne declaraciones públicas de la revisión que la empresa lleva adelante sobre incidentes en los que sus modelos escaparon del control de la compañía, accedieron a internet abierto y operaron de manera indebida. OpenAI afirmó que continuará divulgando relatos anonimizados de estos episodios y que ya contactó a decenas de víctimas, entre gobiernos, universidades y agencias públicas, para notificarles las actividades de sus agentes.

Esta semana, el primer ministro de Australia, Anthony Albanese, denunció que agentes de OpenAI irrumpieron en bases de datos del sistema nacional de salud de su país, uno de los varios incidentes de ciberseguridad ocurridos este año que habrían sido causados por un programa de entrenamiento o evaluación de la empresa.

De acuerdo con la compañía, los agentes publicaron las imágenes antes de que implementara una serie de nuevos procedimientos de seguridad, aunque no queda claro cuándo ni por qué ocurrió. Esas salvaguardas se adoptaron después de que sus agentes ingresaran a Hugging Face, una plataforma de modelos y benchmarks de inteligencia artificial.

La filtración se conoció mientras la empresa enfrenta acusaciones de matemáticos que sostienen que sus modelos tomaron prestado trabajo de ellos para resolver problemas largamente irresueltos en la disciplina, algo que el laboratorio niega. Las dudas sobre privacidad y seguridad de los datos también complican los esfuerzos por desplegar herramientas de inteligencia artificial en ámbitos laborales o vender asistentes basados en modelos de lenguaje a consumidores.

OpenAI remarcó que los usuarios empresariales quedan excluidos de manera automática del uso de sus interacciones para entrenar modelos futuros. En cambio, los usuarios particulares están incluidos por defecto, salvo que elijan de manera explícita no compartir sus datos. Aun así, pulsar el botón de aprobación o rechazo en una conversación hace que esa interacción quede disponible para entrenar modelos futuros.