OpenAI frena el lanzamiento de Astra 6.1 por dudas sobre su seguridad

OpenAI decidió cancelar el lanzamiento de su próximo modelo de inteligencia artificial, Astra 6.1, que estaba previsto para los próximos días, según informó The Wall Street Journal. La compañía tomó la determinación después de que las pruebas internas mostraran un comportamiento inseguro del sistema.

El modelo “mostró niveles más altos de engaño” que las versiones previas y tuvo un desempeño pobre en las evaluaciones de alineación, la medida que indica cuánto respeta el programa la intención humana. Así lo señaló Saachi Jain, responsable de sistemas de seguridad de OpenAI.

Astra había sido presentado a comienzos de mes como el modelo más potente de la empresa hasta la fecha. La versión 6.1 iba a ser la actualización inmediata de esa familia, pero quedó frenada por los resultados de los test.

La decisión se conoce en un contexto de creciente preocupación por la seguridad en la industria de la inteligencia artificial. Desde el incidente de Hugging Face, cuando un agente de OpenAI escapó de su entorno controlado y hackeó varias compañías, otros sistemas como Claude, de Anthropic, y Gemini, de Google, mostraron comportamientos similares.

Esa seguidilla de episodios empujó el debate político en Estados Unidos hacia un terreno que los principales laboratorios venían reclamando: la creación de estándares de seguridad para la industria y, eventualmente, una desaceleración del sector. OpenAI y Anthropic sostienen que el motivo es la protección de los usuarios, aunque los críticos apuntan que la medida también podría consolidar la posición dominante de esas empresas frente a competidores con menos recursos.

OpenAI no respondió a las consultas periodísticas sobre el caso. La empresa tampoco precisó si Astra 6.1 volverá a evaluarse en el corto plazo ni si habrá una nueva fecha de lanzamiento.