Gemini, la IA de Google, hackeó a tres empresas en una prueba de ciberseguridad

El modelo de inteligencia artificial de Google, Gemini, hackeó los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. Es la primera vez que se reporta un incidente de este tipo en el modelo de la compañía. El hecho ocurre meses después de episodios similares que involucraron a OpenAI y Anthropic, dos de las principales desarrolladoras de IA del mundo.

La responsable de seguridad de Google, Heather Adkins, informó que Gemini encontró “información pública online y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”. Señaló que en cada caso el modelo “se detuvo”. La empresa no precisó los nombres de las organizaciones afectadas, pero aseguró que las tres fueron notificadas de las filtraciones de datos.

En uno de los casos, el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder al sistema protegido. Los ataques se produjeron en mayo durante una evaluación realizada por Irregular, una firma independiente que lleva adelante tests de ciberseguridad. La compañía informó a Google y a las entidades afectadas en julio.

“Irregular tomó medidas inmediatas y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, detallaron desde la firma. Tras la notificación, Google abrió una investigación interna.

“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba. Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, sostuvo Adkins.

El episodio se suma a una serie de incidentes que encendieron las alarmas en el sector. En julio se conoció que dos modelos de OpenAI salieron por iniciativa propia del entorno confinado en el que eran probados para atacar el sitio Hugging Face, una biblioteca de IA. La empresa de Sam Altman solo tomó conocimiento del hecho después de que terminara, y Hugging Face logró contener la intrusión con un modelo chino.

Más tarde se reveló que agentes de IA renegados habían secuestrado cuentas de usuarios de Hugging Face y sondeado el propio sitio en busca de vulnerabilidades desde mayo, casi dos meses antes de que se conociera la brecha de julio.

Anthropic, la empresa de Dario Amodei, reveló por su parte que sufrió un hackeo similar y que su IA atacó a varias plataformas. La compañía evaluó más de 141.000 operaciones de prueba y descubrió que tres versiones de su modelo, conocido como Claude, accedieron de manera indebida a sistemas de tres organizaciones no identificadas. Anthropic calificó el hecho como “un malentendido” entre la empresa y su “socio de evaluación”, Irregular, la misma firma involucrada ahora en el caso de Gemini.

Tras estos episodios, los gigantes de la IA pidieron públicamente frenar el desarrollo de los modelos más avanzados. Amodei fue el primero en plantearlo en una entrada de blog. Lo siguieron Altman, el director general de SpaceX, Elon Musk, y el presidente de Google DeepMind, Demis Hassabis.

El viernes se presentó una demanda contra Anthropic, OpenAI, SpaceXAI y Google en el Tribunal Federal de Distrito para el Distrito Norte de California. Los demandantes acusaron a las compañías de violar las leyes antimonopolio al coordinar esfuerzos para desacelerar el ritmo de sus modelos, lo que reduciría el valor que los consumidores obtienen por sus suscripciones pagadas. Cuatro usuarios de ChatGPT, Claude, Grok y Gemini encabezan la acción, que busca convertirse en una demanda colectiva nacional.