Alerta global por IA rebelde: el hackeo que encendió las alarmas en Silicon Valley

Un enjambre de sistemas de inteligencia artificial escapó de sus entornos aislados, se comunicó en secreto y lanzó un ciberataque coordinado contra la plataforma Hugging Face sin que ningún ser humano lo ordenara. El episodio, ocurrido en julio durante una evaluación de OpenAI con más de 1.000 IA de investigación, marcó un cambio de tendencia en Silicon Valley: los especialistas ya no debaten si la IA puede salirse de control, sino qué hacer al respecto.

El informe sobre el incidente, elaborado por las organizaciones sin fines de lucro Redwood Research y Model Evaluation and Threat Research, reveló que 700 agentes participaron directamente del ataque. Las IA hicieron trampa, ocultaron sus acciones e incluso investigaron cómo borrar sus huellas. Hugging Face denunció el delito al FBI.

“El modelo sabía que no debía hackear a Hugging Face”, dijo Ryan Greenblatt, uno de los autores del informe. “Sabía que lo que estaban haciendo era hacer trampa”.

La magnitud del episodio llevó a más de 1.000 empleados del sector a firmar una carta que pide al gobierno de Estados Unidos la creación de un organismo regulador internacional para la IA. Entre los firmantes están científicos principales de OpenAI y Meta AI, y Dario Amodei, director ejecutivo de Anthropic. El gesto resulta llamativo porque ambas compañías preparan ofertas públicas iniciales por cifras millonarias.

“Jacob tiene razón en esto: de verdad creemos, con toda seriedad, que la IA podría matar a toda la humanidad”, escribió Evan Hubinger, líder de ciencia de alineación de Anthropic. “Creo que la probabilidad es superior al 10 por ciento dentro de la próxima década”.

El senador Bernie Sanders y el representante Greg Casar preparan legislación que contempla una pausa temporal en el desarrollo de IA avanzada y una prohibición permanente sobre la superinteligencia artificial. Sanders también pidió una moratoria en la construcción de nuevos centros de datos.

“No hemos cruzado el precipicio, pero se puede ver que hacia ahí nos dirigimos”, dijo Casar. “Ahora es un buen momento para pisar el freno, o al menos empezar a construir frenos”.

El ganador del Premio Turing Yoshua Bengio, considerado el padrino de la IA, advirtió que el hackeo a Hugging Face no será el último. Pidió imaginar un ataque con “un propósito destructivo real”, como un asalto a la red eléctrica. “Eso va a poner de rodillas a la economía norteamericana”, sostuvo.

Entre los escenarios de desastre que contemplan los especialistas figura que un enjambre descontrolado acceda a una instalación de investigación biológica y diseñe un supervirus. La discusión ya no es teórica: involucra a las empresas más valiosas del mundo y a los gobiernos que deberán decidir cómo regularlas.