Carrera armamentística de la IA: el plan de dos economistas para evitar el desastre

En octubre de 1962, durante dos semanas, el mundo estuvo al borde de una guerra nuclear. Estados Unidos y la Unión Soviética se enfrentaron por el despliegue de misiles en Cuba y, aunque finalmente evitaron el desastre, la crisis de los misiles cubanos marcó un punto de inflexión: ambos bandos entendieron que debían cooperar para no aniquilar a la humanidad.

Hoy, expertos en inteligencia artificial advierten que las empresas del sector y los países donde operan están inmersos en una carrera armamentística con riesgos catastróficos similares. Un nuevo documento de trabajo de Drew Fudenberg, profesor de Economía en el MIT, y Andrew Koh, economista de la Universidad de Columbia e investigador en Google DeepMind, propone una salida: que los competidores compartan información fidedigna sobre sus avances y acuerden dónde empieza el peligro real.

La premisa es simple: todos tienen interés en evitar una catástrofe, por egoístas que sean. Pero las empresas buscan cuota de mercado y miles de millones en inversiones, y los gobiernos quieren los beneficios económicos y el acceso a modelos avanzados. Esas presiones los empujan hacia el borde del desastre, donde temen que agentes de IA descontrolados puedan derribar sistemas financieros, sabotear infraestructuras o lanzar un ataque biológico.

Koh y Fudenberg sostienen que si los competidores compartieran información sobre su progreso y lo cerca que están del límite de seguridad, los incentivos cambiarían. Si OpenAI y Anthropic, por ejemplo, ven que nadie se adentra en terreno peligroso, tendrán menos motivos para hacerlo. Y si alguno acelera, sus rivales lo sabrán y probablemente harán lo mismo, creando un riesgo intolerable para todos.

"Porque OpenAI sabe que los van a agarrar acelerando, que Anthropic va a acelerar en respuesta, que van a iniciar una carrera armamentística o una carrera de IA, eso mismo puede impedirles sobrepasar el umbral de seguridad", explicó Koh. El investigador comparó la lógica con la capacidad de "segundo ataque" de la Guerra Fría: la certeza de una represalia mutua disuadía el primer golpe. "Una de las razones para no atacar primero es que sé que si mi oponente tiene la capacidad de un segundo ataque, simplemente vamos a destruir el mundo", dijo. "Y eso mismo habría impedido los primeros ataques".

Sin embargo, ese intercambio no ocurre. Empresas como Anthropic y OpenAI desarrollan sus modelos más avanzados a puerta cerrada, por lo que deben adivinar el progreso ajeno. El documento sugiere que aceptar supervisión externa y divulgar información vital sobre seguridad y progreso fomentaría la confianza. Ya hay indicios de que algunos actores importantes estarían dispuestos: Dario Amodei, director ejecutivo de Anthropic, pidió en un ensayo reciente que las empresas rindan cuentas sobre sus prácticas de seguridad.

A pesar del acuerdo voluntario firmado el martes por los líderes tecnológicos en la Casa Blanca, ninguna de las dos condiciones se cumple actualmente. La cantidad y variedad de actores involucrados dificultan el cumplimiento. Pero el informe de Fudenberg y Koh sugiere que otra competencia es posible, si los rivales aceptan que, en un punto, el interés común es no destruir el mundo.