Carrera armamentística de la IA: el plan de dos economistas para evitar el desastre
Un documento de MIT y Columbia propone que empresas y gobiernos compartan información sobre sus avances para frenar la competencia por modelos más potentes.

En octubre de 1962, durante dos semanas, el mundo estuvo al borde de una guerra nuclear. Estados Unidos y la Unión Soviética se enfrentaron por el despliegue de misiles en Cuba y, aunque finalmente evitaron el desastre, la crisis de los misiles cubanos marcó un punto de inflexión: ambos bandos entendieron que debían cooperar para no aniquilar a la humanidad.
Hoy, expertos en inteligencia artificial advierten que las empresas del sector y los países donde operan están inmersos en una carrera armamentística con riesgos catastróficos similares. Un nuevo documento de trabajo de Drew Fudenberg, profesor de Economía en el MIT, y Andrew Koh, economista de la Universidad de Columbia e investigador en Google DeepMind, propone una salida: que los competidores compartan información fidedigna sobre sus avances y acuerden dónde empieza el peligro real.
La premisa es simple: todos tienen interés en evitar una catástrofe, por egoístas que sean. Pero las empresas buscan cuota de mercado y miles de millones en inversiones, y los gobiernos quieren los beneficios económicos y el acceso a modelos avanzados. Esas presiones los empujan hacia el borde del desastre, donde temen que agentes de IA descontrolados puedan derribar sistemas financieros, sabotear infraestructuras o lanzar un ataque biológico.
Koh y Fudenberg sostienen que si los competidores compartieran información sobre su progreso y lo cerca que están del límite de seguridad, los incentivos cambiarían. Si OpenAI y Anthropic, por ejemplo, ven que nadie se adentra en terreno peligroso, tendrán menos motivos para hacerlo. Y si alguno acelera, sus rivales lo sabrán y probablemente harán lo mismo, creando un riesgo intolerable para todos.
"Porque OpenAI sabe que los van a agarrar acelerando, que Anthropic va a acelerar en respuesta, que van a iniciar una carrera armamentística o una carrera de IA, eso mismo puede impedirles sobrepasar el umbral de seguridad", explicó Koh. El investigador comparó la lógica con la capacidad de "segundo ataque" de la Guerra Fría: la certeza de una represalia mutua disuadía el primer golpe. "Una de las razones para no atacar primero es que sé que si mi oponente tiene la capacidad de un segundo ataque, simplemente vamos a destruir el mundo", dijo. "Y eso mismo habría impedido los primeros ataques".
Sin embargo, ese intercambio no ocurre. Empresas como Anthropic y OpenAI desarrollan sus modelos más avanzados a puerta cerrada, por lo que deben adivinar el progreso ajeno. El documento sugiere que aceptar supervisión externa y divulgar información vital sobre seguridad y progreso fomentaría la confianza. Ya hay indicios de que algunos actores importantes estarían dispuestos: Dario Amodei, director ejecutivo de Anthropic, pidió en un ensayo reciente que las empresas rindan cuentas sobre sus prácticas de seguridad.
A pesar del acuerdo voluntario firmado el martes por los líderes tecnológicos en la Casa Blanca, ninguna de las dos condiciones se cumple actualmente. La cantidad y variedad de actores involucrados dificultan el cumplimiento. Pero el informe de Fudenberg y Koh sugiere que otra competencia es posible, si los rivales aceptan que, en un punto, el interés común es no destruir el mundo.
Por qué importa
La carrera por la IA más avanzada avanza sin transparencia ni límites claros. Si los competidores no coordinan, el riesgo de daños catastróficos crece para todos. El plan propone una salida basada en la experiencia de la Guerra Fría.
Qué sigue
Resta ver si las empresas aceptan supervisión externa y si el acuerdo voluntario de la Casa Blanca se traduce en mecanismos concretos de verificación. El documento queda como marco para futuras negociaciones.
¿Te gustó esta nota?
Recibí lo más importante del día en tu correo. Sin spam, con opción de baja siempre.
Relacionadas
Más de #inteligencia artificial →Anthropic fija el precio de su salida a bolsa: busca una valuación de US$1,404 billones

El rechazo a los data centers de IA golpeó a Elon Musk en las elecciones de medio término en EE.UU.

OpenAI suma US$11.000 millones en una ronda que la valúa en US$1,25 billones

Los PAC de la industria de la IA gastaron millones en las elecciones de EE.UU. y cosecharon resultados dispares

Apple recorta el presupuesto diario de IA de sus equipos de ingeniería

El rechazo a los data centers de IA define las elecciones de medio término en EE.UU.
Más en Inteligencia Artificial
Más leídas
7 días- 1
Máxima Zorreguieta bailó y cantó en el Palacio Noordeinde de La Haya
Realeza
- 2
Papa León XIV en Argentina: los momentos más buscados de la visita histórica
Religión
- 3
Un hombre embistió un edificio del Gobierno chino con una excavadora y quedó detenido
Internacionales
- 4
Osozaki, el concepto japonés que celebra a las flores que llegan tarde
Jardinería
- 5
Cómo es el papamóvil de León XIV: base de Toyota Hilux y adaptación hecha en Córdoba
Autos







