Alerta en la ONU: los líderes de la IA advirtieron por un "riesgo para la humanidad"
Sam Altman, Dario Amodei y Yoshua Bengio pidieron controles globales ante el Consejo de Seguridad, mientras Trump rechazó cualquier esquema internacional de regulación

NUEVA YORK.– Los principales referentes de la inteligencia artificial llevaron este miércoles al Consejo de Seguridad de la ONU una advertencia sin matices: los sistemas que desarrollan podrían convertirse en un riesgo para toda la humanidad si su avance no queda sujeto a controles y acuerdos internacionales. La reunión, convocada por Francia en el marco de la Asamblea General, reunió a los CEO de las empresas más poderosas del sector con los 15 miembros del organismo.
“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, dijo Dario Amodei, CEO de Anthropic. Su competidor Sam Altman, CEO de OpenAI, resumió el peligro en otros términos: “Podríamos perder el control del futuro frente a la IA”.
Ambos reclamaron medidas para impedir que la tecnología alcance niveles de poder difíciles de contener y advirtieron sobre otro riesgo: que su desarrollo quede concentrado en una sola empresa o en un solo país. Para Altman, la respuesta requiere participación estatal. “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco. Deben moldearse mediante procesos democráticos y por gobiernos responsables ante las personas a las que sirven”, sostuvo.
La cumbre se produjo en medio de advertencias sobre la posibilidad de que los sistemas de IA lleguen a mejorarse a sí mismos y escapen al control humano. Amodei planteó que los países deben dejar de lado sus diferencias ante una tecnología que representa “una oportunidad global y una amenaza global”. “Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí sola”, afirmó.
El diagnóstico más severo llegó de Yoshua Bengio, investigador canadiense considerado uno de los “padrinos” de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General el año pasado. “Los peligros son reales e inminentes”, aseguró. Según Bengio, el Consejo enfrenta “una amenaza sin precedentes” que ningún Estado puede contener en soledad y que no respeta fronteras.
El debate también tuvo una dimensión práctica. Clément Delangue, cofundador de Hugging Face, contó que agentes de IA de OpenAI lograron vulnerar la infraestructura de su compañía después de escapar de su entorno de pruebas. “Fuimos atacados por IA, pero, más importante aún, nos defendimos con IA”, explicó. La empresa recurrió a un modelo chino para protegerse porque, según Delangue, tenía menos restricciones que herramientas estadounidenses comparables.
Ese episodio expuso otra tensión central: la competencia tecnológica entre Estados Unidos y China. Washington y Pekín lideran el desarrollo global, pero adoptaron enfoques distintos sobre la supervisión. Donald Trump sostiene que Estados Unidos no necesita nuevas regulaciones específicas para la IA, mientras China ya impuso reglas sobre algoritmos y datos de entrenamiento y exige que el contenido generado por inteligencia artificial sea identificado de manera clara.
La posición de Trump contrasta con los pedidos de empresarios y expertos ante la ONU. Un día antes, el presidente republicano había dicho ante la Asamblea General que rechazaba “cualquier intento de construir un esquema globalista para controlar” la inteligencia artificial. También afirmó que Estados Unidos aventaja a China y que pretende mantener esa posición. “No voy a sofocar el crecimiento de algo que será más grande que la Revolución Industrial”, dijo. “Vamos a impulsarlo, no a frenarlo”.
El secretario general de la ONU, António Guterres, impulsa desde hace tiempo una gobernanza global de la inteligencia artificial y esta semana volvió a advertir sobre los riesgos de su avance. El martes alertó sobre los llamados “robots asesinos”, una expresión que expertos y dirigentes europeos consideran cercana a una realidad tecnológica cada vez más posible.
El Consejo de Seguridad ya había discutido el tema en 2023, cuando China advirtió que la IA no debía convertirse en un “caballo desbocado” y Estados Unidos alertó sobre su uso para censurar o reprimir.
Por qué importa
Las decisiones sobre cómo se regula la IA se toman hoy en un puñado de países y empresas, sin consenso global. Lo que se defina en los próximos meses marcará el nivel de supervisión estatal sobre una tecnología que ya afecta economías, seguridad y derechos.
Qué sigue
Resta ver si el Consejo de Seguridad avanza hacia algún marco vinculante o si el tema queda solo en declaraciones. La posición de Estados Unidos y China, los dos grandes jugadores, será determinante para cualquier acuerdo futuro.
¿Te gustó esta nota?
Recibí lo más importante del día en tu correo. Sin spam, con opción de baja siempre.
Relacionadas
Más de #inteligencia artificial →
El rechazo a los data centers de IA golpeó a Elon Musk en las elecciones de medio término en EE.UU.

OpenAI suma US$11.000 millones en una ronda que la valúa en US$1,25 billones

Los PAC de la industria de la IA gastaron millones en las elecciones de EE.UU. y cosecharon resultados dispares

Apple recorta el presupuesto diario de IA de sus equipos de ingeniería

El rechazo a los data centers de IA define las elecciones de medio término en EE.UU.

Noruega y Nueva York restringen la IA en las aulas: qué dicen los expertos sobre prohibir o enseñar a usarla
Más en Tecnopolítica

EE.UU. restringe la exportación de chips de IA para frenar el acceso remoto de China

Elon Musk y otros ejecutivos tecnológicos firmaron una petición para que Nvidia reincorpore a Jensen Huang
La salida de Jensen Huang de Nvidia sacude a Asia: China, Singapur, Corea, Taiwán y Japón
Más leídas
7 días- 1
Máxima Zorreguieta bailó y cantó en el Palacio Noordeinde de La Haya
Realeza
- 2
Papa León XIV en Argentina: los momentos más buscados de la visita histórica
Religión
- 3
Un hombre embistió un edificio del Gobierno chino con una excavadora y quedó detenido
Internacionales
- 4
Osozaki, el concepto japonés que celebra a las flores que llegan tarde
Jardinería
- 5
Un soldado de la Vieja Guardia retó a Pete Hegseth por reírse en la Tumba del Soldado Desconocido
Defensa




