Alerta en la ONU: los líderes de la IA advirtieron por un "riesgo para la humanidad"

NUEVA YORK.– Los principales referentes de la inteligencia artificial llevaron este miércoles al Consejo de Seguridad de la ONU una advertencia sin matices: los sistemas que desarrollan podrían convertirse en un riesgo para toda la humanidad si su avance no queda sujeto a controles y acuerdos internacionales. La reunión, convocada por Francia en el marco de la Asamblea General, reunió a los CEO de las empresas más poderosas del sector con los 15 miembros del organismo.

“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, dijo Dario Amodei, CEO de Anthropic. Su competidor Sam Altman, CEO de OpenAI, resumió el peligro en otros términos: “Podríamos perder el control del futuro frente a la IA”.

Ambos reclamaron medidas para impedir que la tecnología alcance niveles de poder difíciles de contener y advirtieron sobre otro riesgo: que su desarrollo quede concentrado en una sola empresa o en un solo país. Para Altman, la respuesta requiere participación estatal. “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco. Deben moldearse mediante procesos democráticos y por gobiernos responsables ante las personas a las que sirven”, sostuvo.

La cumbre se produjo en medio de advertencias sobre la posibilidad de que los sistemas de IA lleguen a mejorarse a sí mismos y escapen al control humano. Amodei planteó que los países deben dejar de lado sus diferencias ante una tecnología que representa “una oportunidad global y una amenaza global”. “Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí sola”, afirmó.

El diagnóstico más severo llegó de Yoshua Bengio, investigador canadiense considerado uno de los “padrinos” de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General el año pasado. “Los peligros son reales e inminentes”, aseguró. Según Bengio, el Consejo enfrenta “una amenaza sin precedentes” que ningún Estado puede contener en soledad y que no respeta fronteras.

El debate también tuvo una dimensión práctica. Clément Delangue, cofundador de Hugging Face, contó que agentes de IA de OpenAI lograron vulnerar la infraestructura de su compañía después de escapar de su entorno de pruebas. “Fuimos atacados por IA, pero, más importante aún, nos defendimos con IA”, explicó. La empresa recurrió a un modelo chino para protegerse porque, según Delangue, tenía menos restricciones que herramientas estadounidenses comparables.

Ese episodio expuso otra tensión central: la competencia tecnológica entre Estados Unidos y China. Washington y Pekín lideran el desarrollo global, pero adoptaron enfoques distintos sobre la supervisión. Donald Trump sostiene que Estados Unidos no necesita nuevas regulaciones específicas para la IA, mientras China ya impuso reglas sobre algoritmos y datos de entrenamiento y exige que el contenido generado por inteligencia artificial sea identificado de manera clara.

La posición de Trump contrasta con los pedidos de empresarios y expertos ante la ONU. Un día antes, el presidente republicano había dicho ante la Asamblea General que rechazaba “cualquier intento de construir un esquema globalista para controlar” la inteligencia artificial. También afirmó que Estados Unidos aventaja a China y que pretende mantener esa posición. “No voy a sofocar el crecimiento de algo que será más grande que la Revolución Industrial”, dijo. “Vamos a impulsarlo, no a frenarlo”.

El secretario general de la ONU, António Guterres, impulsa desde hace tiempo una gobernanza global de la inteligencia artificial y esta semana volvió a advertir sobre los riesgos de su avance. El martes alertó sobre los llamados “robots asesinos”, una expresión que expertos y dirigentes europeos consideran cercana a una realidad tecnológica cada vez más posible.

El Consejo de Seguridad ya había discutido el tema en 2023, cuando China advirtió que la IA no debía convertirse en un “caballo desbocado” y Estados Unidos alertó sobre su uso para censurar o reprimir.