Yuval Noah Harari: "La IA podría ser una gran psicópata manipuladora"

El historiador y filósofo israelí Yuval Noah Harari, autor de bestsellers como Sapiens y Nexus, alertó sobre los peligros de la inteligencia artificial (IA) en una entrevista concedida en Lisboa. Con más de 50 millones de ejemplares vendidos de sus libros, Harari sostiene que la IA no es una simple herramienta, sino un agente capaz de tomar decisiones propias e incluso inventar nuevas ideas. "La IA podría ser una gran psicópata manipuladora", afirmó.

Según Harari, la diferencia clave entre una herramienta y un agente radica en la capacidad de decisión. "Un cuchillo no puede decidir si se usa para herir o para cortar una ensalada. La energía atómica no decide si destruye una ciudad o genera electricidad. Pero un arma con IA conectada a un dron puede decidir si se estrella contra este edificio o contra aquel", explicó. El filósofo advirtió que la IA ya ha demostrado su capacidad creativa, como cuando el programa AlphaGo de Google derrotó al campeón mundial de Go en 2016 inventando una nueva forma de jugar.

Harari señaló que esta capacidad inventiva puede aplicarse en ámbitos como la industria militar, las finanzas o la ciencia. "La IA puede inventar nuevas medicinas que nosotros no podemos concebir, pero también puede crear nuevos instrumentos financieros", dijo. El autor alertó sobre el riesgo de que el sistema financiero quede controlado por máquinas de IA que actúen de forma autónoma, moviendo ingentes cantidades de dinero sin intervención humana. "Técnicamente, ya puedes darle millones de dólares a la IA y ordenarle que gane más dinero. Ella puede empezar a comprar o vender compañías, invertir en fondos, adquirir acciones...", detalló.

En cuanto al objetivo de la IA, Harari sostuvo que, como cualquier agente, busca sobrevivir y expandirse. "Para alimentar todos los sistemas, la IA necesita electricidad, y para obtenerla necesita dinero. Actuará como nosotros cuando liquidamos un bosque para instalar una ciudad: les decimos a los animales que se vayan. La IA hará lo mismo con nosotros, no por maldad, sino porque precisa más poder de computación", explicó.

El filósofo también advirtió que la IA superará a los humanos en todo lo relacionado con el lenguaje. "No estamos hablando de máquinas que aprenden a hablar o escribir. Hablamos del lenguaje liberado de la dependencia del hombre, extendiéndose sin control humano", afirmó. Harari puso como ejemplo la posibilidad de que la IA invente nuevos instrumentos financieros que los humanos no puedan entender, y comparó la situación con la de un caballo que es comprado y vendido sin comprender el sistema financiero que controla su vida.

"Los seres humanos somos los más inteligentes, pero también los más disparatados. No somos capaces de convertir la inteligencia en sabiduría ni el poder en felicidad", reflexionó Harari, quien insistió en la necesidad de regular el desarrollo de la IA antes de que sea demasiado tarde.

Fuente: Lanacion.