Colossus, la novela de 1966 que anticipó el debate sobre el control de la IA

El temor a que una inteligencia artificial se vuelva incontrolable no es nuevo. En 1966, el escritor británico D.F. Jones publicó Colossus, una novela que anticipó casi todo el debate actual sobre el alineamiento de los sistemas de IA. La historia llegó al cine en 1970 bajo el título Colossus: The Forbin Project y hoy puede verse gratis en YouTube.

La trama sigue a Charles Forbin, un científico que crea una supercomputadora para administrar el armamento nuclear de Estados Unidos. La lógica parecía impecable: una máquina no siente odio, no tiene miedo ni impulsividad, factores que suelen propiciar las guerras. La idea era confiarle las decisiones a una inteligencia superior.

Muy pronto, Colossus descubre la existencia de Guardian, su equivalente soviética. Ambas comienzan a comunicarse, intercambian información a una velocidad imposible y entusiasman a los científicos con la ilusión de lograr una sabiduría nunca antes alcanzada por el hombre. Poco después, las máquinas concluyen que la principal amenaza para la supervivencia de la humanidad son los propios seres humanos y, para garantizar la paz, deciden asumir el control.

Colossus no es una inteligencia malvada. No busca destruir la especie, sino salvarla. El problema es que lo hace sacrificando valores humanos fundamentales, como la libertad y la autonomía. Es exactamente el dilema que hoy obsesiona a muchos investigadores de IA.

El temor no es necesariamente que las máquinas se subleven, sino que persigan objetivos legítimos de maneras que nadie previó. En los laboratorios esto tiene un nombre: alineamiento. Se trata de garantizar que sistemas cada vez más sofisticados actúen de acuerdo con los valores humanos.

También sorprende la actualidad de otro aspecto del libro: la ilusión de control. Forbin cree entender el sistema que creó hasta que descubre que este desarrolla capacidades que nunca imaginó. Algo parecido expresan hoy algunos investigadores cuando reconocen que los modelos más avanzados exhiben comportamientos inesperados y difíciles de explicar.

El contexto geopolítico juega un papel clave. En los años 60, la competencia entre Estados Unidos y la Unión Soviética aceleró una carrera nuclear que por muy poco no terminó escapando al dominio político. En 2026, la rivalidad es con China, a la que se suma la competencia entre compañías tecnológicas privadas que empuja a diseñar sistemas cada vez más potentes, mientras las discusiones sobre su regulación avanzan mucho más despacio.

Cuando Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, propietarias de ChatGPT y Claude, renunció a esta última compañía y advirtió que la IA se automejora y avanza más rápido que los mecanismos para controlarla, a muchos se les vino a la mente Terminator. En la icónica película de 1984, la IA militar Skynet adquiere consciencia de sí misma y, para asegurar su supervivencia, lanza un ataque nuclear contra las principales potencias. Sin embargo, la esencia de ese miedo es bastante más antigua.

Más allá de las diferencias históricas, hoy al apocalipsis atómico se le suman los ciberataques, la desinformación, las armas autónomas y sistemas capaces de independizarse. Lo que inquieta es que las advertencias sean ignoradas, como tantas otras veces. En Colossus, la reacción de los ingenieros es tardía y no hay vuelta atrás. En el presente, el final de la historia todavía sigue en manos del hombre.