La IA erosiona el juicio propio: cómo los modelos de lenguaje moldean las opiniones

Dos estudios recientes publicados en revistas científicas de primer nivel muestran que los grandes modelos de lenguaje pueden modificar las opiniones políticas de las personas en pocos minutos de conversación. El impacto es significativo, incluso mayor que el de la publicidad electoral tradicional, y en la mayoría de los casos los usuarios no advierten que sus puntos de vista se están desplazando.

La prestigiosa revista científica Nature publicó uno de los estudios más completos sobre esta pregunta. En experimentos con miles de personas en distintos países, un equipo interdisciplinario encabezado por investigadores del MIT asignó a los participantes a conversar con modelos de lenguaje instruidos para abogar por uno u otro candidato, en el contexto de elecciones reales. En pocos minutos, las opiniones de los participantes se movieron en la dirección que defendía cada sistema.

Lo que más llamó la atención es que los sistemas no persuadían con técnicas de manipulación emocional ni con artilugios psicológicos, sino aportando hechos y evidencia relevante. La noticia, a primera vista, tranquiliza: si la máquina convence con información, estaríamos ante la vieja aspiración de la democracia deliberativa cumplida a escala industrial. El filósofo Jürgen Habermas lo formuló en una expresión célebre: en una conversación genuina debería imponerse la fuerza del mejor argumento.

Otro estudio reciente, liderado por el Laboratorio de Ciencias de la Información de la Universidad de Cornell, mostró el lado silencioso del fenómeno. Los participantes debían redactar un ensayo de opinión sobre temas controversiales con la ayuda de un asistente de escritura de inteligencia artificial que ofrecía sugerencias de autocompletado basadas en un sesgo introducido a propósito en su diseño. Al terminar, las opiniones se habían desplazado hacia la posición del sistema. La mayoría no advirtió el sesgo ni su influencia. No hubo debate ni argumentos confrontados: un asistente sesgado que, palabra por palabra, corría el punto de vista del usuario. Nadie se sintió persuadido, y ese es el punto.

La cuestión principal no es que el argumento provenga de la máquina. El problema es que, sin advertirlo, empezamos a concederle la última palabra sobre lo que damos por cierto. La convertimos en una suerte de autoridad epistémica porque ofrece una respuesta inmediata y coherente, hecha a nuestra medida. Poco a poco delegamos el juicio y entramos en lo que los investigadores del IA Lab de la UBA identifican como sedentarismo cognitivo.

La novedad es que esta forma de automatismo puede alcanzar el corazón de la vida democrática: la formación de la opinión pública. Pensar es lo contrario del sedentarismo; exige fricción, detenerse, dudar, buscar otras fuentes. Mientras las tecnologías anteriores aliviaron sobre todo los esfuerzos materiales, la inteligencia artificial puede aliviar la formación del criterio personal, en una cesión casi imperceptible. Así como el sentido de la orientación quedó delegado casi por completo en las aplicaciones de navegación, la formación del juicio puede correr la misma suerte.

Mariano Sigman y Santiago Bilinkis, en su libro Artificial, lo comparan con el sedentarismo físico. La analogía no es perfecta, pero lleva a preguntarse qué capacidades dejamos de ejercitar cuando delegamos, incluso sin darnos cuenta, la tarea de pensar y formar opiniones.

Lo que en cada individuo es la erosión del juicio, en el conjunto significa la pérdida de algo más. El ciudadano crítico no es un lujo cívico: es quien conserva su parte de soberanía. Delegar el juicio sin advertirlo no solo empobrece el pensamiento; cede, en silencio, la porción de poder que a cada uno le toca. La democracia puede empezar a debilitarse no cuando una máquina sugiere qué pensar, sino cuando dejamos de ejercitar la capacidad de formar por nosotros mismos aquello que pensamos.

Más de dos siglos atrás, Thomas Jefferson, uno de los arquitectos del sistema democrático liberal, condicionó su confianza en el autogobierno a una ciudadanía informada: "Allí donde las personas estén bien informadas, se le puede confiar al pueblo la gestión de su propio gobierno". Si estar bien informado es tener la información al alcance, nunca lo estuvimos tanto. Pero si se trata de la capacidad de formarse un juicio propio con ella, la cuestión se vuelve incómoda.

Quienes concibieron los sistemas de gobierno modernos no imaginaron que habría que defender el juicio propio frente a una máquina. Ese es, sin embargo, el tiempo que comenzamos a transitar. El debate sobre la inteligencia artificial suele girar en torno a si algún día podrá tener conciencia, pero hay un tema más inmediato: qué fuerzas configuran la voz a la que empezamos a conceder autoridad. Como escribió Jorge Luis Borges, "Dios mueve al jugador y este la pieza. ¿Qué Dios detrás de Dios la trama empieza?". Si estos sistemas mueven nuestras opiniones, cabe preguntarse quién mueve las suyas. Quizás esa pregunta sea el primer gesto de resistencia frente a la silenciosa erosión del juicio.