Borges y la IA: el humano en el loop

La pregunta que se plantea hoy es cuánto de lo que observamos al interactuar con la IA, como las películas que vemos o las ideas que tomamos del ChatGPT, está determinado por el sistema y cuánto por nuestras propias decisiones. Este tema se hace más complejo cuando se considera el reinforcement learning from human feedback, un ciclo en el que el sistema aprende de nuestras reacciones, que a su vez fueron moldeadas por el sistema.

A 40 años de su desaparición física, resulta iluminador indagar qué tenía para decir Jorge Luis Borges al respecto. En 'Ajedrez', dice que las piezas del juego no saben que la mano señalada del jugador gobierna su destino y que un rigor adamantino sujeta su albedrío. Borges plantea la pregunta de quién realmente decide, lo que no tiene una respuesta clara.

Los sistemas de recomendación y pronósticos automatizados recuerdan a un perro que busca complacer a su dueño, aprendiendo acciones ante indicaciones del sistema que luego lo premia. Los pronósticos moldean las acciones de sus usuarios tanto como estos moldean a los pronósticos.

En 'El idioma analítico de John Wilkins', Borges plantea la pregunta sobre el arbitraje en cualquier orden, mostrando que cualquier algoritmo conlleva alguna arbitrariedad producto de cómo opinamos que funcionan las cosas. La cuestión clave es el equilibrio entre humanos y máquinas en este 'loop'.