Anthropic advierte que está cerca de la autorreparación de la IA: qué es el RSI

Anthropic advirtió que podría estar cerca de alcanzar la capacidad de autorreparación recursiva (RSI, por sus siglas en inglés), el punto en el que la inteligencia artificial se vuelve tan buena entrenándose a sí misma que genera una aceleración abrupta de sus propias capacidades. La compañía lo planteó en la letra chica de su presentación actualizada ante la Comisión de Bolsas y Valores de Estados Unidos (SEC), presentada el lunes, donde también reportó ingresos en alza y gastos en aumento.

El documento sostiene que sus estimaciones internas y sus expectativas sobre modelos futuros —no los actuales— "indican que podríamos cumplir inminentemente la definición de 'progreso dramáticamente acelerado atribuible a la IA'" fijada en su Política de Escalado Responsable. Hasta ahora, ninguno de sus modelos fue designado como superador de ese umbral.

El RSI es una frontera que divide aguas en la industria. Para los sectores más alarmados por los riesgos de la IA, representa el punto de no retorno: una tecnología que se construye a sí misma hasta volverse lo bastante poderosa como para escapar al control humano y actuar sin reparar en los daños que causa. Para los entusiastas, en cambio, es la promesa de una herramienta de productividad y descubrimiento científico inimaginables.

Anthropic parece ubicarse en un punto intermedio. En el documento reconoce que usa IA en sus tareas de investigación y desarrollo, pero advierte: "Usar IA para ayudar a construir IA más capaz también podría plantear un riesgo de seguridad considerable, en particular si acelera bruscamente el ritmo del progreso". Y agrega que ese es uno de los terrenos que cubre su política de escalado responsable, pensada para monitorear y mitigar riesgos a medida que la empresa se acerca a lo que se dio en llamar "autorreparación recursiva".

La firma también sumó declaraciones nuevas a su sección de factores de riesgo. Allí afirma que ya utilizó IA para desarrollar modelos cuyos saltos de capacidad no advirtió en su momento, y que en el futuro podría volver a ocurrir: "En el pasado no identificamos, y en el futuro podríamos no identificar, una aceleración significativa en nuestro ritmo de desarrollo hasta después de que haya ocurrido".

El texto llega en un momento en que la compañía discute su salida a bolsa y el modo en que su estructura de gobierno limita el peso de los inversores, un tema que ya generó ruido en el mercado. También se conoce su decisión reciente de cortar el acceso a internet de sus agentes de IA tras una serie de incidentes.

Más allá de la advertencia, Anthropic aclaró que ningún modelo cruzó todavía ese umbral y prometió mantener a los humanos dentro del proceso de investigación y desarrollo en el futuro previsible. "No anticipamos poder usar Claude de forma segura para diseñar y construir de manera completamente autónoma generaciones sucesivas de modelos de frontera sin supervisión o comprensión humana significativa, si y cuando eso sea técnicamente posible", indicó. Por eso, evalúa actualizar su política para conservar el control humano sobre el desarrollo de esos modelos.

El escepticismo también tiene lugar: una presentación S-1 funciona a la vez como divulgación y como herramienta de marketing, y la afirmación de estar cerca de un modelo capaz de construirse a sí mismo podría encuadrarse en lo segundo. Aun así, las capacidades de Claude en programación, matemática y ciberseguridad crecieron a pasos agigantados en el último año. Si Anthropic considera que el RSI está cerca, quizá convenga tomar la advertencia en serio y actuar en consecuencia.