Renunció un investigador de Anthropic y advirtió que la IA 'podría matarnos a todos'

Uno de los investigadores más importantes de Anthropic, Jacob Coxon, anunció este martes que renunció a la empresa por diferencias con el manejo "irresponsable" que hacen de la inteligencia artificial. Coxon, que trabajó en el desarrollo de Claude y también realizó investigaciones de preentrenamiento para OpenAI, advirtió que "ninguna de las dos compañías actúa de manera responsable" y denunció que se dirigen hacia un desarrollo que podría afectar la vida humana en los próximos años.

Lo comunicó a través de un hilo en su cuenta de X. "Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", escribió.

Coxon afirmó que nadie debe "subestimar el poder de esta tecnología". Agregó que "pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales". En esa línea, señaló: "Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando".

El investigador aseguró que hoy "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década". Y enfatizó: "Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro".

En su hilo, Coxon también se refirió a la contradicción de seguir construyendo IA si se cree que es peligrosa. "En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo", explicó.

Sin embargo, se mostró "optimista" sobre "el potencial para la coordinación". "Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos", concluyó.