Ingeniero de Anthropic renuncia por temor a la IA: "No subestimen el poder de esta tecnología"

Jacob Coxon, ingeniero de 27 años especializado en investigación de preentrenamiento de modelos de IA, sorprendió al anunciar su salida de Anthropic. En un hilo publicado en X, afirmó que tanto OpenAI como Anthropic “no están actuando de manera responsable” y que ambas compañías “corren directamente hacia una superinteligencia auto-mejorante, apostando con nuestras vidas”.

Coxon advirtió que los sistemas de IA pronto serán “sobrehumanos, capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”. Según él, muchos investigadores creen sinceramente que la IA podría acabar con la humanidad antes de que termine la década.

Reacciones dentro de Anthropic

Las declaraciones de Coxon generaron un fuerte impacto en la industria. Evan Hubinger, investigador senior de Anthropic, respondió públicamente que “realmente creemos que la IA podría acabar con todos los seres humanos”, aunque matizó que la probabilidad es inferior al 10 % en la próxima década.

Hubinger aclaró después que el propio Informe de Riesgos de Anthropic reconoce la preocupación, pero sostiene que la IA actual tiene pocas probabilidades de alcanzar un nivel de superinteligencia. Por su parte, Dario Amodei, director ejecutivo de Anthropic, ha advertido en varias ocasiones que la carrera por avanzar rápidamente en esta tecnología podría derivar en un error catastrófico. 

“Se trata de un problema de ingeniería complejo y creo que algo saldrá mal con el sistema de IA de alguien. Esperemos que no sea con el nuestro”, declaró al New York Times.

Un debate que se intensifica

La renuncia de Coxon se suma a una serie de dimisiones y advertencias en el sector. En julio, más de 1.400 empleados de empresas de IA firmaron una carta abierta instando al gobierno de EE.UU. a regular la tecnología. Además, Jakub Pachocki, científico en jefe de OpenAI, alertó recientemente que las capacidades de la IA avanzan más rápido que la capacidad de los investigadores para supervisarlas.