¿Puede la IA amenazar a la humanidad? Las 8 señales de riesgo que preocupan a Anthropic

Jacob Coxon renunció a Anthropic tras advertir que la carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados progresa sin garantías suficientes para controlar sus riesgos. Su preocupación es compartida por investigadores de la compañía, que reconoce en su propio informe de agosto de 2026, escenarios de riesgo relacionados con sistemas autónomos, aceleración de la IA y amenazas químicas y biológicas.

Una advertencia surgida desde dentro de una de las compañías más importantes de inteligencia artificial volvió a poner sobre la mesa una de las discusiones cada vez más frecuentes de la industria: ¿qué ocurre si el desarrollo de sistemas cada vez más poderosos avanza más rápido que la capacidad humana para comprenderlos y controlarlos?

Jacob Coxon anunció el 8 de septiembre de 2026 su renuncia a Anthropic, después de haber dedicado los últimos tres años a investigación de preentrenamiento tanto allí como en OpenAI. Al explicar su salida, acusó a ambas compañías de avanzar hacia una inteligencia artificial capaz de mejorarse a sí misma sin que existan, a su juicio, garantías suficientes sobre sus consecuencias.

“Ninguna de las dos compañías está actuando de manera responsable”, sostuvo Coxon en una serie de publicaciones en X. Su afirmación más fuerte fue que quienes desarrollan estos sistemas consideran seriamente la posibilidad de que una IA avanzada termine representando una amenaza para la propia humanidad. Coxon asegura, además, que algunos ejecutivos e investigadores utilizan públicamente un lenguaje más moderado que el que emplean en conversaciones privadas sobre esos riesgos.

¿De qué peligro está hablando?

La advertencia no se refiere a que los chatbots disponibles actualmente vayan a adquirir repentinamente conciencia y atacar a las personas. El escenario que preocupa a Coxon es hipotético y mucho más avanzado: la denominada superinteligencia con automejora recursiva.

La idea consiste en que un sistema alcance suficiente capacidad para contribuir a diseñar versiones mejores de sí mismo o sistemas sucesores. Esas nuevas versiones podrían, a su vez, acelerar nuevamente la investigación y el desarrollo. El temor de algunos especialistas es que ese ciclo provoque un aumento de capacidades demasiado rápido para que los humanos puedan supervisarlo adecuadamente. 

Coxon sostiene que sistemas futuros podrían llegar a superar ampliamente las capacidades humanas en áreas como programación, investigación científica o ciberseguridad y, eventualmente, adquirir capacidad para obtener recursos o ejercer influencia en el mundo real. Para él, el problema fundamental es que el progreso continúa mientras permanece abierta la pregunta de cómo garantizar que una inteligencia superior siga objetivos compatibles con los intereses humanos.

Un investigador de Anthropic respalda la preocupación

La advertencia adquirió mayor relevancia porque no quedó únicamente en las palabras de un exempleado. Evan Hubinger, responsable de Alignment Science de Anthropic, respondió públicamente a Coxon y confirmó que comparte una parte sustancial de sus preocupaciones.

Hubinger afirmó que personalmente sitúa en más del 10 % la probabilidad de que una IA provoque la desaparición de la humanidad durante la próxima década. También reconoció que Anthropic todavía no dispone de una solución demostrada para el llamado problema del “alineamiento” de una eventual superinteligencia, es decir, cómo garantizar que los objetivos y acciones de sistemas extremadamente capaces permanezcan bajo control y sean compatibles con los intereses humanos.

Sin embargo, hay una precisión importante. Hubinger aclaró posteriormente que considera bajo el riesgo inmediato de los modelos de IA disponibles actualmente. Su preocupación se concentra en sistemas futuros y, especialmente, en un escenario de automejora recursiva.

Otro investigador de Anthropic, Samuel Marks, responsable de scalable oversight, también intervino en la discusión y afirmó que entre desarrolladores existe preocupación por resultados extremadamente graves derivados de sistemas futuros.

La paradoja de la carrera por llegar primero

Coxon plantea además una contradicción: si investigadores dentro de estas compañías consideran que existe un riesgo potencialmente catastrófico, ¿por qué continúan desarrollando sistemas cada vez más poderosos?

Según su explicación, parte del problema está precisamente en la competencia. Una compañía puede considerar peligroso acelerar, pero al mismo tiempo temer que frenar permita que otro laboratorio llegue primero con menos precauciones. El resultado sería una carrera en la que cada participante encuentra razones para continuar porque supone que los demás también lo harán.

Por ello, Coxon cuestionó que decisiones con potenciales consecuencias globales dependan esencialmente de laboratorios privados y planteó la necesidad de acuerdos para reducir el ritmo de desarrollo. Incluso mencionó que evitar una carrera mundial podría requerir medidas extraordinarias, entre ellas una eventual suspensión temporal del aumento de capacidades de los modelos.

¿Cuáles son los riesgos de la IA que reconoce la propia Anthropic?

Como parte de su Política de Escalado Responsable, Anthropic publica periódicamente informes en los que analiza los riesgos asociados con sus sistemas de inteligencia artificial y evalúa qué tan preparada está la compañía para enfrentarlos. En agosto de 2026 presentó su segundo Informe de Riesgo, que examina escenarios de potencial daño catastrófico y las medidas implementadas para reducirlos.