¿Y si la IA pudiera crear su propio sucesor? Anthropic propone una pausa global

¿Y si un día ChatGPT no necesitara ingenieros para crear su siguiente versión? La pregunta parece sacada de una película de ciencia ficción, pero esta semana una de las empresas más importantes del mundo en inteligencia artificial aseguró que ese escenario podría estar más cerca de lo que pensamos.

Anthropic, la compañía detrás de Claude, advirtió que en los próximos años los sistemas de IA podrían ser capaces de diseñar y desarrollar a sus propios sucesores sin intervención humana. Es decir, una inteligencia artificial creando una inteligencia artificial mejor que ella misma.

La IA que mejora a la IA

La idea tiene un nombre poco atractivo, pero enormes implicaciones: automejora recursiva.

En términos simples, significa que una IA no solo ayudaría a los humanos a programar software, sino que comenzaría a mejorar su propia arquitectura, corregir sus errores, optimizar su rendimiento y diseñar versiones más avanzadas de sí misma.

Suena impresionante. Y también inquietante. Lo más llamativo es que esta advertencia no viene de un grupo de críticos de la tecnología ni de una organización reguladora. Viene de una de las compañías que está construyendo estos sistemas.

Cuando deja de ser una hipótesis

Anthropic reveló que actualmente más del 80 % del código que incorpora en sus sistemas ya es generado por Claude. Hace poco más de un año esa cifra era inferior al 10 %. El dato ayuda a entender por qué la empresa considera que la posibilidad de que la IA participe cada vez más en su propio desarrollo ya no pertenece al terreno de la especulación.

Por eso propuso algo que hace apenas unos años habría parecido impensable: la posibilidad de una pausa global en el desarrollo de la inteligencia artificial más avanzada.

No porque la tecnología sea necesariamente peligrosa, sino porque las instituciones, las leyes y la sociedad podrían no estar avanzando al mismo ritmo.

La idea de una pausa global

Y aquí es donde la conversación se vuelve interesante. Durante años nos preocupó que las máquinas reemplazaran tareas humanas. Ahora algunas de las empresas que lideran esta revolución comienzan a preguntarse qué ocurrirá cuando las máquinas puedan acelerar su propia evolución más rápido de lo que nosotros somos capaces de comprenderla.

El desafío ya no es construirla

No sabemos si ese momento llegará en dos años, cinco o diez. Tampoco sabemos si realmente será necesario presionar el botón de pausa.

Lo que sí sabemos es que por primera vez los propios creadores de la tecnología están advirtiendo que el desafío ya no consiste únicamente en construir inteligencia artificial más poderosa, sino en asegurarse de que los humanos podamos seguir entendiendo hacia dónde se dirige.