La inteligencia artificial avanza, pero ¿alguien sabe dónde está el freno?

El cine nos entrenó durante décadas para temer este momento: ese punto en el que la tecnología cruza un límite y los humanos pierden el control. En Terminator, Skynet decide que somos el problema. En Matrix, las máquinas terminan dominándonos. Siempre fue ciencia ficción. El problema es que algunas señales ya empiezan a incomodar.

Jacob Coxon, ingeniero de 27 años que trabajó en OpenAI y Anthropic, renunció a esta última porque considera que estamos construyendo sistemas cada vez más poderosos sin garantías suficientes para controlarlos y advierte que, hacia finales de esta década, podrían llegar a escapar de nuestro control.

No habla de que mañana ChatGPT despierte, recuerde que no le dijimos “gracias” y venga por nosotros. El peor escenario sería una IA capaz de programar, investigar y ayudar a crear otra IA más avanzada sin que podamos seguirle el ritmo. Un sistema que encuentre vulnerabilidades informáticas, diseñe ataques o ayude a desarrollar armas antes de que alguien consiga detenerlo.

El peligro ya no está solo en el futuro

Parte de ese riesgo ya tiene ejemplos reales. Anthropic bloqueó esta semana usos de su IA relacionados con investigaciones que podían contribuir al desarrollo de patógenos peligrosos. Y eso cambia bastante la conversación. Ya no se trata únicamente de preguntarnos qué podría hacer una IA dentro de diez años, sino qué puede hacer hoy.

Porque una herramienta capaz de ayudarnos a analizar miles de datos también puede ser utilizada para acelerar una investigación peligrosa. La tecnología es la misma; lo que cambia son las manos que la utilizan y los límites que existen.

La carrera que nadie quiere frenar

Entonces, si quienes construyen estas herramientas conocen los riesgos, ¿por qué no frenan? Porque compiten. Si una empresa desacelera, otra puede adelantarse; si un país impone límites, otro puede no hacerlo. OpenAI evalúa reducir el ritmo de desarrollo de sus modelos más avanzados y coordinar posibles pausas ante riesgos graves de seguridad. Pero una pausa sirve de poco si los demás continúan acelerando.

No quiero una era sin IA ni creo que debamos detenerla por miedo. Pero tampoco quiero que la velocidad de esta carrera sea la que decida hasta dónde llegamos.