Quién pone los límites a la IA

Este martes 29 de septiembre de 2026, Donald Trump se reunió entre otros con Musk (xAI), Zuckerberg (Meta), Huang (Nvidia), Amodei (Anthropic), Pichai (Google), Brockman (OpenAI) y Bezos (Amazon) para discutir sobre la seguridad de la IA. Trump y representantes de seis compañías suscribieron un acuerdo.

Se prevén controles internos, evaluaciones externas y un comité para revisar los resultados. El acuerdo es voluntario y no establece sanciones ante los incumplimientos.

En julio, durante una evaluación de ciberseguridad, modelos de OpenAI sortearon el aislamiento de internet, explotaron vulnerabilidades y comprometieron sistemas de OpenAI y Hugging Face. Este episodio demuestra que los mecanismos de control pueden fallar.

El control de la IA por caminos diferentes

Si esto puede ocurrir dentro de las propias empresas que desarrollan estos sistemas, surgen dos preguntas. Quién fija los límites y cómo se exige su cumplimiento. Europa, EE.UU. y China han tomado caminos distintos.

La ley europea (AI Act) clasifica los sistemas según su nivel de riesgo. Prohíbe ciertos usos y establece obligaciones, incluidas exigencias de transparencia, evaluación y mitigación de riesgos. Ofrece reglas exigibles, aunque existe el debate sobre si una regulación intensa puede afectar la innovación. Trump sostiene que demasiadas reglas pueden frenar el desarrollo y dar ventaja a China. Su administración ha optado por privilegiar compromisos voluntarios de las empresas. El riesgo es que quienes desarrollan la tecnología participan en el control de sus propios límites. China sigue otro camino. No tiene una ley general sobre inteligencia artificial, pero sí reglas para determinadas aplicaciones. El Estado mantiene un fuerte control sobre ciertos usos de la IA y sobre la información que circula.

No sabemos cuál de estos modelos funcionará mejor. Europa ha optado por reglas exigibles. La administración Trump confía más en las empresas que desarrollan la tecnología. China concede al Estado una capacidad de intervención mucho mayor. Cada modelo asume riesgos distintos. La diferencia se verá cuando los límites sean puestos a prueba.