¿Puede la ONU regular la inteligencia artificial? Estos son los límites y desafíos

Resulta curioso que algunas de las empresas que compiten por desarrollar los modelos de inteligencia artificial más avanzados sean ahora las que piden a los gobiernos establecer reglas. Eso ocurrió esta semana en Nueva York. Sam Altman, CEO de OpenAI, y Dario Amodei, de Anthropic, llegaron al Consejo de Seguridad de Naciones Unidas (ONU) para advertir que el desarrollo avanza demasiado rápido como para que su control dependa solamente de las compañías que lo lideran.

La IA terminó ocupando un espacio importante durante la 81.ª Asamblea General, pero de La Gran Manzana no salió una regulación mundial ni un acuerdo que obligue a países y empresas a cumplir las mismas reglas. Lo que sí dejó la reunión fue una discusión urgente sobre qué hacer con los modelos más avanzados, cómo mantenerlos bajo supervisión y qué papel puede asumir realmente la ONU en su regulación.

“El sector de la IA no puede estar regulado por unas pocas grandes empresas globales”, dijo António Costa, presidente del Consejo Europeo. Daniel Noboa coincidió al pedir una gobernanza internacional que permita aprovechar la tecnología sin profundizar las brechas. A ese llamado se sumó una iniciativa liderada por Emmanuel Macron y Pedro Sánchez para proteger a los menores frente a los algoritmos.

La ONU ya construye una gobernanza para la inteligencia artificial

Naciones Unidas lleva varios años intentando construir ese espacio. En 2024, los Estados miembros aprobaron el Pacto Digital Global, con principios sobre derechos humanos, seguridad, supervisión humana y cooperación internacional. Un año después crearon el Panel Científico Internacional sobre IA, integrado por 40 expertos, y el Diálogo Global sobre Gobernanza de la Inteligencia Artificial, para que los países discutan cómo enfrentar sus riesgos y oportunidades.

Ese panel ya comenzó a ocuparse de problemas que hasta hace poco se discutían dentro de los laboratorios. Este mes publicó un informe sobre los agentes de IA, sistemas capaces de ejecutar varias acciones con cierto grado de autonomía, y las dificultades para mantenerlos bajo control. El asunto llegó también al Consejo de Seguridad, donde Francia recordó casos en los que estos agentes lograron saltarse controles y coordinar acciones no pedidas.

Ante esos riesgos, Amodei pidió estándares internacionales para evaluar los modelos más avanzados y reportar incidentes que puedan afectar la seguridad mundial. Altman, por su parte, propuso compartir información sobre vulnerabilidades y desarrollar métodos comunes para medir sus capacidades. La discusión incluyó además el impacto de la IA sobre el empleo, la concentración económica, los ciberataques y el consumo de agua y electricidad de los centros de datos.

El límite de la ONU: acordar reglas que los países acepten

El problema aparece cuando esas preocupaciones deben convertirse en reglas. La Asamblea puede aprobar resoluciones, crear organismos y establecer principios internacionales. En 2025, por ejemplo, aprobó con 167 votos a favor una resolución sobre inteligencia artificial en el ámbito militar y sus implicaciones para la paz y la seguridad internacionales. Sin embargo, sus resoluciones, por regla general, no son jurídicamente vinculantes. La ONU no puede aprobar una norma y obligar a Estados Unidos, China, Ecuador o cualquier otro Estado miembro a incorporarla a su legislación.

Para llegar a compromisos más fuertes se necesitan acuerdos aceptados por los propios países. Estados Unidos y China concentran buena parte de las empresas, infraestructura y capacidad para desarrollar modelos avanzados, mientras otros países todavía buscan recursos y especialistas para no quedarse únicamente como consumidores. Además, gran parte de la tecnología que se intenta regular pertenece a empresas privadas y puede utilizarse fuera del país donde fue desarrollada.

Esta semana también quedaron expuestas distintas posiciones sobre cómo enfrentar el problema. La Unión Europea defendió una arquitectura regulada y transparente, con Naciones Unidas en un papel central. China pidió mayor cooperación y ecosistemas abiertos. Donald Trump, en cambio, rechazó ante la Asamblea lo que calificó como “esquemas globalistas” para intervenir o regular la tecnología.

América Latina adopta IA, pero recibe poca inversión

Para América Latina, la discusión tiene otro componente. La región concentra el 14 % de las visitas mundiales a herramientas de IA, pero recibe apenas el 1,12 % de la inversión global en esta tecnología, según el Índice Latinoamericano de Inteligencia Artificial 2025. La adopción crece mucho más rápido que la capacidad para desarrollar tecnología propia, una brecha que también condiciona el peso que puede tener la región cuando se discutan reglas.

La ONU ya tiene una estructura para mantener la conversación, pero todavía no una regulación mundial. Los gobiernos volverán a tratar estos temas en la segunda edición del Diálogo Global sobre Gobernanza de la IA, prevista para mayo de 2027, y durante la revisión del Pacto Digital Global.

Hasta entonces, siguen pendientes las preguntas que atravesaron esta Asamblea: cómo evaluar los modelos más avanzados, qué salvaguardias exigir, cómo actuar ante incidentes graves y cuánto control debe permanecer en manos humanas. Ponerse de acuerdo no será sencillo: los mismos países llamados a fijar reglas también compiten por no quedarse atrás en el desarrollo de la IA.