Supervisión global de la IA ya

Hace varios años, con Mariana Mazzucato planteamos una pregunta sencilla: ¿quién se hace responsable si algo sale mal en el mundo de la IA? La pregunta sigue sin respuesta, incluso después de que el Consejo de Seguridad de las Naciones Unidas se reuniera para debatir los riesgos existenciales que plantea la IA.

En la reunión participaron los mismos directores ejecutivos que piden una pausa mientras compiten en una carrera hacia el abismo. La única voz ajena fue la de Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA. No intervino nadie del Sur Global, de la sociedad civil ni ninguna mujer; esta última omisión pudo haberse evitado invitando a la copresidenta y Premio Nobel de la Paz, Maria Ressa.

El mandato de paz y seguridad del Consejo impidió debatir otros peligros. Cuando todos están al mando, nadie lo está. Las consecuencias sociales, económicas y laborales brillaron por su ausencia, a pesar de que la IA ya afianza desigualdades mediante discriminación algorítmica y acceso desigual al capital y cálculo. También amenaza con sustituir el criterio humano y erosionar habilidades cognitivas y relacionales (como muestra Vladimír Šucha), además de impactar la salud mental juvenil y la violencia contra las mujeres en Internet (informe “All In”).

La reunión se centró en las tecnologías en lugar de abordar las estructuras políticas y económicas subyacentes. Décadas de globalización favorecieron al capital frente al trabajo, creando unas pocas empresas multimillonarias y una economía política resistente a reformas. El acuerdo de la OCDE sobre un impuesto corporativo mínimo del 15% se desmoronó cuando el presidente Donald Trump retiró a EE. UU., permitiendo a los gigantes tecnológicos enriquecerse aún más. Esta es la economía política en la que irrumpe la IA.

Sin regulación de la IA el mundo está expuesto a riesgos inconmensurables

La ONU debió considerar la propuesta de Finlandia, Noruega y más de 20 países sobre protocolos de seguridad comunes, análisis de riesgo obligatorios previos a lanzamientos y una agencia internacional para supervisar la IA de frontera.

Los gobiernos saben actuar con rapidez: la Agencia Internacional de la Energía se creó tras la crisis del petróleo de 1970, el GAFI en 1989 contra el blanqueo, y el Marco Inclusivo de la OCDE (BEPS) contra la evasión fiscal. Deberíamos adoptar el mismo enfoque: partir de lo que debe hacer un organismo de IA y dotarlo de presupuesto y conocimiento. Esto responde al desafío formulado por Michael Kratsios: “No se puede regular una tecnología que no se entiende”.

La propuesta nórdica aboga por un organismo internacional que fije normas, coordine respuestas cuando la IA supere umbrales peligrosos y realice evaluaciones independientes del impacto en las personas, incluyendo registros de riesgos obligatorios y mecanismos de emergencia.

Para funcionar, requiere un organismo técnico independiente con reglas como el principio de “equivalencia funcional” de la OCDE. Sin embargo, pocos países tienen ministerios de IA con capacidad de sanción. Hasta que no desarrollemos instituciones nacionales e internacionales, nuestra pregunta inicial seguirá sin respuesta, dejando al mundo expuesto a riesgos inconmensurables.