Inteligencia artificial: el riesgo de que las tecnológicas sean sus propios jueces

Desde Silicon Valley, ejecutivos de gigantes tecnológicos como Anthropic y OpenAI admiten públicamente la posibilidad de que la Inteligencia Artificial (IA) presente “escenarios descontrolados” y, ante la amenaza de regulaciones estatales, proponen contratar “evaluadores independientes” en sus propios laboratorios.

Sin embargo, esto podría ocultar una peligrosa estrategia de autorregulación. Si los guardianes no cuentan con la facultad jurídica ni técnica para frenar el entrenamiento o lanzamiento de un modelo riesgoso, quedan reducidos a simples observadores. Además, si las corporaciones eligen a sus auditores, delimitarán lo que ven y la independencia se desvanecerá.

El límite de los evaluadores independientes

Resolver la gobernanza de la IA con pruebas técnicas de laboratorio parece un error de diagnóstico. Aunque detecten fallos de código, son incapaces de ejercer juicio moral; la ética no es un parámetro programable. No es prudente que la supervisión de una tecnología que transforma nuestra estructura social quede en manos de quienes se benefician de su despliegue masivo.

Permitir que las tecnológicas elijan a sus propios jueces deja a la sociedad en indefensión frente a la carrera por el dominio comercial. Una gobernanza real de la IA exige superar los compromisos voluntarios e implementar un marco regulatorio externo, independiente y respaldado por la ley, que subordine el progreso tecnológico al bien común y la dignidad humana.

Estela Zea de Furlato