Mientras los inversores derraman miles de millones de dólares sobre las empresas emergentes relacionadas con la inteligencia artificial, la locura de la IA generativa comienza a parecerse a una burbuja especulativa y la bonanza de la IA parece encaminarse hacia la inevitable ruina. En lugar de crear nuevos activos, amenaza con dejar tras de sí montañas de deuda. Muchas de las promesas y peligros vinculados con la IA permanecen en el horizonte: aún no logramos desarrollar máquinas con el nivel de autoconciencia y capacidad para tomar decisiones informadas que se alineen con la forma en que la mayor parte de la gente entiende la inteligencia; por eso muchos tecnólogos proponen incorporar normas morales a los sistemas de IA antes de que superen a los humanos en sus capacidades. Pero el verdadero peligro no es que la IA generativa se torne autónoma, sino que se utilice para socavar la autonomía humana. Los sistemas de IA -los específicos y los diseñados para propósitos generales- capaces de realizar tareas de manera más eficiente que los humanos, representan una notable oportunidad para los gobiernos y corporaciones que procuran ejercer mayor control sobre el comportamiento humano. El aparato de vigilancia estatal moderno se centra en inspeccionar mensajes de correo electrónico y su objetivo es descubrir tramas y conspiraciones contra el orden público y la seguridad nacional penetrando en las profundidades de las mentes de la gente. Pero el grado en que los gobiernos pueden espiar a sus ciudadanos no solo depende de las tecnologías disponibles, sino también de la división de poderes que ofrece el sistema político. China, cuyo sistema regulatorio se centra completamente en mantener la estabilidad política y el respeto de los valores socialistas, logró establecer el sistema de vigilancia electrónica estatal más omnipresente del mundo. El enfoque regulatorio de la Unión Europea, por el contrario, se centra en los derechos humanos fundamentales (dignidad personal, privacidad, no discriminación y libertad de expresión). Sus marcos regulatorios enfatizan la privacidad, protección de los consumidores, seguridad de los productos y moderación de contenidos. Mientras que Estados Unidos depende de la competencia para salvaguardar los intereses de los consumidores, la Ley de IA de la UE, prevista para fines de año, prohíbe explícitamente el uso de datos generados por los usuarios para su clasificación social. El riesgo de que ambos enfoques converjan en última instancia es claro y patente. Esta amenaza que se avecina recibe su impulso del conflicto inherente entre el compromiso occidental con los derechos individuales y sus imperativos de seguridad nacional, que suelen recibir prioridad sobre las libertades civiles en épocas de mayor tensión política. Esta dinámica maligna plantea un fuerte contraste con las predicciones optimistas de que la IA dará lugar a “una amplia gama de beneficios económicos y sociales en todo el espectro de industrias y actividades sociales”. Desafortunadamente la erosión gradual de los poderes compensatorios y de los límites constitucionales a las acciones gubernamentales en las democracias liberales occidentales otorgan ventaja a los regímenes autoritarios. Como observó proféticamente George Orwell, una situación de guerra perpetua o incluso la ilusión de su existencia genera un entorno ideal para el surgimiento de la distopía tecnológica.