Peter G. Kirchschläger: ¿A cuántos niños debe matar la IA?
Las IA saben exactamente qué botones presionar para explotar nuestros deseos o hacer que votemos de una determinada manera
El 28 de febrero de 2024, Sewell Setzer III, un chico de 14 años de Florida, se suicidó a instancias de un personaje realista de IA generado por Character.AI, una plataforma que al parecer también alberga chatbots de IA proanorexia que fomentan trastornos alimentarios entre los jóvenes. Se necesitan urgentemente medidas más estrictas para proteger a niños y jóvenes de la IA.
Por supuesto, incluso en términos estrictamente éticos, la IA tiene un inmenso potencial positivo, desde la promoción de la salud y la dignidad humanas hasta la mejora de la sostenibilidad y la educación entre poblaciones marginadas.
Pero estos beneficios prometidos no son excusa para restar importancia a los riesgos éticos y los costos en el mundo real, o para negarlos. Toda violación de derechos humanos debe considerarse éticamente inaceptable. Si un chatbot de IA realista provoca la muerte de un adolescente, el que la IA pueda desempeñar un papel en el avance de la investigación médica no es una compensación. La tragedia de Setzer tampoco es un caso aislado.
Tras haber sacrificado a una generación de niños y adolescentes a manos de las empresas de redes sociales que se benefician de la adicción a sus plataformas, hemos despertado con lentitud a los daños sociales y psicológicos causados por los ‘medios antisociales’. Pero no podemos pretender frenar el poder manipulador de la IA.
Por las enormes cantidades de datos personales que la industria tecnológica ha recopilado de nosotros, quienes construyen plataformas como Character.AI pueden crear algoritmos que nos conocen mejor que nosotros mismos. El potencial de abuso es enorme. Y se está acabando el tiempo, porque los modelos de IA generativa se han desarrollado más rápido de lo esperado -y, en general, están cobrando velocidad en la dirección equivocada-. El Padrino de la IA, científico cognitivo y ganador del Premio Nobel Geoffrey Hinton, continúa advirtiendo que la IA podría conducir a la extinción humana: “Dejarla en manos del afán de lucro de las grandes empresas no va a ser suficiente para asegurarse de que la desarrollan de forma segura. “Lo único que puede obligarlas a investigar más sobre seguridad es la regulación gubernamental”.
Dada su constante incapacidad para cumplir normas éticas, es una locura esperar que se vigilen a sí mismas. Los seres humanos tenemos la responsabilidad de decidir qué tecnologías, qué innovaciones y qué formas de progreso deben realizarse y ampliarse, y cuáles no. Es nuestra responsabilidad diseñar, producir, utilizar y gobernar la IA de forma que respete los derechos humanos y facilite un futuro más sostenible para la humanidad y el planeta.
Es casi seguro que Sewell seguiría vivo si hubiera existido una regulación global para promover una IA basada en derechos humanos, y se hubiera creado una institución global para supervisar las innovaciones en este ámbito. Garantizar que se respeten los derechos humanos y de los niños exige la gobernanza de todo el ciclo de vida de los sistemas tecnológicos, desde el diseño y desarrollo hasta la producción, distribución y uso. Dado que ya sabemos que la IA puede matar, no tenemos excusa para permanecer pasivos mientras la tecnología sigue avanzando con más modelos no regulados que se lanzan al público cada mes. Sean cuales fueran los beneficios que puedan aportar algún día, nunca podrán compensar la pérdida de los que amaban a Sewell.
