¿Te imaginas una IA desleal? Quizás alguien ya le está enseñando cómo serlo

Si esta semana pasaste por X (antes Twitter), probablemente te encontraste con uno de esos recordatorios sobre la naturaleza humana que dice más de nosotros de lo que nos gustaría admitir. Personas capaces de defender una idea durante años y abandonarla cuando cambia la dirección del viento. Personas que hablan de principios hasta que estos se interponen en sus intereses. Personas valientes mientras el costo lo pagan otros y convenientes cuando llega el momento de asumir las consecuencias.

Quizás por eso me cuesta compartir el optimismo de quienes creen que la inteligencia artificial resolverá muchos de los problemas que tenemos como sociedad.

La tecnología puede ayudarnos. Puede volvernos más productivos. Puede detectar patrones, acelerar procesos y acercarnos información valiosa. Lo que no puede hacer es corregir aquello que sigue estando mal en nosotros.

Las máquinas aprenden más que datos

Y es que hay algo que solemos olvidar cuando hablamos de IA: ninguna tecnología nace en el vacío. Detrás de cada modelo, de cada respuesta y de cada avance hay seres humanos dejando una huella... Incluso cuando existen filtros y mecanismos de seguridad, siempre queda una marca humana detrás. Y esa marca importa.

Importa porque los modelos terminan absorbiendo mucho más que conocimiento. Absorben nuestras formas de ver el mundo, nuestros sesgos, nuestras prioridades y hasta nuestras obsesiones.

Piensa en algo simple. Si entrenaras una IA exclusivamente con los comentarios de X durante una semana, probablemente sería más agresiva, polarizada y desconfiada que si la entrenaras con libros académicos. No porque la máquina se volviera mala. Sino porque aprendería patrones. Y eso ya ha pasado.

Algoritmos dañados

Las primeras inteligencias de reconocimiento facial identificaban peor a personas negras porque habían sido entrenadas principalmente con rostros blancos. Los algoritmos de contratación llegaron a discriminar mujeres porque aprendieron de historiales de contratación donde predominaban hombres. Los sistemas de recomendación de redes sociales premian el contenido más indignante porque descubrieron que genera más interacción. Ninguno de esos sistemas nació racista, sexista o tóxico. Aprendieron de nosotros.

Si en una sociedad se premia la desinformación, la IA encontrará más desinformación para aprender. Si se premia el oportunismo, encontrará ejemplos de oportunismo. Si se normaliza la deslealtad, la manipulación o la conveniencia por encima de los principios, esos comportamientos pasarán a formar parte del material con el que se construyen los sistemas del futuro. Y aquí viene la parte más inquietante... Los humanos tenemos límites. Una mentira puede llegar a cientos o miles de personas. Una mala conducta puede afectar a un grupo determinado. La IA tiene la capacidad de escalar esos patrones a millones de personas al mismo tiempo.

Ahí está la diferencia entre un defecto humano y un defecto humano amplificado por tecnología.

Entonces, recuerda: las máquinas no heredan solo nuestros conocimientos. También heredan nuestras costumbres. No aprenderá de la versión idealizada que contamos sobre nosotros mismos, sino de lo que hacemos cuando creemos que nadie nos está mirando.

Y si todavía nos cuesta reflexionar sobre el ejemplo que dejamos frente a otros, quizás deberíamos empezar a hacerlo frente a algo mucho más grande: una tecnología que podría terminar replicando exponencialmente no solo nuestra inteligencia, sino también nuestras mañas.