El machismo también toca la tecnología

Sesgos aparentemente inocentes son aprendidos a diario por las máquinas y podrían regir a la inteligencia del futuro.

24 ene 2019 / 12:00

El poco interés de las mujeres por la ingeniería (como muestra un botón: de 2.593 postulantes en Espol, solo 789 eran mujeres), la brecha salarial y el techo de cristal que en ocasiones podría llamarse de cemento en el mundo tecnológico, son problemas inmediatamente detectables y que ya hemos tratado. Pero, ¿qué hay con los sesgos machistas que encontramos en los algoritmos? Afectan hoy, y podrían regir a las máquinas del mañana.

En un experimento realizado en 2015 se mostró cómo un anuncio de un puesto de trabajo muy bien retribuido era mucho más visible para hombres que para mujeres en Internet, algo que pone en cuestión la segmentación de los anuncios en la Red. Que la mayoría de las mujeres no pudieran ver ese anuncio por el simple hecho de ser mujeres ya estaba condicionando un posible ascenso social.

Las universidades de Princeton (Estados Unidos) y de Bath (Reino Unido), por su parte, han demostrado que, cuando los sistemas aprenden un idioma a partir de textos ya existentes se ven contagiados de los mismos prejuicios incluidos en el lenguaje. Los autores parten del denominado Test de Asociación Implícita (TAI), un método utilizado para medir los prejuicios en los seres humanos. En los resultados, encontraron que, los nombres femeninos se asociaban a términos relacionados con la familia, mientras que los masculinos lo hacían a términos relacionados con carreras profesionales.

Christian Tutivén, doctor en Automática y Robótica y líder de una iniciativa para capacitar a más personas en Inteligencia Artificial en Guayaquil (AI Saturdays Gye), explica que mientras que la sociedad siga sesgada, los datos que se produzcan también lo estarán. “Los sistemas aprenden lo que les enseñamos, pueden reafirmar o incluso aumentar el sesgo (sexista, racista y más) existente. Resolver estos problemas es vital para el futuro de la Inteligencia Artificial y de nuestra relación con ella”.

Otro punto criticado es la asignación de nombres y voces femeninas a los asistentes virtuales: Siri, Alexa, Bixby, Aura, Irene... Amazon, Google o Microsoft se escudan en estudios de mercado, en los que tanto hombres como mujeres se sienten más cómodos con una voz femenina.

Lo que resulta interesante es que, según un estudio de la Universidad de Stanford, hay una inclinación por las voces femeninas cuando se elige contenido emotivo o de servicio, pero cuando se selecciona contenido instructivo, se prefieren las voces masculinas por credibilidad. Algo como: ellas ayudan, ellos mandan.

Algunas marcas como Apple ha entendido el error y dan la opción al usuario de escoger la voz e incluso el acento. Para Luis Loaiza, emprendedor tecnológico, esa personalización de la tecnología es el camino, mientras que para Alicia Chacón, mentora en ciberseguridad, la inclusión de más mujeres en los equipos de tecnología cambiaría el panorama.

Ellos opinan

“Los algoritmos aprenden lo que tú les enseñas, también los errores”

El aprendizaje automático nos permite enseñar a las computadoras a tomar decisiones basadas en patrones y relaciones que se han descubierto automáticamente en los datos. Estos datos con los que se alimenta a los algoritmos pueden venir con errores (bias) humanos. Es decir, los prejuicios de género, raza, ideologías, etc., que incorpora el lenguaje humano se transmiten a los algoritmos de Inteligencia Artificial (IA) que tratan de imitarlo. Es aquí cuando estos sistemas pueden reafirmar o aumentar el sesgo existente. Pero no solo los datos, el diseño de los sistemas de IA también pueden conducir a resultados sesgados. Si no lo solucionamos veremos formas de sesgo arraigadas en la inteligencia artificial del futuro.

Christian Tutivén / Phd en Automática y Robótica

“Más mujeres en el área podrían ser parte de la solución”

Si bien la voz femenina de los asistentes como Siri se puede justificar con el argumento de que calma a las personas y les da confiabilidad, el machismo en la tecnología es irrefutable. En ofertas de empleos en la red, por ejemplo, donde la única diferencia es el género, se muestran ofertas con menor remuneración a las mujeres. Son los mismos algoritmos que aprenden del comportamiento de los ofertantes y de los buscadores de trabajo y lo replican en los entornos virtuales. Uno de los pasos debería ser corregir esa desviación que se presenta para promover la equidad en oportunidades. Hacen falta más mujeres en el área para lograr equipos más diversos; y, visibilidad para que las que ya están sean vistas como referentes.

Alicia Chacón / Mentora en Tecnología y Ciberseguridad

“El camino correcto está en la tecnología personalizable”

No sé si hay un machismo explícito dentro del desarrollo de estos asistentes. Sin embargo, el camino correcto podría ser el de Siri, un asistente con un nombre que podría considerarse genérico (asexual o unisex) que hoy permite personalizar su voz desde la de una chica americana, hasta de un chico inglés. De pronto en el futuro, con la convergencia entre biotecnología, computación cuántica y más, podamos lograr entidades que puedan tomar la forma que el usuario quiera que tome. Hay que ser conscientes de que la elección de un nombre también responde una decisión de negocios, entonces además de necesitar más mujeres en ingeniería también hacen falta en gerencias de productos, marketing y desarrollo de negocios.

Luis Loaiza / Emprendedor tecnológico

Iniciativas

En España: En el DemoDay de AI Saturdays Barcelona, Irene Font Peradejordi, propuso el proyecto “Bias Corrector”, el cual tiene como objetivo reducir los sesgos cognitivos en la IA mediante la creación de una herramienta que ayude a generar contenido en línea que no sea ofensivo y que muestre una prueba de concepto especial para el sexismo y racismo.

En Ecuador: Girls in Tech Ecuador es una organización sin fines de lucro que promueve la educación y visibilidad de más mujeres en tecnología. Según Lourdes Serrano, directora de la iniciativa local, el objetivo de esta ONG es cerrar la brecha de educación en tecnología y buscar que más mujeres tengan oportunidades iguales de acceso a trabajos en tecnología.

Este contenido es una producción de Gráficos Nacionales SA Granasa, publicada originalmente en el sitio web www.expreso.ec y protegida por derechos de autor. Su reproducción total o parcial queda prohibida.

TAGS:
A LA CARTA