Por Zuria Romero
Actualmente, los sesgos de género, conscientes e inconscientes siguen estando profundamente arraigados en nuestra sociedad. Lo cual se sigue viendo reflejado en las estadísticas de desigualdad de género.
Dentro de las empresas, los sesgos influyen directamente en nuestra toma de decisiones. Están presentes en la selección, contratación y retención de personal, en los ascensos, en las relaciones con clientes, en el reparto de funciones, en la estrategia de negocios, por mencionar algunos.
Además, no contar con diversidad de género en las empresas, disminuye la posibilidad de tener rendimiento comercial competitivo y el impulso de resultados comerciales positivos. Igualmente, se perpetúa la segregación laboral en razón de género; se pierde la oportunidad de obtener mejoras en materia de creatividad, innovación, apertura y en materia reputacional. Una organización cuyos miembros funcionan a base de estereotipos no puede ser innovadora.
De acuerdo con la Organización de las Naciones Unidas, ONU, sin la igualdad entre hombres y mujeres no habrá desarrollo, ni superación de la pobreza, ni reducción de las enfermedades, ni respeto generalizado de los derechos humanos.
Ahora bien, hay que tomar en cuenta que hay diversos elementos que pueden reproducir y acrecentar sesgos de género, como las herramientas que utilizan las empresas.
La inteligencia artificial
En la última década la IA se ha transformado, no tanto respecto a lo que podemos hacer con ella sino en lo que la aplicamos. Esta fase inició en 2007 con la llegada de los teléfonos inteligentes. Pero la IA ha estado presente en la industria desde al menos la década de 1980.
La inteligencia artificial es fundamental para algunas de las empresas más exitosas como Apple, Microsoft y Amazon. Junto con las TICs (Tecnologías de información y comunicación), la IA ha revolucionado el acceso de personas de todo el mundo al conocimiento, y otras ventajas de la sociedad global contemporánea.
La IA qué tanto reproduce los sesgos de género
Si la IA y la automatización no se desarrollan y aplican con perspectiva de género, de manera inconsciente, reproducen y refuerzan los estereotipos de género y normas sociales discriminatorias existentes. Un claro ejemplo son los servicios de asistentes personales virtuales (Siri, Alexa, Cortana) tienen nombres y voz femeninos de manera predeterminada.
Esto se relaciona con el estereotipo de que sólo las mujeres hacen los trabajos secretariales.
A partir de abril del presente año, Siri cuenta con la opción de cambiar la voz a masculino.
Los algoritmos también están impregnados de sesgos de género. De acuerdo con el World Economic Forum, el 74% de los profesionales en IA son hombres, esto significa que las experiencias masculinas configuran y dominan la creación de algoritmos. Las consecuencias pueden ser adversas para las mujeres en el acceso a empleos, préstamos, evaluación de riesgos en el sistema de justicia penal, entre otros.
Un ejemplo concreto es lo que sucedió en Amazon en 2014; se estrenó un nuevo algoritmo para reclutar personal en sus almacenes. Esta herramienta puntuaba de una a cinco estrellas a los mejores candidatos. Gracias a la inteligencia artificial (IA) se ahorraba tiempo al departamento de RRHH. Pero un año después se dieron cuenta que en los puestos técnicos, como el de desarrollador de software, no se había contratado a ninguna mujer. ¿Qué ocurrió? Los datos masivos que sirvieron para alimentar el algoritmo de selección de personal se basaron en currículums recibidos en los últimos diez años, cuando la mayoría de los programadores eran hombres. Entonces, cuando el sistema automático detectaba la palabra ‘mujer’ o alguna similar, directamente lo penalizaba dándole una menor puntuación.
Las ventajas de los sistemas automáticos es que, además de poder trabajar de manera ininterrumpida, son incorruptibles, dedicados y obedientes. Pero mientras más se parezcan a la humanidad en sus predicciones, también podrán comenzar a perpetuar los comportamientos humanos, perdiendo una de sus principales ventajas sobre los seres humanos: no ser humanos.
Las desigualdades de género siguen profundamente arraigadas en la sociedad y la cegada aplicación de algoritmos de aprendizaje automático corre el riesgo de propagar todos los sesgos presentes en el contexto original. Esto podría tener consecuencias alarmantes en muchos escenarios de toma de decisiones.
¿Qué pasaría si incorporamos la perspectiva de género en la inteligencia artificial? ¿Y si traemos este tema a conciencia podremos modificar y masificar el impacto contrario, un impacto positivo?
Las mujeres en la gestión empresarial: Argumentos para un cambio. Organización Internacional del Trabajo, 2019. Obtenido de: https://www.ilo.org/wcmsp5/groups/public/—dgreports/—dcomm/—publ/documents/publication/wcms_700977.pdf
La última década y el futuro del impacto de la IA en la sociedad. Joanna J. Bryson, BBVA, 2018. Obtenido de: https://www.bbvaopenmind.com/articulos/la-ultima-decada-y-el-futuro-del-impacto-de-la-ia-en-la-sociedad/
Afrontar el sesgo de género en la inteligencia artificial y la automatización. Surya Deva, Open Global Rights, 2020. Obtenido de: https://www.openglobalrights.org/addressing-gender-bias-in-artificial-intelligence-and-automation/?lang=Spanish
Man is to Doctor as Woman is to Nurse: the Gender Bias of Word Embeddings. Tommaso Buonocore, Towards Data Science, 2019. Obtenido de: https://towardsdatascience.com/gender-bias-word-embeddings-76d9806a0e17
¿Por qué la inteligencia artificial discrimina a las mujeres? Ricardo Baeza-Yates, Think by SHIFTA, 2019. Obtenido de: https://medium.com/think-by-shifta/por-qu%C3%A9-la-inteligencia-artificial-discrimina-a-las-mujeres-18b123ecca4c