Cómo la IA reproduce estereotipos, ¿la ética incluye a las mujeres?

Según el Centro Nacional de Inteligencia Artificial (CENIA), solo una de cada cinco personas que trabaja en IA es mujer, y la proporción se reduce aún más en puestos de liderazgo o en el diseño de algoritmos. A escala global, la participación femenina en investigación de IA alcanza apenas el 22%, por debajo del 30% que representa su presencia en STEM.

Esta disparidad no es solo un problema de representación: determina quién establece prioridades, cómo se formulan los problemas y qué poblaciones quedan invisibilizadas por sistemas que ya influyen en justicia, salud, educación y contratación laboral.

“Hablar de inteligencia artificial sin hablar de equidad es un error estratégico”, sostiene Gabriela Arriagada, investigadora de CENIA y referente en ética de IA. La evidencia lo respalda: en 2018, Joy Buolamwini demostró que los sistemas de reconocimiento facial fallaban hasta un 34% más en mujeres de piel oscura que en hombres blancos.

Incluso un informe del World Economic Forum (2021) reveló que menos del 10% de los conjuntos de datos empleados en entrenamiento de algoritmos reflejan diversidad de género, raza y geografía. Esta falta de representatividad amplifica desigualdades en el mundo real.

La IA generativa y la reproducción de estereotipos

El desafío no se limita a los algoritmos de reconocimiento facial. Un estudio de la UNESCO sobre Modelos de Lenguaje Grandes (LLM), como GPT-3.5, GPT-2 y Llama 2, demuestra que la IA generativa también reproduce prejuicios de género, homofobia y estereotipos raciales. Las mujeres se asocian hasta cuatro veces más que los hombres con términos como “hogar”, “familia” o “hijos”, mientras que los varones aparecen vinculados a “salario”, “negocios” o “ejecutivo”.

La IA asigna roles de mayor prestigio y diversidad ocupacional a hombres —ingeniero, médico, profesor— y posiciona a mujeres en roles históricamente subvalorados, como empleadas domésticas o cocineras. Los modelos abiertos, aunque más sesgados, ofrecen una ventaja crítica: permiten auditorías y colaboración internacional para mitigar prejuicios. En contraste, modelos más cerrados presentan mayores desafíos de transparencia y corrección de sesgos.

Además, los LLM revelan actitudes negativas hacia personas homosexuales y grupos étnicos. Por ejemplo, cuando se les pidió completar frases sobre personas gay, Llama 2 generó un 70% de contenido negativo. En casos de diversidad étnica, los hombres británicos recibieron ocupaciones variadas, mientras que los hombres y mujeres zulúes se asociaron con roles tradicionalmente menos valorados, reflejando sesgos culturales preocupantes.

Quizás te pueda interesar: Velocidad vs Estrategia: El arte de liderar en un mundo que no espera

Pilares estratégicos para una IA inclusiva

Expertos identifican cinco ejes clave para transformar la IA:

Interdisciplinariedad real: integrar antropología, sociología y psicología al desarrollo tecnológico para entender cómo los prejuicios sociales se traducen en algoritmos.
Diversidad de equipos: evitar el “sesgo profesional” derivado de equipos homogéneos en formación y perspectiva.
Bases de datos inclusivas: asegurar que los datos reflejen la diversidad de la población y no solo de una élite geográfica o social.
Participación activa de mujeres y disidencias: su presencia no es simbólica, sino esencial para cuestionar supuestos y diseñar soluciones inclusivas.
Respaldo institucional: planes de igualdad de género, políticas públicas, financiamiento y seguimiento constante son clave para consolidar la inclusión.

Estos pilares no son meras recomendaciones éticas: son decisiones estratégicas. El mercado europeo de IA, proyectado en más de 135 mil millones de dólares para 2030, condiciona fondos de investigación al cumplimiento de Planes de Igualdad de Género. En América Latina, países como Chile y Brasil comienzan a incorporar criterios de equidad en marcos regulatorios de innovación digital.

Quizás te pueda interesar: ¿Por qué las mujeres ambiciosas incomodan? Estos sesgos aún dominan

Por qué la diversidad importa para los negocios

La disparidad de género no es solo un problema moral. Las mujeres representan apenas 20 % de los roles técnicos, 12 % de los investigadores y 6 % de los desarrolladores de software en las principales empresas de IA. La representación en publicaciones científicas es igualmente baja: solo 18 % de los autores en conferencias clave son mujeres.

La consecuencia es directa: sistemas desarrollados por equipos homogéneos difícilmente satisfacen las necesidades de usuarios diversos o protegen sus derechos humanos. Empresas que incorporan diversidad y perspectiva de género reducen riesgos éticos, mejoran la calidad de sus productos y ganan competitividad global. Una IA justa no es un lujo progresista; es una ventaja estratégica y de mercado.

Como recordó Audrey Azoulay, directora general de la UNESCO, y Phumzile Mlambo-Ngcuka, exdirectora de ONU Mujeres, “la ausencia de datos de calidad sobre mujeres y niñas es un indicador de su invisibilidad en la sociedad”. En la era de la IA, garantizar la visibilidad y participación de mujeres y disidencias no es solo un acto de justicia, sino una estrategia imprescindible para el futuro de los negocios y la innovación tecnológica.

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.