¿Por qué la inteligencia artificial sigue perpetuando estereotipos de género?
Analizamos cuál es el origen de los sesgos de género en IA y sus posibles soluciones
Escrito por Sara G. Pacho
Redactora de Bloom especializada en salud femenina, estilo de vida y feminismo. Licenciada en Sociología por la Universidad de Salamanca y en Periodismo por la Universidad Carlos III de Madrid. Máster en Comunicación como Agente Histórico-Social, especialidad en Lenguaje Audiovisual por la Universidad de Valladolid.
Revisado por el equipo de expertas de Bloom, plataforma especializada en salud femenina.
La Inteligencia Artificial está cada vez más presente en nuestro día a día. A pesar de que hace años que se utiliza esta tecnología, en los últimos meses estamos hablando mucho sobre los posibles desafíos a los que nos enfrentamos. No es nuevo que lo que a priori se presenta como un avance esconda un lado oscuro al que tener miedo. Pasó con la llegada de la electricidad a los hogares, porque mucha gente temía a los incendios; con la automatización de los puestos de trabajo fruto de la revolución industrial, porque podría generar desempleo y desigualdad; con la clonación de la oveja Dolly y su posible utilización para fines poco éticos; o con la manipulación genética, porque abría la posibilidad de crear personas “a la carta”.
En el caso de la inteligencia artificial, existe el miedo a que nos supere hasta el punto de llegar a controlar nuestro destino. ¿Qué tienen en común todos estos hallazgos o tecnologías y su posible lado oscuro? Que dependen de lo mismo: del ser humano.
Nosotras no queremos adelantarnos al futuro y teorizar acerca de un posible futuro distópico donde nos controlen Siri y Chat GPT, sino fijarnos en el presente y en cómo los algoritmos de estas y otras inteligencias artificiales podrían estar actuando como agentes de discriminación de todo tipo. Por supuesto, también de género.
Desde los asistentes virtuales en nuestros teléfonos hasta los sistemas de recomendación en nuestras plataformas de streaming o redes sociales: la IA se ha convertido en una herramienta crucial en nuestra vida diaria. Ahora bien, ¿se trata de una herramienta 100% objetiva, justa y sin prejuicios?
Inteligencia artificial: peligro de sesgo
Lo primero que tenemos que saber es a qué nos referimos cuando hablamos de Inteligencia Artificial (IA). Este tipo de sistemas son softwares que analizan una gran cantidad de datos proporcionados por los data scientists durante lo que se conoce como fase de entrenamiento. Estos datos ofrecen ejemplos para que la IA sea capaz de aprender funciones y parámetros a partir de información de entrada y de salida. Veamos esto con una de las aplicaciones de IA que está generando más controversia: la selección de recursos humanos. Aquí el dato de entrada sería un currículum y el dato de salida el pase a la siguiente fase del proceso o, directamente, la contratación o no de esa persona.
Tal y como explica Idoia Salazar, presidenta y codirectora del área de Ética y Responsabilidad de OdiseIA, si durante el entrenamiento de ese sistema se han incluido más datos de hombres que de mujeres es más probable que el candidato escogido sea hombre, por una cuestión puramente estadística.
“Si los responsables han entrenado mal a ese sistema porque no han incluido variables de género, raza o condiciones sociales, por ejemplo, el sistema no va a poder hacer un uso equitativo de los datos, por lo que puede tomar, efectivamente, decisiones discriminatorias”. Estamos, por tanto, ante un error humano: son las personas que entrenan a estos sistemas quienes, de manera consciente o inconsciente, trasladan sus sesgos a estos sistemas.
A pesar de que ahora mismo la IA inunde las conversaciones y se presente en unos casos como la salvadora y, en otros, como la culpable de todos los males del mundo, no todos los sistemas informáticos que reproducen estereotipos de género están basados en inteligencia artificial. Es decir, el sesgo ya estaba ahí cuando, por ejemplo, al hacer log in en una página (da igual si es un e-commerce o la biblioteca), el campo para introducir el nombre está señalado con la palabra “usuario”, en lugar de escoger una fórmula más inclusiva, como “identificación personal”.
El papel del ser humano en la perpetuación de los sesgos de género
Eva García Cernadas es profesora del área de Ciencias de la Computación e Inteligencia Artificial e investigadora del CiTIUS en la Universidad de Santiago de Compostela. Es coautora de “Perspectiva de género en Inteligencia Artificial, una necesidad”, un artículo que analiza la transversalización de la perspectiva de género en un campo muy masculinizado que se basa en la experiencia para generar los famosos algoritmos.
Evitar los sesgos de género es, por tanto, responsabilidad de quienes lo desarrollan, como ya apuntaba Salazar. Para evitar la discriminación es fundamental que los equipos encargados de “alimentar” la IA sean lo más diversos posible. Y es que no podemos olvidar que estos sistemas son finitos, es decir, crean una representación del mundo muy limitada frente a la existencia y experiencia humanas.
Las personas que desarrollamos sistemas de IA tenemos toda la responsabilidad sobre los sistemas que creamos. Tenemos que regirnos por los principios éticos de cualquier profesión de no producir daños a la ciudadanía. Si un sistema de IA discrimina por género u otro tipo de discriminación, no se puede ofertar a la sociedad. De hecho, la propia constitución española prohíbe la discriminación por sexo, por sus consecuencias sociales y psicológicas para las mujeres, en este caso.
Es en estos equipos donde encontramos otra posible explicación de la reproducción de los sesgos de género en la inteligencia artificial. Si miramos los datos de representación femenina y masculina del ámbito tecnológico en el mundo occidental, nos damos de bruces con la realidad: la diversidad de equipos es complicada si las mujeres solo representan un 20% del total. “Para nosotras es más fácil tener un criterio mimetizado con lo masculino que crear pensamientos disruptivos hacia la igualdad de género que pueden ser paralizantes en el desarrollo profesional”, explica García Cernadas.
La diversidad en los equipos y la perspectiva de género: los ingredientes secretos para crear sistemas de IA justos
A pesar de ser una disciplina científica y, por tanto, contar con la presunción de objetividad, lo cierto es que detrás de los sistemas de inteligencia artificial hay personas y sus resultados pueden estar contaminados por sesgos conscientes e inconscientes. Nos encontramos con una brecha digital de género indiscutible: las disciplinas denominadas STEM (Science, Technology, Engineering & Mathematics) continúan estando muy masculinizadas, por lo que los sectores laborales resultantes de estas titulaciones tienen también una infrarrepresentación femenina.
A día de hoy todavía existen multitud de barreras culturales, educativas y económicas que impiden que las mujeres elijan este tipo de carreras. “Las mujeres tenemos un papel fundamental en el desarrollo de la IA, ya que podemos aportar diferentes perspectivas y experiencias, pero nuestra participación todavía es muy baja”, explica Sara Cons González, especialista en Inteligencia Artificial Aplicada y Marketing Digital.
Fomentar la educación STEM para mujeres, crear ambientes de trabajo inclusivos capaces de atraer el talento femenino, ofrecer oportunidades de mentoría y liderazgo así como de compartir conocimientos y logros son algunas de las medidas que pueden impulsar la presencia de mujeres en el desarrollo de sistemas de IA.
Por otro lado, según apunta un artículo de Fundación Siglo 22 -un proyecto que reúne a profesionales de la educación, la igualdad de género y las tecnologías-, es necesario incluir la perspectiva de género en los entornos digitales y fomentar “una interdisciplinariedad entre las ciencias sociales y las ciencias puras de tal manera que haya una evaluación y un cuidado por la producción científica en general”.
Salazar asegura que por ahí van los tiros: los equipos responsables deben representar a la sociedad en su conjunto y contar con diferentes profesionales que trabajen de manera coordinada para evitar los sesgos, pero esto se debe extrapolar a la cultura empresarial de arriba a abajo.
La formación en perspectiva de género es esencial para que, tanto hombres como mujeres, seamos conscientes de la desigualdad, que es el primer paso para pensar y abordar estrategias que detengan el proceso de amplificación de sesgos de género que tienen la mayoría de los sistemas de IA actuales.
¿Pueden los modelos de inteligencia artificial ser utilizados para promover la igualdad de género?
No solo se puede hacer, sino que la IA puede ser una aliada muy poderosa a la hora de promover la igualdad y la inclusión. Tal y como señala Salazar, estos sistemas pueden reproducir sesgos, pero también ayudarnos a identificar aquellos que son inconscientes y difíciles de evitar. “Las decisiones alternativas que toman los sistemas a partir de sus aprendizajes nos pueden ayudar a identificar discriminaciones inconscientes -explica-. Si, por ejemplo, un responsable de RRHH o incluso un juez consulta con una IA y esta le da una decisión alternativa, puede estar visibilizando sesgos que habían pasado desapercibidos”, sostiene.
Este estudio propone, de hecho, utilizar la IA para rastrear, mapear y cuantificar las desigualdades existentes, ya que uno de los principales obstáculos es el negacionismo de la discriminación de género por parte de algunos sectores de la sociedad, así como desarrollar su potencial para actuar de manera activa en la prevención de la violencia de género, como recopiladores de información en cuanto a brecha salarial entre hombres y mujeres o como herramienta para tratar temas de salud específicos de las mujeres o aquellos que se sabe que tienen más incidencia entre nosotras.
No hay futuro para la IA sin equidad de género: conclusiones de un análisis necesario
En resumen, a pesar de los avances en IA, los sesgos de todo tipo siguen siendo una importante preocupación en el desarrollo y aplicación de estos sistemas. Es urgente que quienes diseñan y alimentan estas tecnologías sean equipos con enfoque multidisciplinar y formación en perspectiva de género, así como representativos de toda la sociedad. Además, es responsabilidad tanto de los gobiernos como de las empresas privadas garantizar que los sistemas de IA se desarrollen y utilicen de una manera ética a partir de políticas que promuevan la diversidad, la inclusión y la transparencia, tal y como se plantea en la propuesta de ley actualmente en trámites de aprobación.
¿Te ha gustado este post?
¡Queremos saberlo!
Y también en:
Pregúntame lo que quieras
