¿Es la IA machista?

A estas alturas de la película, la IA se ha convertido, sin duda, en una herramienta omnipresente. Nos encontramos IA en todos los aspectos de nuestra vida: en el trabajo, en el tiempo de ocio… Podríamos decir, que casi todo lo que nos rodea ha sido “tocado” por la varita mágica de la IA.

Y en medio de toda esta marabunta de IA por todos los lados, me ha hecho plantearme en más de una ocasión, y por diferentes razones, cuestiones como… ¿Es la IA machista?

A priori la respuesta sería que no, porque la IA en sí misma no posee creencias, ni prejuicios. Sin embargo, puede que sí lo tenga la sociedad que las crea y las utiliza, y quizá esto tenga mucho que ver.

¿Quién programa a los programadores?

La respuesta más sencilla o más corta a si la IA es machista podría ser «no más que los humanos que la programan».

Pero, yendo un poco más allá, hay que decir que la mayoría de las personas que desarrollan o han desarrollado estas tecnologías, han sido hombres. ¡Ojo!, no penséis ahora que esto es una acusación directa a todos los hombres del planeta señalándolos de machistas. Nada más lejos de la realidad. Pero lo que sí nos da es un dato, y es que ha habido una falta de diversidad que quizá haya influido en el resultado.

Si la mayoría de las personas que desarrollan programas de IA son hombres y no se hace realmente un esfuerzo consciente por contrarrestar los famosos sesgos, éstos se van a colar irremediablemente en los sistemas que se desarrollen. Este tema, de hecho, nos ha dado mucho juego en algunos de los cursos de IA Generativa que hemos hecho.

El fenómeno de las asistentes virtuales

Por ejemplo, y para que entendáis un poco lo que quiero decir, cojamos el tema de los avatares. Siri, Alexa, Cortana… a todos os suenan ¿verdad?

No son solo nombres femeninos, sino que en su mayoría también utilizan voces femeninas y podríamos decir que son “serviciales y encantadoras”. No me digáis que vosotros no lo habéis pensado…

Pues parece ser que esto no es una casualidad, sino que existen estudios que sugieren que los usuarios generalmente perciben las voces femeninas como más “acogedoras y serviciales”. Y esto, lo queramos o no, podría ser un reflejo de estereotipos de género bastante arraigados aún hoy en día en la sociedad.

Pero si vamos un poco más allá, y no nos quedamos solo en los asistentes por voz, nos encontramos con que estos avatares femeninos, son además jóvenes, y por supuesto, atractivas.

Aquí es donde podríamos echar un vistazo crítico y preguntarnos si estamos proyectando normas sociales en nuestras tecnologías. Podríamos decir que «es solo un avatar», pero estas elecciones visuales pueden tener un impacto en cómo la sociedad conceptualiza el género y la tecnología.

De hecho, con el boom de las redes sociales y de su impacto sobre todo en la población más joven, nos hemos echado las manos a la cabeza muchas veces por cómo “condicionan” sobre los estereotipos de belleza y el gran daño que esto ha causado en numerosas ocasiones. Estaría bien que esto no nos pasara también con la IA.

¿Marketing o machismo?

Por otro lado, podría argumentarse que estas elecciones son simplemente decisiones de marketing destinadas a maximizar la comodidad del usuario. Si las empresas buscan productos que se vendan, y si la voz femenina vende más, ¿por qué optar por algo diferente? Aquí es donde entra la línea borrosa entre seguir la corriente de lo que es comercialmente efectivo y perpetuar estereotipos que podrían ser dañinos.

Pero tampoco es todo negativo. El mundo de la IA está en constante evolución y también lo está, sin duda alguna, la conciencia sobre la diversidad y la inclusión. De hecho, también hay que reconocer que ya se están viendo iniciativas para abordar y corregir estos sesgos.

La esperanza es que, con el tiempo, las IAs reflejen una gama más amplia y equitativa de voces y rostros, alejándose de clichés y acercándose más a la vasta diversidad del público que las utiliza.