Reforzando el sexismo y los estereotipos con tecnología
La transformación digital ha cambiado la forma en que trabajamos y jugamos.
Pero el progreso tecnológico no siempre se traduce en progreso social con respecto a la paridad de género. Algunos aspectos de la tecnología han reforzado, en lugar de contrarrestar, los estereotipos sexuales. (Lea también: ¿Qué quieren las mujeres en tecnología?)
Aquí hay algunas áreas clave que refuerzan el sexismo y los estereotipos de género dentro de la inteligencia artificial (IA):
Cultura de hermanos en el trabajo
Si bien la tecnología y la IA continúan avanzando, no se puede decir lo mismo de los puestos de las mujeres en estos campos dominados por los hombres. Las mujeres aún ocupan poco más de una cuarta parte (26 %) de los puestos de datos e inteligencia artificial, según el Foro Económico Mundial.
Esa falta de representación significa que la mayoría de las mujeres que trabajan en tecnología (72 %, según TrustRadius) todavía tienen que lidiar con la cultura de los hermanos. Eso puede traducirse en un ambiente muy tóxico, e incluso peligroso, para las mujeres.
En el caso de la compañía de juegos de realidad virtual (VR) Activision Blizzard, la cultura de los hermanos en el lugar de trabajo condujo a salarios desiguales, acoso sexual e incluso agresiones sin consecuencias reales para los perpetradores. The Wall Street Journal informó que el director ejecutivo, que sabía sobre la mala conducta, intervino para asegurarse de que los culpables de mala conducta de las investigaciones internas no fueran despedidos según las recomendaciones.
Cultura de hermanos en juego
El sexismo que impregna las empresas que producen juegos también crea un ambiente hostil para las jugadoras.
En 2023, Reach3 Insights encuestó a 900 mujeres y descubrió que el 59 % de ellas optó por nombres neutros en cuanto al género o incluso masculinos cuando intentaban evitar el acoso sexual.
Más de las tres cuartas partes de las mujeres encuestadas (77%) informaron haber tenido que lidiar con algún tipo de desagrado como mujeres. El juicio sobre sus habilidades fue informado por el 70% y el control de acceso por el 65%. La mitad informó comentarios condescendientes y el 44% dijo que «recibió preguntas de relación no solicitadas mientras jugaba».
Algunas mujeres tienen una experiencia aún peor en la realidad virtual. Jordan Belamire escribió «Mi primer toqueteo de realidad virtual». Un avatar llamado BigBro442 persistió en manosear su avatar a pesar de sus solicitudes y órdenes de detenerse. Belamire señaló:
“A medida que la realidad virtual se vuelve cada vez más real, ¿cómo decidimos qué cruza la línea de una molestia a un asalto real? Eventualmente, vamos a necesitar reglas para domar el salvaje oeste del modo multijugador de realidad virtual”.
Nuevas plataformas, el mismo viejo problema
Otra pregunta es: ¿cuándo va a llegar «eventualmente»?
Belamire escribió «My First Virtual Reality Groping» en 2016, y más de cinco años después se informó de un incidente similar en The Verge. Un probador beta de «Horizon Worlds» de Meta informó que su avatar fue manoseado en la plataforma e informó lo molesto que encontró el incidente.
“El acoso sexual no es una broma en Internet normal, pero estar en realidad virtual agrega otra capa que hace que el evento sea más intenso”, escribió. “No solo me manosearon anoche, sino que había otras personas allí que apoyaban este comportamiento que me hizo sentir aislado en la Plaza”.
La plataforma de Meta ofrece una función de bloqueo, que puede brindar más control a quienes ingresan a un espacio donde cualquiera puede acercarse a su avatar. Pero ese tipo de solución aún no está a la altura de lo que sugirió Belamire: un código de conducta al que los jugadores tendrían que adherirse.
Que el acoso sexual siga siendo un problema grave, que se transmite del mundo real al virtual, refleja el hecho de que la sociedad todavía está sumida en ciertas suposiciones de género. Y estas suposiciones también se expresan en formas más sutiles.
Lo que dice Siri sobre nosotros
Se suponía que la igualdad de género había avanzado desde mediados del siglo pasado, pero las suposiciones de género que siguen vigentes en la tecnología cotidiana nos recuerdan que todavía tenemos un largo camino por recorrer.
Ese fue el enfoque de un estudio reciente de la UNESCO titulado «Me sonrojaría si pudiera».
El título del estudio es una oración que la asistente de voz de género femenino de Apple, Siri, fue originalmente programada para decir en respuesta a los usuarios que la llamaban con un nombre sexista. Apple actualizó la programación de Siri a principios de 2023 para ofrecer un «No sé cómo responder a eso» más apropiado para la máquina cuando alguien hace tal declaración al agente de IA.
Pero aún así, uno tiene que preguntarse por qué la empresa tardó tanto. Siri se lanzó en 2011 y no debería haber tomado casi ocho años reconocer y abordar un problema de suposiciones sexistas.
Como señala el informe, «la obsequiosidad ‘femenina’ de Siri, y el servilismo expresado por tantos otros asistentes digitales proyectados como mujeres jóvenes, proporciona una poderosa ilustración de los sesgos de género codificados en productos tecnológicos, omnipresentes en el sector tecnológico y evidentes en las habilidades digitales. educación.»
¿Lo que hay en un nombre?
Irónicamente, Amazon, cuyo nombre se refiere a una feroz raza guerrera de mujeres, confirmó las suposiciones sexistas sobre las mujeres cuando lanzó su agente de IA. El nombre de Alexa se deriva de Alejandría, una ciudad cuyo reclamo de fama en el mundo antiguo fue su biblioteca, según Daniel Rausch, jefe de la división «Smart Home» de Amazon.
Rausch le dijo a Business Insider que la idea detrás de hacer referencia a Alexandria con el nombre de Alexa era capturar la idea de la colección original de volúmenes de la antigua biblioteca, que albergaba «todo el conocimiento colectivo del mundo en ese momento». Como esa antigua ciudad recibió su nombre de Alejandro Magno, Amazon bien podría haber llamado a su agente «Alex», un nombre usado por hombres y mujeres.
Pero la compañía se decidió por la versión claramente femenina del nombre, al igual que Apple optó por el «Siri» femenino y Microsoft creó Cortana. Probablemente, todas las empresas hicieron el mismo tipo de investigación de mercado que Amazon dijo que hizo. (Lea también: ¿Cómo cambiará la IA el escenario de investigación de mercado?)
Por qué AI usa voces y avatares de mujeres
En la entrevista de Business Insider, Rausch dijo que Amazon «encontró que la voz de una mujer es más ‘comprensiva’ y mejor recibida». El artículo continuó diciendo que esta preferencia por las voces femeninas es anterior a los asistentes de IA.
De hecho, incluso la computadora a bordo del Enterprise habló con una voz femenina. De hecho, la voz era la de Majel Barrett-Roddenberry, esposa del creador de la serie “Star Trek” y más reconocida por los fans por su papel recurrente como la enfermera rubia perfectamente peinada, Christine Chapel, que debía obedecer las órdenes del Dr. .McCoy.
Es cierto que hay agentes de IA que están vinculados a identidades masculinas, como observó Chandra Steele de PC Mag en un blog de Medium en 2018. Pero, por lo general, están vinculados a tareas más serias que las relegadas al asistente virtual en su escritorio o teléfono. En consecuencia, a Watson de IBM, que se asocia con cosas como la investigación médica, se le dio la «voz que suena masculina» que la gente asocia con la confianza y el liderazgo. (Lea también: Los 20 principales casos de uso de IA: inteligencia artificial en el cuidado de la salud.)
En cambio, las voces femeninas se asocian a la cordialidad y la complacencia. “Aunque carecen de cuerpos”, explicó Steele, “encarnan lo que pensamos cuando imaginamos a una asistente personal: una mujer competente, eficiente y confiable”.
A veces, a los asistentes virtuales incluso se les otorga un cuerpo virtual femenino, al menos uno que aparece en la pantalla. Ese es el caso del agente cognitivo Amelia de IPsoft; se la representa como una rubia que podría tener unos veinte años. Ella encarna a la mujer confiable que apoya al que está a cargo, en un segundo plano pero también convencionalmente atractiva.
Abordando la raíz del problema
“La IA no tiene nada de artificial”, declaró Fei-Fei Li, experta en la materia. “Está inspirado por personas, es creado por personas y, lo más importante, impacta a las personas”. Así como «entra basura, sale basura» se aplica a todos los datos, lo mismo se aplica a lo que ella denomina «sesgo dentro, sesgo fuera» para los sistemas de IA.
La ventaja de eso, sin embargo, es que es posible remodelar el camino que se ha establecido. Sin embargo, debemos hacer un esfuerzo consciente para equilibrar las perspectivas alimentadas en la IA. De no hacerlo, dijo Li, «reforzaría los prejuicios que hemos pasado generaciones tratando de superar». (Lea también: Cuidando la brecha de género: 10 datos sobre las mujeres en la tecnología.)
Lo que debemos hacer en el futuro es combatir conscientemente la cultura de los hermanos, ya sea que exprese efectos abiertamente dañinos, como en el caso del acoso y la agresión sexual, o que se manifieste de manera más sutil, como en los estereotipos sexuales de las entidades impulsadas por IA. .
Para lograrlo, es importante que se escuchen las voces de las mujeres, no como ayudantes complacientes, sino como iguales a sus homólogos masculinos en el trabajo y en el juego.
