¿Es Twitter racista? Esta explicación de los expertos le echa más gasolina a la polémica

Un experimento sobre el reconocimiento facial en Twitter es la nueva polémica que le echa leña al fuego al tema del racismo en Estados Unidos ¿Favorece la red social a las personas de raza blanca y oculta a las otras? Un usuario llamado Tony Arcieri y otras personas que realizaron unas pruebas, creen que sí.

La discusión plantea lo siguiente: cuando dos fotos, una de una cara negra y otra blanca, estaban en la misma publicación, Twitter muestra solo la blanca en el dispositivo móvil. Para comprobar esto, Arcieri puso en un mismo plano al expresidente de Estados Unidos, Barack Obama y al senador republicano Mitch McConnell. En el «preview» de la aplicación, sin embargo, solo se veía la del senador.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony "Abolish ICE" Arcieri 🦀🌹 (@bascule) September 19, 2020

De inmediato, muchos usuarios acusaron a la red social de «racial profiling», como se designa al trato discriminatorio hacia otras personas según sus rasgos étnicos. Sin embargo, Twitter respondió que había probado los prejuicios raciales y de género durante el desarrollo del algoritmo y no había encontrado problemas. Pero agregó: «Está claro que tenemos más análisis por hacer».

Liz Kelly, portavoz de la empresa, dijo: «Gracias a todos aquellos que han sacado a colación este modelo. Examinamos potenciales prejuicios antes de implementar nuestra inteligencia artificial y no encontramos evidencia alguna de discriminación en cuanto a la raza y el género, pero es obvio que tenemos que emprender más análisis. Publicaremos nuestros trabajos en este ámbito en modalidad ‘open source’ para que otros puedan evaluarlos y replicarlos».

En 2018, en un post en su blog corporativo, la empresa explicó cómo se determina un «preview». Según este artículo, el contraste de la imagen es clave para que el algoritmo de la red tome una decisión sobre qué es lo que veremos en nuestros dispositivos.

El director de tecnología de Twitter, Parag Agrawal, tuiteó: «Hicimos un análisis de nuestro modelo cuando lo enviamos, pero necesita una mejora continua. Amo esta prueba pública, abierta y rigurosa, y estoy ansioso por aprender de esto».

This is a very important question. To address it, we did analysis on our model when we shipped it, but needs continuous improvement.

Love this public, open, and rigorous test — and eager to learn from this. https://t.co/E8Y71qSLXa

— Parag Agrawal (@paraga) September 20, 2020

El inicio de todo

Según la BBC, la última controversia comenzó cuando el director de la universidad de Vancouver, Colin Madland, estaba solucionando el problema de la desaparición de la cabeza de un colega al usar la aplicación de videoconferencia Zoom. Al parecer, el software identificaba por error la cabeza del hombre negro como parte del fondo y la eliminaba.

Sin embargo, cuando Madland publicó sobre el tema en Twitter, descubrió que su rostro, y no el de su colega, fue elegido constantemente como vista previa en aplicaciones móviles, incluso si cambiaba el orden de las imágenes. Su descubrimiento provocó una serie de experimentos por parte de los usuarios, entre ellos el de Arcieri.

Otros  experimentos mostraban como el algoritmo prefería una foto de archivo de un hombre blanco con traje a una en la que el hombre era negro. El director de diseño de Twitter, Dantley Davis, descubrió que editar el vello facial y las gafas de Madland parecía corregir el problema, «debido al contraste con su piel».

Respondiendo a las críticas, tuiteó: «Sé que piensas que es divertido derrumbarme pero estoy tan irritado por esto como todos los demás. Sin embargo, estoy en condiciones de arreglarlo y lo haré. Es 100% culpa nuestra. Nadie debería decir lo contrario».

Zehan Wang, líder de ingeniería de investigación y cofundador de la empresa de redes neuronales Magic Pony, que ha sido adquirida por Twitter, dijo que las pruebas del algoritmo en 2017, utilizando pares de caras pertenecientes a diferentes etnias, no habían encontrado «sesgos significativos entre etnias (o géneros)», pero que  Twitter ahora revisaría ese estudio.

«Hay muchas preguntas en las que se necesitará tiempo para profundizar», dijo. «Se compartirán más detalles después de que los equipos internos hayan tenido la oportunidad de verlo».