Recientemente, Twitter lanzó un concurso en el que invitó a programadores de todo el mundo a encontrar fallas en su algoritmo de recorte de imágenes. Los resultados de la iniciativa de la red social del pajarito fueron bastante contundentes: se reafirmó la presencia de sesgos por parte del algoritmo, en el que se favorecen las imágenes de personas de piel clara, jóvenes y femeninas. De esta forma, uno de los ganadores remarcó que así Twitter "amplifica los sesgos del mundo real y las expectativas sociales de belleza".
En el 2018, Twitter lanzó un algoritmo que realizaba recortes inteligentes, destacando las áreas importantes de imágenes que no pudieran verse completamente en la previsualización. La controversia acompañó a este algoritmo desde el mismo momento en que llegó a la aplicación, ya que muchos usuarios denunciaron que favorecía a personas con tonalidades de piel más claros por sobre aquellas con piel más oscura. Ante la cantidad de quejas, la compañía creada por Jack Dorsey dio de baja el algoritmo en marzo pasado y prometió hallar todos los problemas en el mismo.
Para hacerlo, Twitter lanzó un concurso destinado a que programadores de todo el mundo descubrieran dónde era que fallaba su algoritmo. Los ganadores del mismo fueron anunciados en la conferencia DefCon 29 del pasado lunes. El primer lugar fue para un estudiante de posgrado de una universidad de investigación suiza llamado Bogdan Kulynych, que demostró que el algoritmo de Twitter favorece las caras "delgadas, jóvenes, de color de piel claro o cálido y textura de piel suave, y con rasgos faciales estereotípicamente femeninos".
En las conclusiones de su trabajo, Kulynych explicó que la inteligencia artificial detrás del algoritmo lo que hace es amplificar los sesgos ya existentes en la sociedad y así recorta a “aquellos que no cumplen con las preferencias del algoritmo de peso corporal, edad, color de piel”. Estos resultados también mostrarían la preferencia por parte del algoritmo de aquellas imágenes que fueron editadas previamente por filtros de belleza como los que se pueden encontrar en Instagram y TikTok.
Quienes se llevaron el segundo y tercer lugar del concurso realizado por Twitter también concluyeron datos relevantes. Por un lado, se reafirmó que el sesgo no se limita a caras reales, sino que también se inclina hacia tonos más claros en emojis, por ejemplo. Por otra parte, Roya Pakzad, quien se quedó con el tercer lugar en el certamen, descubrió que los prejuicios del algoritmo también se pueden hallar en el contenido escrito. Pakzad notó esto al comparar memes escritos en inglés y en árabe, donde el algoritmo resaltaba mayormente el texto en inglés.
Cerrar sesión