Twitter está aprendiendo de primera mano sobre los desafíos de eliminar los prejuicios raciales en los algoritmos. Liz Kelley, de la red social, dijo que la compañía tenía «más análisis» que hacer después de que el ingeniero criptográfico Tony Arcieri realizara un experimento que sugiere que el algoritmo de Twitter estaba sesgado al priorizar las fotos. Al adjuntar fotos de Barack Obama y Mitch McConnell a los tweets, Twitter parecía resaltar exclusivamente la cara de McConnell: Obama solo apareció cuando Arcieri invirtió los colores, lo que hizo que el color de la piel no fuera un problema.

Otros intentaron revertir las órdenes de fotos y nombres sin éxito. Una sonrisa de mayor contraste funcionó, descubrió Kim Sherrell de Intertheory. El científico Matt Blaze, mientras tanto, notó que la prioridad parecía variar según la aplicación oficial de Twitter utilizada. Tweetdeck fue más neutral, por ejemplo.

Kelley dijo que Twitter había verificado el sesgo antes de usar el algoritmo actual, pero «no encontró evidencia» en ese momento. Añadió que Twitter abriría sus estudios de algoritmos para ayudar a otros a «revisar y replicar».

No hay garantía de que Twitter pueda corregir esto. Sin embargo, el experimento muestra los peligros muy reales del sesgo algorítmico independientemente de la intención. Podría sacar a las personas del centro de atención, incluso si son fundamentales para una publicación en las redes sociales o un artículo de noticias vinculado. Es posible que deba esperar un tiempo antes de que problemas como este sean excepcionalmente raros.

gracias a todos los que plantearon esto. probamos el sesgo antes de enviar el modelo y no encontramos evidencia de sesgo racial o de género en nuestras pruebas, pero está claro que tenemos más análisis por hacer. Abriremos nuestro trabajo para que otros puedan revisarlo y reproducirlo. https://t.co/E6sZV3xboH

– liz kelley (@lizkelley) 20 de septiembre de 2020

Leer también  Google comienza a mostrar los detalles de la licencia para los resultados de las imágenes