CODED BIAS (SESGO PROGRAMADO) o, como le pusieron en Netflix Prejuicio Cifrado, es un documental dirigido por Shalini Kantayya que recorre la lucha de muchas ciber activistas en busca visibilizar los sesgos ocultos en los sistemas de inteligencia artificial: desde racismo hasta serios atropellos a los derechos humanos.
Nos hemos acostumbrado a convivir con algoritmos en la interacción diaria con la tecnología, estos muchas veces son expuestos como soluciones objetivas en base a nuestros comportamientos. Sin embargo, como explica Cathy O’Neil, autora del libro ‘Armas de destrucción matemática, “el algoritmo usa el pasado para predecir el futuro”. Estos sistemas son entrenados con datos recopilados por sus creadores, en su mayoría equipos compuestos por hombres blancos, y es ahí donde aparecen los famosos sesgos.
Esto se hace evidente cuando un proceso automatizado determina descartar las aplicaciones de mujeres para un trabajo en Amazon o como le pasó a la investigadora del instituto de Tecnología de Masachusents (MIT) Joy Buolamwini, del cuando el sistema de reconocimiento facial falla con su tono de piel.
View this post on Instagram
Todo se complica cuando los estados comienzan a utilizar estas mal llamadas “soluciones tecnológicas”, por ejemplo: ¿De quién es la responsabilidad cuando la ciber vigilancia utilizada por la policía para detectar personas buscadas comete un error?
Estas cuestiones, de base, exigen equipos más diversos y multidisciplinares en la creación de dichas tecnologías, pero otra cuestión importante aquí es que los algoritmos que utilizan el aprendizaje automático funcionan como una caja negra. Arrojan resoluciones, pero el proceso que las llevó a esa conclusión queda encriptado, por lo tanto en el fondo no se puede explicar por qué llega a esa conclusión.
Sin más spoilers, me pareció muy interesante y necesario este documental y lo recomiendo fervientemente.
