Semana 15
Estudio de caso: sesgo en reconocimiento facial y sistemas de contratación.

• Caso 1 — Reconocimiento facial: Joy Buolamwini (MIT) demostró que sistemas de reconocimiento facial de IBM, Microsoft y Face++ tenían tasas de error hasta 34% más altas para mujeres negras que para hombres blancos. Causa: datasets de entrenamiento con 80%+ de rostros blancos.
• Caso 2 — Contratación en Amazon: el sistema de IA de Amazon para calificar CVs asignaba menor puntuación a CVs que contenían la palabra "mujeres" (ej: "capitana del club de mujeres de ingeniería"). El sistema fue entrenado con 10 años de CVs de una industria dominada por hombres.
• Categorías éticas de análisis: (1) ¿Quién se beneficia? (2) ¿Quién es perjudicado? (3) ¿Quién decidió el diseño? (4) ¿Quién es responsable del daño? (5) ¿Se puede reparar?
• Conexión con el territorio: en Colombia, ¿existen sistemas algorítmicos que puedan tener sesgo contra comunidades afrodescendientes del Cauca, indígenas o campesinos?

*Tribunal ético tecnológico*: cada equipo recibe uno de los dos casos y prepara un alegato de 5 minutos ante un "tribunal" (el resto del grupo) respondiendo las cinco categorías éticas. El tribunal delibera y emite un veredicto fundamentado. Reto Maker (25 minutos): elaborar una infografía en papel (pliego de cartulina) que comunique el caso y el veredicto de forma visual, apta para exhibir en la Galería de la Memoria y la Voz. * [Video: Joy Buolamwini — ¿Cómo es de sesgado el reconocimiento facial? (YouTube)](https://www.youtube.com/results?search_query=joy+buolamwini+algos+ritmo+ facial+sesgo)