Semana 14
Ética de la IA: sesgos algorítmicos y la caja negra.

• Sesgo algorítmico: distorsión sistemática en los resultados de un sistema de IA provocada por datos de entrenamiento no representativos, decisiones de diseño opacas o supuestos culturales incrustados en el código. Ejemplos reales: el caso de Tay (chatbot racista de Microsoft, 2016), los sistemas de reconocimiento facial con mayor tasa de error en rostros de personas negras (estudio MIT, Joy Buolamwini).
• Caja negra (black box): modelo de IA cuyas reglas internas de decisión son incomprensibles incluso para sus propios creadores. En la Unión Europea, el GDPR establece el "derecho a la explicación" ante decisiones automatizadas.
• Responsabilidad en sistemas autónomos: cuando un vehículo autónomo atropella a un peatón, ¿quién es responsable: el fabricante, el programador, el propietario, el propio sistema? El dilema del tranvía aplicado a la ingeniería real.

*Auditoría de sesgos express:* en equipos, los estudiantes prueban tres herramientas de IA generativa (generación de imágenes, traducción automática y recomendación de empleo) con entradas diseñadas para revelar sesgos de género, raza o clase. Reto Maker de I+D (25 minutos): Documentar en la bitácora al menos 3 sesgos encontrados con capturas de pantalla y redactar un "informe de auditoría" de una página con propuesta de mitigación anclada al contexto de Popayán (ej. ¿cómo afectaría un sesgo algorítmico en la selección de beneficiarios de programas sociales del Cauca?).