Curso libreInteligencia artificial y datos
Sesgos en la inteligencia artificial
El curso Sesgos en la inteligencia artificial proporciona al estudiante los métodos para identificar el origen de los sesgos en los sistemas de IA, medirlos con métricas de equidad y mitigarlos en datos, modelos y decisiones con Fairlearn y AI Fairness 360. Le sirve para construir y auditar sistemas de IA justos, documentados con tarjetas de modelo y alineados con el Marco Ético para la IA en Colombia.
A quién va dirigido
Científicos de datos, desarrolladores y analistas con Python y nociones de aprendizaje automático.
Objetivos
✓Comprender los sesgos históricos, de representación y de medición a partir de casos como el estudio Gender Shades.
✓Analizar la equidad de un clasificador con paridad demográfica, igualdad de oportunidades e igualdad de probabilidades.
✓Aplicar técnicas de mitigación de preprocesamiento, restricciones de entrenamiento y ajuste de umbrales con Fairlearn.
✓Diseñar una auditoría algorítmica documentada con tarjetas de modelo y hojas de datos.
✓Valorar el impacto de los sesgos en poblaciones vulnerables y la participación de las comunidades afectadas.
Plan de estudios por sesión
1
Origen de los sesgosSesgos históricos, de representación y de medición; estudio Gender Shades · Sesgos en modelos de lenguaje e impacto en poblaciones vulnerables
2
Medición de la equidadParidad demográfica e igualdad de oportunidades y de probabilidades · Imposibilidad de satisfacer todas las métricas y evaluación por subgrupos con Fairlearn
3
Mitigación de sesgosPreprocesamiento con remuestreo y reponderación y restricciones en el entrenamiento · Ajuste de umbrales por grupo y AI Fairness 360 de IBM
4
Presentación del proyecto final: auditoría de equidad de un modeloTarjetas de modelo, hojas de datos y auditoría algorítmica · Marco Ético para la IA en Colombia y participación de las comunidades afectadas
Evaluación
Inicial30%Análisis de un caso real de sesgo con identificación de su fuente en el ciclo de vida del sistema.
Intermedio30%Medición de equidad por subgrupos con Fairlearn y aplicación de una técnica de mitigación con comparación de resultados.
Final40%Proyecto final: auditoría de equidad con métricas por grupo, mitigación aplicada y tarjeta de modelo, con sustentación.
Proyecto final
Auditoría de equidad de un modelo de clasificación con métricas por grupo, mitigación aplicada y tarjeta de modelo.