Sesgo algorítmico
Sinónimos: Bias · Sesgo en IA · Algorithmic bias
Definición ampliada
El sesgo algorítmico es un patrón sistemático por el que un sistema produce resultados distorsionados, injustos o desiguales. Puede originarse en los datos, las etiquetas, la variable objetivo, la selección de población, el diseño del modelo, la métrica o la forma de desplegarlo.
No todo error es sesgo y una métrica global alta puede ocultar diferencias entre grupos. Además, distintas definiciones de equidad pueden entrar en conflicto. Por eso el análisis debe conectar resultados estadísticos con consecuencias reales y responsabilidades.
Contexto histórico
El sesgo no nació con los modelos actuales: cualquier sistema que aprende de datos o formaliza una decisión puede reproducir elecciones y desigualdades previas. Su impacto se hizo especialmente visible al desplegar algoritmos en servicios esenciales. En salud, el estudio de Obermeyer y colaboradores mostró cómo usar el coste como proxy de necesidad podía producir una desigualdad racial sistemática [1].
Importancia actual
A fecha de agosto de 2026, evaluar sesgos forma parte de la gestión del riesgo durante todo el ciclo de vida, no de una comprobación aislada antes del despliegue. Requiere relacionar métricas, población, finalidad y consecuencias, además de vigilar cambios en datos y uso [2].
Aplicaciones
Generales
- Auditar selección de personal, crédito o seguros.
- Comparar errores y resultados entre grupos.
- Revisar variables proxy de características sensibles.
- Diseñar seguimiento y mecanismos de reclamación.
Sanitarias
- Evaluar modelos diagnósticos en poblaciones diversas.
- Analizar desigualdades en priorización o asignación de recursos.
- Revisar si la variable objetivo representa necesidad clínica.
- Vigilar el impacto después del despliegue.
Limitaciones
- Los datos históricos pueden reflejar desigualdades estructurales.
- Eliminar una variable sensible no elimina sus proxies.
- Corregir una métrica puede empeorar otra o perjudicar la utilidad.
- Los grupos no son homogéneos y las intersecciones importan.
- La mitigación exige cambios técnicos, organizativos y de gobernanza.
Ejemplos
Un estudio mostró que un algoritmo sanitario que usaba coste como sustituto de necesidad asignaba menor prioridad a pacientes negros con igual puntuación, porque el gasto reflejaba desigualdades de acceso y no solo enfermedad [1]. Los marcos de gestión de riesgos recomiendan evaluar estos impactos durante todo el ciclo de vida [2].