Sesgo de automatización
Sinónimos: Automation bias · Sesgo por automatización
Definición ampliada
El sesgo de automatización es la tendencia a confiar de forma excesiva en la salida de un sistema automatizado. Puede producir errores de comisión —se sigue una recomendación incorrecta— o de omisión —no se actúa porque el sistema no generó una alerta—. La carga de trabajo, la confianza y la dificultad de verificar la recomendación influyen en su aparición [1,2].
Contexto histórico
El fenómeno se estudió primero en ámbitos con alta automatización, como la aviación y el control de procesos. Con la expansión de los sistemas de apoyo a la decisión, pasó a investigarse también en sanidad. Las revisiones publicadas en 2012 y 2017 mostraron que no basta con presentar más información: importa si el usuario puede comprobarla de manera efectiva [1,2].
La frontera tecnológica dentada plantea un caso difícil para esa comprobación: tareas que parecen similares pueden quedar a lados distintos de la competencia útil del sistema [3].
Importancia actual
A fecha de octubre de 2026, el sesgo de automatización es especialmente relevante para sistemas generativos y agénticos, cuyas respuestas pueden ser fluidas aunque sean incorrectas. La supervisión humana solo es una salvaguarda real si la persona dispone de tiempo, competencia, información y autoridad para discrepar [4].
Aplicaciones
Generales
El concepto sirve para diseñar interfaces que permitan verificar recomendaciones, calibrar la confianza, mostrar incertidumbre y registrar cuándo una persona acepta o rechaza una propuesta automatizada.
Sanitarias
- Evaluación de alertas y sistemas de apoyo a la decisión clínica.
- Diseño de revisiones humanas con acceso a los datos originales.
- Formación para detectar recomendaciones plausibles pero incorrectas.
- Medición de discrepancias entre profesionales y sistemas automatizados.
Limitaciones
- Es difícil separarlo de otros efectos, como fatiga o presión de tiempo.
- Una explicación puede aumentar la confianza sin mejorar la exactitud.
- Añadir confirmaciones rutinarias puede producir fatiga de alertas.
- La experiencia del usuario no elimina necesariamente el sesgo.
- Su frecuencia depende de la tarea, la interfaz y la fiabilidad percibida.
Ejemplos
Una persona puede aceptar una ruta propuesta sin revisar que termina en una calle cerrada. En sanidad, un profesional podría descartar un hallazgo porque el sistema no lo señaló, o aceptar una dosis sugerida sin contrastarla con los datos clínicos disponibles.
En un experimento con 27 radiólogos, un supuesto sistema de IA sugería la categoría BI-RADS de cada mamografía. Cuando la sugerencia era correcta, los lectores acertaron en torno al 80 %; cuando era errónea, el acierto cayó al 20 % en los menos experimentados, al 25 % en los de experiencia media y al 46 % en los muy expertos [5]. La experiencia atenuó el efecto, pero no lo evitó.
En la práctica real, una evaluación retrospectiva de un sistema de apoyo desplegado en atención primaria en Kenia identificó 115 recomendaciones activamente dañinas, el 7,8 % de las consultas revisadas, y 67 de ellas acabaron en la documentación final. Los autores hablan de una adopción asimétrica de las salidas dañinas frente a las beneficiosas y piden salvaguardas locales y ensayos prospectivos [6].
Relacionados
Referencias
En el Atlas visual: La frontera tecnológica es dentada · Del prompt al sistema · Del benchmark a la cabecera