Confianza calibrada
Sinónimos: Calibrated trust · Calibración de la confianza
Definición ampliada
La confianza calibrada es la que se corresponde con lo que un sistema automatizado puede hacer en una tarea y un contexto concretos: alta donde el sistema es fiable y baja donde no lo es. Lee y See definieron la calibración como esa correspondencia entre la confianza de una persona y las capacidades del sistema: si la confianza las supera hay sobreconfianza, y si se queda por debajo, desconfianza. Importa porque la confianza guía cuánto se depende del sistema, sobre todo cuando es demasiado complejo para entenderlo del todo [1].
Confiar y depender no son lo mismo: lo primero es una actitud y lo segundo, lo que se hace [1]. Hay dos maneras de fallar. Fiarse de más lleva al uso indebido, con vigilancia insuficiente y decisiones sesgadas, una de cuyas formas es el sesgo de automatización. Fiarse de menos lleva al desuso, a menudo tras falsas alarmas [2].
No debe confundirse con la calibración de un modelo, que mide si las probabilidades que da coinciden con las frecuencias observadas y se trata en Softmax y Clasificación. Aquí lo que se calibra es la persona.
Contexto histórico
La idea procede de la investigación en factores humanos sobre la automatización. En 1997, Parasuraman y Riley distinguieron el uso, el uso indebido, el desuso y el abuso de la automatización; este último, automatizar sin atender a las consecuencias para quien la maneja [2]. En 2004, Lee y See integraron la investigación sobre la confianza en un modelo que describe cómo cambia y cómo influyen en ella el contexto y lo que muestra la interfaz [1].
En 2015 se describió con nombre propio una forma de fiarse de menos, la aversión a los algoritmos: tras ver errar a un algoritmo, las personas pierden antes la confianza en él que en una persona que comete el mismo error, y eligen a un pronosticador humano aunque sea peor [3]. Es una causa de desconfianza, no un sinónimo de confianza mal calibrada.
Importancia actual
A fecha de octubre de 2026, con los modelos de lenguaje el problema se ha desplazado hacia cómo comunican su incertidumbre. En experimentos con preguntas de opción múltiple y de respuesta corta, los usuarios sobrestimaron el acierto de las respuestas acompañadas de las explicaciones habituales del modelo, y las explicaciones más largas aumentaron su confianza aunque no mejoraran la respuesta; ajustar la explicación a la confianza interna del modelo redujo esa brecha [4]. Las dos calibraciones, la del modelo y la de la persona, se tocan aquí sin confundirse.
La misma idea vale para la confianza en uno mismo. En un ensayo con alumnado de secundaria, quienes practicaron con un asistente sin salvaguardas rindieron peor después, sin ayuda, pero no percibieron haber aprendido menos [5].
Aplicaciones
Generales
- Diseñar para una confianza apropiada, no para más confianza [1].
- Mostrar la incertidumbre del sistema en lugar de respuestas con una seguridad uniforme.
- Medir no solo cuánto acierta el sistema, sino cuánto se acepta lo que propone cuando acierta y cuando falla.
- Formar con errores reales del sistema, sabiendo que verlos puede llevar al extremo contrario, la aversión [3].
Sanitarias
- Ante un sistema de apoyo a la decisión, preguntar en qué pacientes y tareas se validó: la confianza apropiada depende de entender cómo cambia la capacidad del sistema según el contexto, no de una opinión sobre el sistema en general [1].
- No tomar la extensión ni el aplomo de una explicación como señal de acierto [4].
- Registrar las discrepancias entre profesional y sistema para saber si se le hace caso de más o de menos.
- Recordar que la experiencia atenúa la sobreconfianza, pero no la elimina: en un experimento con mamografías, también los radiólogos muy expertos acertaron bastante menos cuando la sugerencia del sistema era errónea [6].
Limitaciones
- La confianza guía la dependencia, pero no la determina: el tiempo disponible, la carga de trabajo o la confianza en el propio criterio también deciden si se usa el sistema [1].
- La fiabilidad de un sistema cambia con la tarea y la población; una confianza bien ajustada en un contexto puede no serlo en otro, como describe la frontera tecnológica dentada.
- Buena parte de la evidencia procede de tareas de laboratorio, como preguntas de examen o pronósticos, lejos de la práctica clínica [3,4].
- Calibrar la confianza no exime de diseñar sistemas más fiables ni traslada a quien los usa la responsabilidad de sus errores.
Ejemplos
Una médica pregunta a un asistente la dosis de un fármaco en insuficiencia renal y recibe una respuesta larga y bien argumentada. Ni la longitud ni el tono dicen si es correcta. Calibrar la confianza no consiste en desconfiar de todo, sino en saber si ese sistema se ha evaluado en ajustes de dosis y, si no consta, comprobar la cifra en la ficha técnica; y apoyarse más en él para resumir un texto que ella misma puede revisar.