Explicabilidad
Sinónimos: IA explicable · Explainable AI · XAI
Definición ampliada
La explicabilidad se refiere a la posibilidad de ofrecer razones comprensibles sobre el comportamiento o las salidas de un sistema de IA. Puede proceder de un modelo interpretable por diseño o de métodos posteriores que aproximan qué variables influyeron en una predicción.
Una explicación útil depende de su destinatario y su finalidad. No necesita lo mismo una persona afectada por una decisión, un profesional, un auditor o quien depura el modelo. En salud, la explicabilidad debe relacionarse con seguridad, responsabilidad y capacidad real de cuestionar una recomendación [1].
Contexto histórico
La interpretación de modelos forma parte del análisis estadístico desde antes de la IA moderna. El problema adquirió nueva relevancia con modelos complejos cuyo funcionamiento no puede resumirse mediante unas pocas reglas. En salud, la explicabilidad pasó a estudiarse como una cuestión técnica, clínica, ética y organizativa, no solo como una propiedad del algoritmo [1].
Importancia actual
A fecha de agosto de 2026, explicar un resultado puede ayudar a auditar errores, discutir una recomendación o justificar controles, pero una explicación plausible no demuestra que el modelo sea correcto. La utilidad debe evaluarse para cada destinatario y decisión, dentro de un proceso más amplio de gestión de riesgos [2].
Aplicaciones
Generales
- Mostrar factores relevantes en una decisión crediticia.
- Analizar por qué un clasificador comete ciertos errores.
- Facilitar auditorías y documentación regulatoria.
- Comparar el comportamiento del modelo entre grupos.
Sanitarias
- Señalar variables que influyen en una estimación de riesgo.
- Mostrar regiones de una imagen asociadas a una clasificación.
- Apoyar la revisión profesional de una recomendación.
- Comunicar límites de un sistema a pacientes y equipos.
Limitaciones
- Una explicación posterior puede ser una aproximación infiel al modelo.
- Una visualización convincente puede producir falsa confianza.
- Explicar no equivale a demostrar causalidad, seguridad o ausencia de sesgo.
- Distintas técnicas pueden dar explicaciones diferentes para el mismo caso.
- Debe evaluarse si la explicación mejora decisiones reales.
Ejemplos
Un modelo puede indicar que la edad y determinados resultados analíticos influyeron en una predicción. Esa lista ayuda a revisar el caso, pero no prueba que esas variables causaran el desenlace ni que el modelo sea clínicamente válido.