EL SISTEMA DA UNA RESPUESTA
Una app marca por error un pedido como «Entregado».
Toma de decisiones
Sesgo de automatización
Automation Bias
Lee la infografía como una experiencia web accesible, buscable y construida con sus textos e ilustraciones originales.
01¿Qué es?
Es la tendencia a confiar en exceso en la información o recomendación de un sistema automático, dejando de comprobar señales que podrían revelar un error.
02En resumen
Aceptar una salida automática sin contrastarla puede llevarnos a actuar mal o a dejar de actuar.
¿Cómo se manifiesta?
CONFÍAS SIN CONTRASTAR
Aceptas el estado sin revisar la evidencia disponible.
PASAS POR ALTO EL ERROR
La foto muestra otra dirección, pero cierras el caso.
¿Por qué sucede?
- Confiamos en sistemas que parecen fiables.
- La prisa puede reducir la revisión.
- La carga de trabajo compite por atención.
- Verificar exige tiempo y esfuerzo.
Ejemplos en la vida real
- Cerrar un pedido solo porque la app lo indica.
- Seguir una ruta pese a señales que la contradicen.
- Copiar una respuesta de IA sin verificarla.
- No revisar un problema porque no hubo alerta.
¿Cómo evitarlo o mitigarlo?
- Revisa la evidencia original cuando sea importante.
- Busca señales que contradigan la recomendación.
- Define cuándo debe intervenir una persona.
- Conoce los límites y fallas del sistema.
07Recuerda
El sistema puede ayudarte y tambiérf equivocarse. Ajustd tu confianza a su fiabilidad y verifica lo importante.
EVIDENCIA Y LECTURAS
Referencias académicas
Ver todas las referencias5
Artículos científicos
Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991-1006.
doi.org/10.1006/ijhc.1999.0252Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230-253.
doi.org/10.1518/001872097778543886Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1),
Libros y capítulos
Sheridan, T. B. (2002). Humans and automation: System design and research issues. Wiley / Human Factors and Ergonomics Society.
ci.nii.ac.jp/ncid/BA67747979
Recursos en línea
Tabassi, E. (2023). Artificial intelligence risk management framework (A1 RMF 1.0). National Institute of Standards and Technology. NIST A1 100-1.
doi.org/10.6028/NIST.AI.100-1