En quoi consiste ce biais ?
Biais d’automatisation en bref
Le biais d’automatisation conduit les individus à privilégier les recommandations ou décisions des systèmes automatisés au détriment de leur propre jugement ou de preuves contradictoires. Ce biais peut être problématique dans des contextes critiques comme l’aviation, la santé ou la finance.
De quel type de biais fait-il parti ?
Biais de jugement
Qu'est-ce qui se joue au niveau de notre cerveau ?
Trouver du sens
Nous remplissons les caractéristiques manquantes à partir de stéréotypes, de généralités et de nos a priori
Compléter les informations manquantes permet de prendre des décisions rapides et d’agir face à l’incertitude. L’enjeu est d’utiliser ces raccourcis cognitifs de manière efficace sans que nos préjugés ou stéréotypes nous conduisent à des erreurs ou des jugements biaisés.
Qui est impacté par ce biais ?
Utilisateur
Les utilisateurs peuvent ignorer des signes d’erreur ou des alertes s’ils ont une confiance excessive dans un système automatisé.
Designer
Les designers doivent concevoir des systèmes qui équilibrent la confiance dans l’automatisation et encouragent la vérification humaine.
Commanditaire
Les commanditaires doivent s’assurer que leurs systèmes automatisés incluent des mécanismes pour détecter et corriger les erreurs humaines ou algorithmiques.
Comment réduire l'impact de ce biais ?
Quelques précautions
Encourager une interaction équilibrée entre les systèmes automatisés et les utilisateurs pour limiter les risques d’erreur.
Quelles méthodes pour s'en prémunir ?
Interfaces explicatives
Concevoir des systèmes qui expliquent leurs recommandations ou décisions pour aider les utilisateurs à les comprendre et à les vérifier.
Surveillance humaine
Inclure des mécanismes qui permettent aux utilisateurs de contester ou de valider les décisions automatisées.
À la découverte de ce biais
Découverte & mise en évidence
Ce biais a été identifié dans des études sur l’interaction humain-machine, où les utilisateurs s’en remettent trop à la technologie, parfois au détriment de la sécurité ou de la précision.
Au quotidien
Un conducteur suit aveuglément les indications erronées de son GPS, se retrouvant dans une rue fermée ou dangereuse.