Vers des décisions critiques plus équitables : un cadre pour atténuer les partis pris humains
Notre recours à l’intelligence artificielle et aux algorithmes va croissant, y compris pour la prise de décisions critiques où les technologies produisent des recommandations systématiques facilement interprétables. Si l’on s’est attaqué aux partis pris dans les algorithmes, il existe à ce jour peu de données sur le facteur humain dans la prise de ces décisions. Dans des secteurs névralgiques comme celui de la santé, ces outils ne font que servir d’appui : il revient aux humains, par exemple aux médecins, de retenir ou non leurs recommandations. Même l’algorithme le plus objectif, donc, ne peut éliminer les partis pris des gens qui y font appel.
C’est pour se pencher de plus près sur la question que le professeur Christopher Sun a reçu une subvention à la découverte du Conseil de recherches en sciences naturelles et en génie du Canada pour son projet « Fairness in Systems with Human-Algorithm Decision Making through Optimization and Machine Learning » (L’optimisation et l’apprentissage machine au service de l’équité dans les systèmes et la prise de décisions humano-algorithmiques). L’ambition du chercheur : réduire les préjudices imputables aux partis pris humains dans les décisions critiques, et créer des cadres qui en tiennent compte pour en arriver à des décisions plus justes.
« Des gens passent constamment entre les mailles des différents systèmes et on remarque des disparités de traitement, tant dans la routine que pour des décisions lourdes de conséquences, constate Christopher Sun. Alors, comment peut-on améliorer nos processus décisionnels? Nous avons l’occasion de mettre au point des outils analytiques qui nous aideront à prendre des décisions plus équitables et fiables, tout en faisant preuve de transparence. »
Une nouvelle approche pour une multitude de secteurs
Le professeur Sun aspire à créer un cadre qui optimisera le jumelage entre sujets humains (comme les patients et patientes) et décisionnaires (comme les médecins). Ce cadre aura ceci de particulier qu’il tiendra compte des actions précédentes et des tendances de la personne à l’origine des décisions, atténuant ainsi le poids des partis pris.
En proposant une nouvelle approche de recherche à l’équité algorithmique et au concept de jumelage optimisé, ce projet pourrait bien redéfinir la façon dont plusieurs secteurs s’y prennent pour jumeler les sujets humains. Le tout aura éventuellement des bienfaits sur le bien-être des gens et mènera à un traitement en somme plus juste et équitable.