Les petites et moyennes entreprises constituent la majorité des entreprises canadiennes, et leurs dirigeantes et dirigeants entendent de plus en plus que l’adoption de l’intelligence artificielle n’est plus un choix, mais une nécessité pour demeurer concurrentiels. Or, bon nombre de ces personnes sont appelées à agir en fonction de recommandations générées par l’IA sans disposer des mécanismes de gouvernance ni de l’expertise technique sur lesquels s’appuient les grandes organisations. Il en résulte que des décisions ayant d’importantes répercussions financières, stratégiques et éthiques sont déjà influencées par des outils dont le raisonnement est difficile à remettre en question et dont l’autorité demeure souvent incontestée.
C’est pourquoi le professeur Francis Desjardins a reçu une subvention de développement Savoir du Conseil de recherches en sciences humaines pour son projet intitulé « Between Human Judgment and Algorithmic Authority: How SME Leaders Interpret and Justify AI Advice ».
La plupart des recherches sur l’adoption de l’IA se sont intéressées à des milieux hautement structurés, comme les secteurs de la santé, de l’aviation et de l’administration publique, sans s’attarder à la réalité de la prise de décision au sein des petites entreprises. Si les dirigeantes et dirigeants de PME se tournent régulièrement vers des spécialistes et des professionnelles et professionnels externes, notamment des comptables, des consultantes et consultants, des banquières et banquiers et des juristes, ils accordent désormais une attention croissante aux recommandations générées par l’IA.
Comparer les conseils d’humains et de machines avant de décider
Afin de mieux comprendre comment les dirigeantes et dirigeants s’adaptent à ce contexte en mutation, le professeur Desjardins réalisera une trentaine d’entretiens semi-structurés avec des propriétaires, des fondatrices et fondateurs, des cadres ainsi que d’autres personnes qui jouent un rôle clé dans la prise de décisions au sein de PME de divers secteurs canadiens. En s’appuyant sur les concepts d’éthique morale et de responsabilité, il invitera les personnes participantes à décrire deux décisions comparables : l’une ayant été influencée par des recommandations générées par l’IA et l’autre guidée principalement par des conseils humains. Au moyen d’entretiens narratifs et d’une analyse comparative, le projet examinera comment les dirigeantes et dirigeants accordent une crédibilité, une autorité et une responsabilité différentes aux conseils selon qu’ils proviennent d’une personne ou d’un algorithme, et ce qui se produit quand les recommandations de l’humain et de la machine divergent.
Pourquoi ces travaux sont importants
À l’heure où l’IA prend une place croissante dans les décisions quotidiennes des entreprises, il devient important de comprendre, bien au-delà des milieux universitaires, comment les dirigeantes et dirigeants y ont recours. Les résultats du projet approfondiront la compréhension théorique du jugement de gestion, de l’agentivité et de l’imputabilité dans les milieux de travail où les conseils humains et algorithmiques coexistent de plus en plus, et contribueront ainsi à enrichir les connaissances dans les domaines des théories des organisations, des systèmes d’information et de la psychologie morale. Pour les dirigeantes et dirigeants de PME, les conseillères et conseillers et les communautés professionnelles, ces travaux permettront de mieux comprendre dans quelles circonstances et pour quelles raisons les recommandations de l’IA sont acceptées, remises en question ou rejetées, ce qui contribuera à orienter l’adoption de pratiques responsables en matière d’IA dans les entreprises qui ne disposent pas d’équipes de gouvernance spécialisées. Le projet offrira également à des assistantes et assistants de recherche aux études supérieures une formation en méthodes qualitatives et contribuera au renforcement de l’expertise nécessaire à des travaux futurs sur la prise de décision humaine ou assistée par l’IA. En définitive, ce projet de recherche vise à aider les PME à tirer parti des avantages de l’IA tout en préservant le jugement humain et la responsabilité qu’exerce toute direction responsable.
