Ouvrir la boîte noire de la gestion algorithmique : une condition essentielle d’une pratique responsable

Niel, dans la cinquantaine, est un professeur chevronné du secondaire et reconnu par ses pairs. Suite à l’instauration d’un système d’évaluation de la performance basé sur des algorithmes, ses évaluations ont brutalement chuté la première année, au point qu’il aurait pu être congédié s’il n’avait pas été un employé permanent.… Avant de remonter nettement l’année suivante. Problème : personne chez son employeur n’est en mesure d’expliquer les évaluations erratiques de la machine.  Avec les avancées technologiques récentes comme l’intelligence artificielle (IA), ces systèmes de gestion algorithmique (GA) se diffusent rapidement dans les organisations. Ils permettent maintenant d’automatiser totalement ou partiellement l’exécution de certaines activités de gestion des ressources humaines (GRH) et de supervision des employés . Outre l'évaluation de la performance, la GA est notamment utilisée pour effectuer de manière autonome le monitorage du travail et de la productivité, l'attribution de tâches, d'objectifs ou d’horaires de travail, l’attribution de bonus, et même, dans de rares cas, pour des décisions de rupture du contrat de travail. Celle-ci est présente à grande échelle au sein des entreprises de plateforme (par exemple, Uber) et des grandes entreprises du secteur des technologies (par exemple, Amazon). Toutefois, son accessibilité croissante accélère son implantation dans une panoplie