Pour un usage bénéfique de l’intelligence artificielle sur les lieux de travail

06 avr 2020

L'introduction de l'intelligence artificielle au travail ne doit pas se faire au détriment des salariés, bien au contraire.

Franca Salis-Madinier

D'après openaccessgovernment.org - publié le 24 mars 2020

Par Franca Salis-Madinier, Secrétaire nationale CFDT Cadres et membre du Comité économique et social européen

Qui pourrait affirmer aujourd’hui que le numérique et les systèmes d’intelligence artificielle, rentrés massivement dans notre quotidien, n’apportent pas de bénéfices dans la vie de chacun ? Il suscite de nouvelles opportunités d’activité, des progrès sur les soins de santé, de la sécurité dans les transports et l’énergie, une aide à la lutte contre le changement climatique. Et dans le même temps, qui pourrait ne pas voir les abus, les utilisations dangereuses et perverses de ces mêmes systèmes qui portent atteinte à des valeurs fondamentales telles que la dignité, le droit à la non-discrimination et le droit au respect de la vie privée ?

Pour la société civile européenne qui a exprimé à travers le Comité économique et social européen de nombreux avis sur l’IA, celle-ci n’est pas une fin en soi, mais un outil qui peut produire des changements radicaux positifs, et aussi comporter des risques. Afin qu’elle soit bénéfique au plus grand nombre, il est nécessaire que les acteurs politiques l’orientent, la gouvernent et la régulent.

L’Europe, consciente de ces enjeux, publie en avril 2019 les lignes directrices éthiques pour une intelligence artificielle de confiance avec sept principes fondamentaux. Plus récemment avec la publication du livre blanc sur l’IA, l’UE pose l’exigence de régulation de l’IA “à haut risque”, celle qui interfère potentiellement avec les droits des personnes. Ces applications à “haut risque” doivent, selon les préconisations du livre blanc, être testées et certifiées avant d'atteindre le marché unique, tout comme cela se fait pour les médicaments ou pour les cosmétiques.

Introduire l’IA dans les lieux de travail

Nous nous concentrons, ici, sur les questions posées par les systèmes d’intelligence artificielle lorsqu’ils sont introduits dans les lieux de travail. Dans notre réflexion, nous observons l’IA comme une technique numérique utilisée pour créer des systèmes capables de reproduire de manière autonome les fonctions cognitives humaines : reconnaissance vocale et faciale, l’appréhension de données, les formes de compréhension et d’adaptation (résolution de problèmes, raisonnements et apprentissage automatiques).

Lorsqu’il s’agit de l’utilisation de l’IA dans les lieux de travail, plusieurs défis se posent. Dans la relation entre la machine intelligente et le travailleur, le principe que la machine n’asservisse pas l’humain, mais au contraire soit pour celui-ci source d’un travail émancipateur, créatif et épanouissant, doit guider les décisions.

Pour cela, plusieurs conditions :

L’humain aux commandes : ce qui signifie que l’humain doit avoir le dernier mot et la prise de décision sur la machine.
Le principe de transparence et le droit à l’explication de la décision prise par la machine, notamment sur le domaine RH du recrutement et de l’évaluation.
Le droit au respect de la vie privée qui passe par la protection des données personnelles et par un consentement informé de la part du travailleur sur la qualité des données collectées, sur leur propriété et leur utilisation.
Le droit à préserver la santé et la sécurité sur le lieu de travail que le contrôle illimité, rendu possible par les technologies utilisées, menace.
Le droit à ne pas être discriminé.
Le droit à bénéficier pour tout type de travail, d’une protection sociale digne de ce nom.

Les travailleurs, à travers leur représentants syndicaux, doivent avoir le droit de contester l’utilisation des systèmes d'intelligence artificielle qui mettent en péril leur droit à la santé physique et mentale"

Exemples d’utilisation d’IA néfaste

Sur la santé et la sécurité au travail, l'introduction de systèmes de gestion du travail basés sur l'intelligence artificielle soulève des questions sur les droits et la sécurité des travailleurs. Des entrepôts d'Amazon aux voitures de Uber, aux « riders » de Deliveroo, le pouvoir et le contrôle est entre les mains des employeurs et nuit principalement aux travailleurs à bas salaires (aux Etats-Unis et en partie en Europe, il concerne en grande partie des personnes issues de l’immigration), avec la fixation d'objectifs de productivité qui portent atteinte à la sécurité et à la santé, au stress psychologique, ou encore avec la mise en place de réductions salariales algorithmiques imprévisibles qui sapent la stabilité économique de ces travailleurs. La question de la régulation des plateformes et de la reconnaissance des droits pour ces travailleurs « faux indépendants » est l'une priorités de l’agenda européen.

Dans le domaine des RH, l’Agence Européenne de santé et sécurité au travail (EU OSHA) met en garde sur l’utilisation de l’IA dans les pratiques RH et fait état de quelques 600 entreprises, dont un certain nombre opère en Europe (Unilever, Nokia), qui utilisent l’application “Hire vue” pour recruter en se basant sur des entretiens d’embauche filmés analysant l’expression faciale des candidats.

Quelques recommandations :

Sur les données :

Le principe de protection des droits et libertés concernant leur traitement doit être garanti et le RGPD (règlement général de la protection des données) doit être régulièrement vérifié et adapté.
L’utilisation de la reconnaissance faciale pour la prise de décisions qui impactent la vie des personnes et leur accès à certaines opportunités doit être interdite, et les entreprises ayant recours à de telles applications doivent stopper leur usage, au moins de façon temporaire.
Les travailleurs, à travers leur représentants syndicaux, doivent avoir le droit de contester l’utilisation des systèmes d'intelligence artificielle qui mettent en péril leur droit à la santé physique et mentale, leur sécurité, et leur droit de négocier collectivement des normes de travail sures, équitables et prévisibles.

Sur la non-discrimination et la diversité dans les entreprises :

L'industrie de l'IA est étonnamment homogène, en grande partie à cause du traitement qu'elle réserve aux femmes, aux personnes de couleur, aux minorités de genre. Pour commencer à s'attaquer à ce problème, il faudrait partager publiquement plus d'informations sur les niveaux de rémunération, sur le taux de discrimination, sur les pratiques d'embauche. Il faut également mettre fin aux inégalités de rémunération et d'opportunités et offrir de réelles incitations aux cadres managers pour créer, promouvoir et protéger des lieux de travail inclusifs.

Sur la protection sociale :

L’UE doit garantir l’accès de tous les travailleurs, salariés et indépendants ou faux indépendants, à un bon niveau de protection sociale, conformément au socle européen des droits sociaux.

► Making sure artificial intelligence in the workplace benefits people (PDF)

► Pour un usage bénéfique de l'intelligence artificielle sur les lieux de travail (PDF)