IA : réponses pour une responsabilité européenne

23 juin 2020

La CFDT Cadres et ses militants répondent à la consultation de la Commission européenne sur le livre blanc "Intelligence Artificielle".

La CFDT Cadres considère que le niveau européen est celui le plus pertinent pour construire une stratégie industrielle, économique et sociale sur le numérique et sur l’intelligence artificielle. L’Europe est bien placée pour porter au niveau international les principes d’une IA de confiance et éthique qui respecte la place centrale de l’humain dans la relation avec la machine, et dans le respect des droits fondamentaux.

La CFDT Cadres est impliquée au niveau européen sur le sujet de l’intelligence artificielle via les travaux du Comité Économique et Social Européen (avec le rapport de plusieurs avis pour la CFDT), et au niveau national à travers la mise en place d’un groupe de militants sur l’IA. Aussi, elle a participé pour la CFDT à la négociation de l'accord européen sur le numérique qui vient d'être signé par les partenaires sociaux européens.

Elle s’est également exprimée lors de la consultation sur les lignes directrices éthiques européennes en 2019, et vient de répondre à la consultation sur le livre blanc IA (Une approche européenne axée sur l'excellence et la confiance) que la Commission européenne a publié en février 2020. Il est important que la voix syndicale se prononce sur le sujet de la régulation de certaines applications IA utilisées dans les lieux de travail et de leur standardisation, ainsi que sur les questions de la reconnaissance faciale et la responsabilité en cas de mauvais fonctionnement des algorithmes.

L’IA doit se conformer aux lignes directives éthiques et sociales, éviter les discriminations de tout genre et respecter la dignité de l’individu et son droit à la vie privée."

Dans nos réponses, nous avons réaffirmé l’impact de l’intelligence artificielle sur le travail et la nécessité d’un dialogue social avec les représentants de salariés sur cette technologie et sur les applications utilisées. L’IA doit se conformer aux lignes directives éthiques et sociales, éviter les discriminations de tout genre et respecter la dignité de l’individu et son droit à la vie privée. La négociation avec les partenaires sociaux sur les données personnelles doit être encouragée, comme le prévoit l’article 88 du RGPD. Un consentement éclairé et informé de la part des travailleurs sur l’utilisation des données personnelles et des protections accrues est crucial.

Sur les applications IA à « haut risque » comme les définit le livre blanc, nous pensons qu’elles doivent être régulées par de nouvelles normes. Une liste ouverte et évolutive d'applications ou d'utilisation de l'IA considérées comme intrinsèquement à haut risque, doit être élaborée. Afin d'éviter la discrimination, l'exclusion, l'inégalité, les applications à haut risque sur le lieu de travail ne devraient généralement pas être développées et leur utilisation devrait être soumise à un processus de dialogue social avec les représentants des syndicats de travailleurs.

Il s'agit notamment de celles utilisées dans le domaine des Ressources Humaines : les applications de recrutement sur la base d'entretiens vidéo, celles d'analyse des expressions faciales des candidats, ou celles qui permettent de surveiller les travailleurs en temps réel et de licencier automatiquement les travailleurs peu productifs ne doivent pas être utilisées sans une négociation préalable avec les représentants des travailleurs. Enfin, la reconnaissance faciale devrait être bannie sur le lieu de travail (et dans les lieux publics) tant qu’il n’y a pas une régulation spécifique européenne.