Intelligence artificielle

Jeudi 24 avril, l’Administration a présenté aux organisations syndicales (OS) le nouveau service sécurisé « DiploIA », développé par la DNUM et son équipe de data scientists et qui, à présent abouti, sera accessible aux agents du MEAE à partir de ce lundi 28 avril.

Etaient notamment présents, les représentants de la CFDT-MAE et ceux des autres organisations syndicales, le Directeur des ressources humaines, la Directrice de la DNUM, le Chargé de la gouvernance des données (IA) ainsi que le Responsable du centre de formation linguistique de l’Académie diplomatique et consulaire (ADC).

Un impact certain sur les collègues traducteurs en France et à l’étranger et sur les fonctions de rédacteurs politiques et de conseillers diplomatiques 

« DiploIA » est un service sécurisé et souverain doté, à son lancement, de deux outils permettant d’assurer des transcriptions audio/vidéo vers du texte et des traductions quasiment instantanées de textes en français ou en langues étrangères. L’objectif affiché est de supprimer les activités chronophages et/ou répétitives afin de laisser la part belle à l’analyse et la conception de stratégies politiques, sans oublier de faciliter le travail de certains de nos collègues qui se trouvent en situation de handicap.

Prises de notes, synthèses de documents, traductions, ces activités seront bientôt réalisées par une intelligence artificielle (IA), ce qui qui devrait fortement impacter le corps des traducteurs, certaines fonctions dévolues aux rédacteurs politiques du MEAE mais également le travail des conseillers diplomatiques en poste et de leurs collaborateurs recrutés locaux, en particulier ceux qui, travaillant au sein des services de presse et du suivi de la politique interne, ont conservé une forte activité de traduction.

• La CFDT-MAE intervient en séance pour mettre en avant ses revendications et ses sujets d’inquiétudes sur la mise en place de l’IA au Ministère

En préambule, la CFDT-MAE souligne qu’elle aura l’occasion de revenir plus en détail, dans d’autres instances, sur les projets touchant les domaines consulaire et diplomatique (et notamment au prochain CSAM prévu les 27 et 28 mai prochains).

Des interrogations sur le nouveau service « DiploAI »

Notre organisation interroge la DNUM sur le niveau de performance égal ou supérieur à Google Traduction du nouveau service ainsi que les prochains outils qui seront disponibles sur « DiploIA ».

En réponse, la DNUM indique que ce sont les différents outils d’évaluation (métriques METEOR, BLEU et COMET) qui mesurent le mieux le niveau de traduction et qui attribuent à DiploIA des résultats équivalents voire supérieurs à ceux de Google Traduction.

S’agissant de la confidentialité des données, la DNUM ajoute que les documents et traitements générés sont supprimés immédiatement après chaque utilisation. En complément, il est annoncé que le prochain outil développé et mis à disposition des agents portera sur la création automatique d’un document de synthèse, capable de résumer un corpus de documents. Enfin, une Charte de l’utilisation de l’IA sera prochainement disponible.

• La CFDT-MAE souhaite assurer une vigilance syndicale forte sur l’IA

Aujourd’hui, puisque la question de l’IA touche à de nombreux aspects de la vie professionnelle, la CFDT-MAE développera un discours transverse, qui ira bien au-delà de la présentation des deux outils de transcription et de traduction. En effet, notre organisation souhaite assurer une vigilance syndicale sur la mise en place de l’IA dans les services, et notamment son impact sur la formation, les emplois, les effectifs, l’utilisation des données et des algorithmes et la place laissée à l’humain dans son interaction avec l’IA.

En matière d’effectifs et d’évolution des emplois et plus généralement de gestion des ressources humaines (GRH)

Si la CFDT-MAE constate, comme d’autres, que nous ne sommes qu’au début de la « révolution IA », notamment au MEAE, à l’inverse on sait déjà que son impact technologique va bouleverser tous les métiers, toutes catégories confondues, à des degrés divers et à des horizons pour certains très proches.

Dans ce cadre, Thierry Franquin, secrétaire général de la CFDT-MAE, a adressé à l’administration les questions suivantes :

– quelle est la stratégie mise en œuvre, au sein du Ministère, concernant l’usage de l’intelligence artificielle en matière de gestion des ressources humaines ?

– quels seront, outre le corps des traducteurs, les corps ou fonctions les plus exposés par l’arrivée de l’IA au Ministère ?

– à l’inverse, quels seront les corps et/ou fonctions les moins susceptibles d’être touchés ?

– enfin, l’Administration a-t-elle prévu un accompagnement au changement des personnels impactés ?

En réponse, le DRH précise, qu’en matière d’effectifs, l’arrivée de la bureautique et de l’informatique avait suscité à l’époque les mêmes craintes sur la disparition des métiers des agents mais sans que cela ne se vérifie par la suite. Les métiers évoluent mais qui peut prédire l’avenir avec certitude ? Il y a ce que l’on sait prévoir d’une part et ce que l’on ignore totalement d’autre part. Il s’agit aujourd’hui d’internaliser au MEAE des outils d’usage externe qui existent (et sont parfois déjà utilisés par les agents) et qui devraient certainement produire des gains de productivité mais sans toutefois entraîner des suppressions d’effectif.

Organisation du travail, Transparence et promotions et besoin en formation

La CFDT-MAE a également questionné l’Administration sur les répercussions de la mise en œuvre de l’IA sur les modalités et l’organisation du travail des agents et les tâches effectuées (au regard notamment de l’augmentation de la productivité attendue, éventuellement pour combler les sous-effectifs chroniques constatés dans certains services ou postes) et sur la manière dont les agents seront administrativement et professionnellement gérés (carrières, parcours, affectations, promotions…).

Droit à l’explicabilité des décisions prises par l’algorithme d’une machine

Quelles seront les explications transmises par l’administration aux personnels concernés insatisfaits et quels seront les droits de recours que pourront exercer ces agents ?

Quelles formations seront proposées à l’ensemble des agents du Ministère et quelles sont les conséquences attendues pour les agents utilisateurs et sur les relations des agents avec le public ?

Enfin, quelle sera la place accordée aux organisations syndicales qui souhaiteraient faire remonter des difficultés rencontrées par les agents sur ces nouveaux outils, en tant qu’utilisateur mais aussi d’usager, et en particulier sur les nouveaux outils en matière de GRH/GPEEC en lien avec le SIRH ?

Concernant la refonte éventuelle du SIRH et la GPEEC, l’administration indique qu’il n’existe pas de projets liés à l’IA en ce sens mais simplement un projet de modernisation numérique consistant à créer une nouvelle interface pour relier les 34 applications RH existantes entre elles.

En matière de formation, la connaissance de l’IA est essentielle et doit être rapportée à l’humain. A aucun moment la machine ne doit prendre le pas sur l’homme ou la femme dont l’intervention et la prise de décision restent indispensables. Si l’utilisation de l’intelligence artificielle donne assez souvent d’excellents résultats et c’est le cas en matière de traduction par exemple, les résultats peuvent être aussi beaucoup moins bons, ce qui fait apparaitre un besoin de formation afin d’appréhender l’utilisation de cette nouvelle technologie et de pouvoir y apporter les corrections nécessaires en cas de besoin. Les trois webinaires organisés par l’Académie diplomatique et consulaire, aujourd’hui tous complets, seront prochainement publiés en ligne et le cycle de Master class sur l’IA proposé en partenariat avec le Sorbonne Center for Artificial Intelligence (CIA) sera reconduit.

En matière de dialogue social et professionnel

L’intelligence artificielle doit être une technologie inclusive et juste vis-à-vis des personnels et ne doit laisser personne sur le bord de la route. Les agents, mais aussi leurs représentants, ne doivent pas être mis de côté. Dès lors, le dialogue social au Département doit intégrer les sujets de la transition numérique en marche. Il est ainsi absolument nécessaire que l’ensemble des projets liés à l’IA fassent l’objet de concertation et de négociation avec les représentants du personnel. La CFDT-MAE a ainsi dénoncé l’aboutissement du projet DiploAI sans que les organisations syndicales, ni les instances de dialogue social n’aient été informées et a ainsi plaidé pour qu’elles soient dorénavant associées aux réflexions en amont de chaque nouveau projet. En outre, la CFDT-MAE, comme les autres organisations syndicales, soutient la création d’un groupe de travail régulier sur la question de l’IA.

En matière de déontologie, d’éthique et de transparence des algorithmes

L’IA pose de nouvelles questions aux agents du Département dans ses usages comme dans sa conception et notamment à ceux de la DNUM en prise avec les questions déontologiques et éthiques dans l’élaboration des nouveaux outils. En effet, il apparaît important que l’utilisation de cette nouvelle technologie numérique soit encadrée et que le choix et la pertinence des données et/ou l’utilisation des traitements algorithmiques automatisés n’introduisent pas des discriminations et des inégalités dans les résultats obtenus.

Transparence versus opacité du fonctionnement des algorithmes

Une autre inquiétude à relever, est celle de l’opacité du fonctionnement des algorithmes et donc de la manière dont les choix sont opérés par la machine dont la logique semble parfois échapper au plus grand nombre. Il ne s’agit pas là de dévoiler les codes informatiques mais bien de rendre compréhensibles les paramètres et les critères mis en œuvre par l’intelligence artificielle.

L’humain doit rester en contrôle sur le système

Pour la CFDT-MAE, il est essentiel d’établir une ligne de partage nette entre ce qui relève de la compétence humaine d’un côté, et du rôle d’aide et d’assistance à la prise de décision dévolu à l’intelligence artificielle, d’autre part. L’humain doit rester en contrôle sur le système et pouvoir corriger, toutes les fois où cela est nécessaire, les biais et les dysfonctionnements observés.

* * *

Si la CFDT-MAE n’est pas opposée par principe à l’introduction de l’intelligence artificielle, elle considère toutefois que l’anticipation des changements et des effets engendrés par cette révolution technologique est absolument primordiale. Il est donc essentiel de consulter et d’impliquer les personnels et leurs représentants, dès la genèse des projets et bien en amont de la prise de décision.

Dans les semaines qui viennent, l’administration devrait approcher les différentes directions du Ministère afin de recenser des sujets sur lesquels intervenir en termes d’IA et notre organisation entend bien exercer pleinement son devoir de vigilance syndicale. Acteur responsable du dialogue social, la CFDT-MAE a décidé de prendre toute sa place dans ce débat pour anticiper et influencer les choix qui seront pris par le Département notamment en matière de formation et d’organisation du travail, de parcours professionnels et de carrière (affectations, évaluations et promotions), d’évolution des métiers et des effectifs, d’utilisation et de protection des données (RGPD) et de transparence des algorithmes.