Face à l’IA générative, l’objection de conscience

Manifeste pour l’enseignement supérieur et l’éducation nationale

Nous, membres de l’enseignement supérieur et de la recherche (ESR) et de l’éducation nationale (EN), déclarons adopter une posture d’objection de conscience face au déploiement des technologies d’IA générative[1] (IAg) dans nos institutions.

L’objection de conscience désigne le refus individuel, mais aussi collectif en tant qu’il est publiquement partagé, de prendre part à une activité que l’on perçoit comme incompatible avec des valeurs fondamentales.

Dans le cas présent, nous considérons que le déploiement de l’IAg dans les institutions de l’ESR et de l’EN est incompatible avec les valeurs de rationalité et d’humanisme que nous sommes censé·es représenter et diffuser.

Trois considérations majeures justifient cette position. Pour des raisons de concision, ce manifeste ne les développe pas mais on trouve dans la littérature scientifique de quoi les étayer solidement[2].

Considération 1.

L’IAg est un gouffre énergétique et matériel tel que personne ne peut prétendre qu’elle soit compatible avec les grands engagements internationaux tels que l’Accord de Paris sur le climat, et plus généralement avec la protection du vivant. Accepter le déploiement de l’IAg, c’est amplifier le dépassement des limites planétaires. Ceci est une attitude résolument anti-humaniste eu égard à la gravité de la situation. Le caractère écocidaire de l’IAg est en soi une raison suffisante pour en refuser le déploiement au sein de nos institutions.

Considération 2.

L’IAg représente un choix technologique qui agit comme un accélérateur des infrastructures industrielles sur lesquelles repose le secteur du numérique : mines, datacenters, centrales électriques, usines de matériel électronique, etc. Ainsi, outre les problèmes de pollution massive déjà évoqués, ce sont les lourds dégâts sociaux associés à ce système qui se voient renforcés : travail prolétarisé dans les usines de fabrication et ultraprolétarisé dans le « travail du clic », non-respect des droits humains, conflits d’usage (eau, métaux, énergie), rapports extractivistes et néo-coloniaux entre pays du Nord et du Sud, déstabilisation géopolitique des régions minières, etc. Dans tous ces domaines, la compétition effrénée à laquelle se livrent les acteurs de l’IAg mènera aux méthodes les plus sauvages et prédatrices. Il nous semble inacceptable de contribuer à une telle dynamique par nos pratiques pédagogiques et scientifiques.

Considération 3.

La banalisation des IAg dans le grand public alimente des usages qui ouvrent la voie à un futur dystopique – qui est, pour partie, déjà là : multiplication des vidéos deepfake, désinformation à grande échelle par des « usines à trolls », dépendance affective aux compagnies virtuelles, intensification du marketing digital et des escroqueries, etc. Plus généralement, il permet à des mégafirmes d’accumuler un pouvoir démiurgique, mégafirmes dont les dirigeants ne font pas mystère de leurs projets mégalomaniaques, eugénistes et de leur détestation de la démocratie. Nos institutions ne peuvent soutenir de telles techno-oligarchies, y compris de manière indirecte.

***

Le support principal de l’objection de conscience est le refus de participer à une activité qui contrevient à des valeurs fondamentales. Dans le cas de l’IAg, les trois considérations ci-dessus permettent d’assurer cette posture au regard de nos missions d’éducation et de diffusion des savoirs.

Face à ces analyses globales, les arguments les plus fréquents de légitimation de l’introduction de l’IAg dans nos institutions apparaissent immédiatement irrecevables[3]. Notamment, l’idée commune selon laquelle la diffusion de l’IAg dans nos sociétés serait « inéluctable » ne remet aucunement en cause la pertinence de l’objection de conscience. En effet, le principe de l’objection de conscience, voire de toutes les formes de résistance, consiste à s’opposer à ce qui contrevient à nos valeurs fondamentales non pas parce que l’on pense que l’on va « gagner », mais parce que l’on a la certitude que c’est ce qui est juste et digne, ici et maintenant. Par ailleurs, contrairement à d’autres technologies délétères déjà profondément implantées dans nos sociétés, l’apparition des IAg est récente et par conséquent ses usages ne sont pas profondément intégrés dans nos pratiques professionnelles. Ainsi, l’effet de « verrouillage sociotechnique » empêchant tout retour en arrière n’est pas encore pleinement là avec les IAg et il est encore effectivement possible d’exercer un refus.

Engagements

Nous, membres de l’ESR et de l’EN signataires de ce manifeste nous engageons à :

– adopter face au déploiement des IAg dans nos institutions une posture d’objection de conscience. Face à un phénomène qui nous dépasse mais dont nous savons qu’il est mortifère, nous choisissons d’opposer un refus net, indiscutable, et politique parce qu’il est partagé : nous ne les utiliserons pas, à moins d’y être expressément contraint·es, dans nos cours, dans nos communications, dans nos recherches, dans nos activités administratives. Nous refuserons, autant que nos situations individuelles nous le permettent, de participer à des projets ou à des activités qui les mobilisent (enregistrement et compte-rendu automatique de réunion ; activité pédagogique ; formation à l’usage, fût-il qualifié de raisonné ou éthique, etc.). À tout le moins, nous exprimerons publiquement notre malaise profond face à ces pratiques. Nous sommes par ailleurs conscient·es que le terme « IAg » recouvre des applications très diverses, dont certaines sont déjà largement intégrées à nos pratiques, telles que la traduction ou la transcription automatique. S’il n’est pas réaliste de tout remettre en cause, il s’agit au moins de stopper ce qui peut encore l’être.

– afficher dans nos activités, nos signatures mails, nos publications, nos diaporamas, etc. notre ralliement à ce manifeste via un logo et/ou le lien vers le présent texte. L’enjeu est de ne jamais laisser l’IAg apparaître dans nos milieux professionnels « comme si de rien n’était » et d’afficher partout dans nos sphères d’activité que « cela ne va pas de soi ». Parvenir à ouvrir des discussions sur le sujet par cet affichage permettrait déjà d’éviter une banalisation qui, dans des institutions prescriptrices comme les nôtres, se confond avec de la promotion.

– promouvoir autant que possible une réflexion collective sur la place du numérique dans nos institutions. Si les arguments que nous opposons au déploiement de l’IAg nous permettent en effet de refuser une nouvelle « escalade numérique », nous savons également que le système sociotechnique du numérique dans son ensemble est sujet aux mêmes questionnements. Le « stop » opposé à l’IAg pourrait ainsi être l’ouverture d’une séquence d’évaluation de nos dépendances plus générales à un système problématique, qui permette de s’engager vers la « sobriété numérique »[4] en vue d’aboutir à un numérique effectivement soutenable.

[1]Les IA génératives constituent un type particulier de système d’Intelligence Artificielle, destiné à générer du texte, des images, des sons, des vidéos, sur la base de modèles de langage (LLM pour Large Language Model) entraînés sur de vastes corpus de données.

[2]Une bibliographie indicative est proposée en fin de document.

[3]Celles et ceux qui souhaitent des éléments de discussions plus précis sur ce type d’arguments (l’IA « souveraine », l’IA « sobre », la « praticité », l’IAg « inéluctable », etc.) pourront par exemple consulter le texte « Oui mais l’IAg… » publié sur le site web de l’Atécopol de Toulouse.

[4]Pour aller plus loin sur ce sujet voir : affiche 10 de l’exposition « Pour la sobriété numérique dans l’ESR » (https://www.irit.fr/exposition-sobriete-numerique/).