Analyse
L’intelligence artificielle, un progrès technologique ambivalent
En novembre 2022, l’application ChatGPT basée sur l’intelligence artificielle (IA) a atteint un million d’utilisateurs cinq jours après son ouverture au grand public. L’utilisation de cette nouveauté par les élèves a rapidement fait débat, certains souhaitant l’interdire alors que d’autres envisageaient de l’utiliser dans leur enseignement. Le Ministère a donc dû se positionner, et il a choisi « d’engager une dynamique positive, responsable et raisonnée de mobilisation de l’IA pour les enseignement ». Une position qui amène la DRANE (Direction Régionale Académique au Numérique pour l’Education) à organiser du 15 au 19 avril une semaine dédiée à l’IA dans l’académie de Reims.
Mais qu’est-ce que l’IA, ce nouvel outil qui fait passer l’idéologie du tout-numérique à un niveau supérieur d’imprégnation sociale et de conformation des esprits ? La question est en réalité politique dans notre société qui a placé sa foi dans le progrès technique, érigé en quasi-religion.
Cette foi dans les nouvelles technologies et la promotion qui en est faite par des lobbies issus des plus puissantes multinationales des technologies de l’information et de la communication auprès des gouvernements ont des conséquences majeures dans bien des domaines. Parmi eux, il y a l’éducation. En général, nous pensons que l’IA est un outil fantastique ; qu’elle n’est ni bonne, ni mauvaise ; que tout dépend de ce qu’on en fait. C’est faux !
Premièrement, une technologie de l’esprit comme l’IA est foncièrement ambivalente, toujours et bonne et mauvaise, quelles que soient les situations, et donc intrinsèquement dangereuse, y compris pour la formation de la conscience de soi, de l’autre et du monde. Et particulièrement dangereuse pour les jeunes générations qui vont venir au monde sous son règne et communiquer avec ses manifestations, comme avec un tiers, perçu comme au moins égal sinon supérieur.
Deuxièmement, l’IA est désormais l’infrastructure algorithmique dans laquelle sont calculées, évaluées et orientées politiquement toutes les réalités sociales. L’IA n’est plus un outil : c’est le nouvel espace dont la structure calculatoire valide, ou non, l’existence d’un fait. L’IA est ainsi un dispositif de reconditionnement de nos existences. Un dispositif de contrôle géant, dans lequel on nous encapsule et hors duquel il devient peu à peu difficile voire impossible d’exister.
Il est très probable qu’il n’y aura pas d’intelligence artificielle « forte », comme on dit dans le domaine : c’est-à-dire qu’il n’y aura pas de machine qui pensera vraiment, qui sera douée de distance et d’esprit critique, ni capable d’une interaction émotionnelle sensible devant un humain ; bref, qu’aucune machine n’aura jamais de conscience de l’autre et du monde, ni de réelle empathie.
Mais le danger n’est pas écarté pour autant : les dispositifs technologiques de simulation de
l’intelligence et de l’interaction qui émergent aujourd’hui promettent d’être bientôt suffisants pour tromper l’attention et la conscience de nombre d’êtres humains. Il suffira qu’on y croit. Qu’on veuille y croire. L’illusion collective l’emportera, par le biais de confirmations réciproques. Et si ces dispositifs nous « facilitent la vie » au point d’être indispensables pour qu’on existe en société, alors le tour sera joué : plus personne ne les remettra en question.
L’affaiblissement de la conscience critique, disons même un abêtissement de la masse par uniformisation médiocre des individus dans cette masse est un terrain favorable à l’accueil d’une IA qui n’a pas besoin d’être « forte » pour dominer. Mais la technologie ne domine pas seule, elle domine par l’intention d’un pouvoir qui use de cette technologie pour augmenter sa puissance de contrôle.
Derrière l’IA, il y a un pouvoir politique et une intention de régulation sociale par l’usage de dispositifs qui recueillent les données d’individus pensés comme des « divisibles », puisqu’ils sont réduits à une poudre de paramètres qui n’est pas eux mais qu’on exploite pour se les représenter et conformer leur existence à des desseins qui ne résultent pas d’un dialogue ni de décisions démocratiques. Voilà ce qui constitue la nouvelle base du contrôle des populations. La Chine est en avance. Ce qu’elle fait suscite secrètement l’envie de gouvernements pourtant à la tête de démocraties, même s’ils s’en défendent. Nous prenons le même chemin, et pas si doucement.
Et dans l'éducation ?
On ne peut déjà plus la penser comme en 2010. Il faut anticiper, et la penser déjà comme si nous étions en 2030. La penser par anticipation proche, donc, et sur tous les plans : recrutement et formation des maîtres – un sujet d’autant plus urgent qu’une réforme de la formation des enseignants est prévue pour la rentrée 2024 – contenus des programmes, pertinence à former les élèves à lire, à écrire, à compter, autrement dit à développer des facultés cérébrales autonomes avant toute forme d’emprise par les facilités d’assistance de quelque dispositif technologique que ce soit !
L’éducation s’alourdit d’une nouvelle tâche, encore une, sans la prise en charge de laquelle tout le reste (les savoirs et les savoir-faire fondamentaux) partira à vau-l’eau : la tâche de préserver les jeunes esprits de l’influence des dispositifs du tout-numérique et désormais plus particulièrement des dispositifs algorithmiques d’IA ; de les préserver non pas « des écrans », mais des interfaces cognitives ; car ce sont ces dispositifs, essentiellement visuels, qui assurent la médiation entre le monde réel et les connaissances (l’un comme l’autre fracturés en « informations »), et le destinateur- récepteur, dont les facultés sont sollicitées d’une manière à en conformer le cerveau, le type de conscience et d’être-au-monde, afin qu’il soit un agent favorable au maintien d’une certaine idéologie promue comme seule valide.
Quel type d’enseignants, avec quelle structure mentale et quelle force morale faudra-t-il, en 2030, pour lutter contre ce nouveau léviathan cognitif dont « l’effroi qu’il inspire lui permet de modeler la volonté de tous » ? Pour Action & démocratie, c’est dès maintenant qu’il faut se poser cette question essentielle pour mettre à profit le peu de temps qu’il reste, afin que l’éducation conserve la part d’humanité indispensable à la formation d’élèves dotés d’esprit critique et de capacités de décider par eux-mêmes.
