L'intelligence artificielle et les peurs de l'académie

Au début septembre, lors de la présentation du nouveau modèle GPT-6 Astra, OpenAI a annoncé la création d'une intelligence artificielle dite générale. Il s'agit d'un niveau de développement de cette technologie qui rapprocherait les modèles linguistiques des capacités mentales de l'humain lui-même.

Bien que cette déclaration ait également été accueillie avec scepticisme par des experts du secteur de l'IA, d'autres événements ont intensifié l'émotion autour des possibilités potentielles de l'intelligence artificielle. D'abord, OpenAI a annoncé que leur modèle linguistique avait résolu l'un des « problèmes du millénaire » (c'est-à-dire un problème mathématique fondamental pour la science). Ensuite, sur les réseaux sociaux, une nouvelle information a éclaté : des mathématiciens, qui étaient proches de la solution du même problème et utilisaient eux aussi des modèles GPT, ont exprimé leur inquiétude que la percée annoncée par OpenAI ait été réalisée grâce à leur travail.

Ajoutons que depuis quelque temps, de plus en plus souvent, des déclarations d'anciens employés de l'entreprise apparaissent dans les médias, affirmant que les modèles créés par OpenAI sont dangereux et qu'à l'avenir, en tant que systèmes autonomes et hors de contrôle humain, ils pourraient menacer l'humanité.

Il a déjà été écrit beaucoup sur les dangers liés au développement de l'intelligence artificielle. Les progrès dans ce domaine s'accompagnent d'une empreinte environnementale importante, car les centres de données, nécessaires à l'entraînement des modèles linguistiques, consomment d'énormes quantités d'énergie et d'eau. Les questions sur la vie privée restent sans réponse, puisque les utilisateurs peuvent insérer dans les modèles linguistiques tout ce qu'ils veulent – des photos de famille aux résultats d'examens médicaux – et tout cela devient partie d'une énorme masse de données que les grandes entreprises technologiques exploitent.

Des questions plus ou moins graves sur la sécurité et l'avenir se posent enfin – comment mettre en place des systèmes de contrôle si une technologie aussi puissante est développée par des entreprises privées qui ne relèvent de personne ?

En tant que sociologue, je ne suis pas en mesure d’évaluer ces dangers. Je n’ai aucune idée si dans dix ans, nous nous réveillerons dans un monde digne de Terminator. Je ne possède pas les compétences pour juger si les avertissements selon lesquels un développement incontrôlé de l’IA conduira à la prise de pouvoir par des modèles linguistiques sont fondés sur des processus réels ou s’ils ne sont qu’une expression de technophobie typique des périodes de ruptures scientifiques et technologiques. Cependant, je peux m’interroger sur la nature de ces peurs, car elles nous disent quelque chose de très intéressant sur les émotions sociales que suscite le progrès technologique.

L’IA et le monde académique

C’est un sujet d’autant plus intéressant que, il y a seulement quelques semaines, nous avons eu notre propre controverse polonaise autour de l’IA – à savoir l’affaire du rapport (in)fameux Polaków portret własny et du professeur Barbara Mróz-Gorgoń. La réaction et la température émotionnelle qu’elle a suscitées sont étonnantes. Outre le lynchage habituel sur Internet (je dis « habituel », car à l’ère des médias sociaux polarisés, de telles réactions ne sont pas nouvelles), de nombreux voix critiques à l’encontre de l’ancienne représentante du gouvernement chargée de la promotion de la marque polonaise ont été entendues dans le milieu académique. Le porte-parole de la Conférence des Recteurs des Écoles Polonaises (organisme regroupant les responsables des universités polonaises) a exigé des excuses de la part du professeur Mróz-Gorgoń et a jugé inappropriée sa déclaration selon laquelle « chaque autre professeur dans le monde utilise » l’intelligence artificielle. Sur les forums sociaux, j’ai lu de nombreux commentaires critiques de la part de représentants du monde académique, allant jusqu’à parler de la compromission de la science polonaise.

D’où vient une critique aussi forte ? Pour répondre à cette question, il faut réaliser ce qu’est réellement l’intelligence artificielle, vue du point de vue de la science en tant que domaine de production de connaissances – et du point de vue des chercheurs en tant que personnes spécialisées dans cette production.

L’IA et la science

Les enthousiastes répondront que c’est un outil facilitant le travail. Je dois moi-même admettre que j’utilise des modèles linguistiques – principalement pour faire une revue de littérature, un processus fastidieux mais nécessaire si l’on veut publier dans des revues scientifiques anglophones de renom. Les modèles linguistiques accélèrent considérablement ce processus, leurs versions payantes hallucinent rarement et peuvent sélectionner des articles scientifiques pertinents, ce qui m’évite de lire des dizaines de textes pour en trouver quelques-uns adaptés à mon domaine. L’intelligence artificielle me permet aussi de traduire en anglais ce que j’ai écrit, ce qui est un avantage important pour quelqu’un qui, en tant que représentant d’une science semi-periphérique, doit rivaliser avec des chercheurs anglophones de pays centraux.

Il existe d’autres usages de l’IA en science, moins controversés, comme l’automatisation de la collecte de données (par exemple, à partir de sites web, lorsque l’on analyse des discours) ou leur analyse préliminaire ou approfondie (par exemple, par la création de clés de catégorisation ou le codage de données qualitatives). Tous ceux qui soumettent des demandes de financement utilisent aussi des modèles linguistiques – l’IA est un assistant qui peut conseiller sur la rédaction d’une proposition pour maximiser ses chances de succès.

Les détracteurs de l’IA soulignent que l’abus des modèles linguistiques entraîne une inflation significative de la production scientifique. Selon une analyse, un scientifique utilisant des outils d’IA publie en moyenne trois fois plus de textes scientifiques et peut espérer près de quatre fois plus de citations . Une autre étude montre une augmentation notable du nombre de demandes de subventions dans le prestigieux programme Marie Sklodowska-Curie Actions entre 2022 et 2025. Tout cela fait que, même si les chercheurs trouvent plus facile d’écrire un texte ou une demande de financement, la concurrence accrue rend plus difficile la publication de ces textes ou l’obtention de subventions.

Les meilleures revues scientifiques et les agences de financement les plus prestigieuses sont inondées de propositions bien rédigées. Cette augmentation de l’offre de connaissances scientifiques ne s’accompagne pas d’une demande accrue. Les meilleures revues publient le même nombre d’articles, et les agences disposent des mêmes budgets, ce qui fait que le taux de succès (rapport entre articles ou demandes acceptés et rejetés) diminue régulièrement.

La revue par les pairs et la compétition

Il en va de même pour la revue par les pairs, activité clé dans la publication de recherches. De bonnes recherches doivent être vérifiées et évaluées par d’autres spécialistes pour pouvoir être présentées à un public plus large dans un article scientifique. Le double-blind peer review, c’est-à-dire une évaluation anonyme par d’autres chercheurs, est la norme dans la majorité des disciplines. Cependant, l’inflation des publications scientifiques rend de plus en plus difficile pour les chercheurs de consacrer du temps à lire attentivement un article, à en faire une évaluation sérieuse et à rédiger une critique (en justifiant étape par étape cette évaluation).

Il existe cependant des preuves que les modèles linguistiques sont souvent utilisés non seulement pour rédiger des textes scientifiques, mais aussi pour les évaluer. Nous sommes donc face à une situation où l’intelligence artificielle écrit pour les chercheurs des articles, puis les aide à en juger le contenu.

Le prestige dans la science

Tous ces phénomènes négatifs ont sûrement été évoqués par ceux qui ont rejoint le chœur presque unanime des critiques de la professeure Mróz-Gorgoń. Je ne souhaite pas remettre en question leurs bonnes intentions. L’IA peut en effet constituer une menace importante pour la science, et ses outils doivent être utilisés avec une extrême prudence. La critique qui a été adressée à la co-auteure du rapport est en grande partie justifiée. Cependant, la radicalité de cette réaction est surprenante et peut-être cache-t-elle une peur inconsciente – non pas tant des conséquences directes du développement technologique pour une activité donnée, mais de la perte de statut.

Ma hypothèse est la suivante : les émotions liées à l’affaire de la rapport de l’ancienne porte-parole du gouvernement pour la promotion de la Pologne dans le monde sont l’expression d’une crainte face à un changement radical des règles du jeu académique basé sur le prestige individuel.

Du point de vue d’un observateur extérieur, les chercheurs font ce qu’ils font pour que nous vivions tous mieux. La connaissance scientifique doit servir les intérêts de tous (par exemple, nous faire vivre plus longtemps, en meilleure santé et plus confortablement). Selon l’éthos académique tel que le décrit le sociologue Robert K. Merton, ses éléments incluent notamment le communalism et l’altruisme, c’est-à-dire la conviction que la connaissance est un patrimoine commun de toute l’humanité et que l’activité scientifique doit être motivée par la recherche de la vérité, et non par la poursuite d’intérêts particuliers. Cependant, cette image est en grande partie idéalisée, comme l’ont souligné de nombreux critiques de Merton.

Je ne nie pas que les chercheurs mènent des recherches pour le bien de l’humanité. Je veux simplement souligner que leur motivation la plus importante reste aussi leur prestige individuel. C’est peut-être la monnaie la plus précieuse dans le monde scientifique. Comme l’affirmait un autre sociologue plus pragmatique, Pierre Bourdieu, en science, comme dans d’autres activités sociales, il s’agit de pouvoir. Le pouvoir en science dépend notamment de la quantité de prestige, qui se manifeste par des publications dans des revues prestigieuses, des projets financés par des agences renommées ou le nombre de citations.

Ce prestige ainsi accumulé peut ensuite être échangé contre d’autres ressources (par exemple, un scientifique très respecté peut gagner plus) ou utilisé comme capital pour réussir dans des contextes non académiques (par exemple, un scientifique de haut prestige peut devenir une figure médiatique reconnue ou s’engager en politique). Par ailleurs, accumuler cette « monnaie » qu’est le prestige peut être extrêmement difficile et exigeant, impliquant de nombreux sacrifices personnels. En revanche, les scientifiques reconnus, qui ont déjà beaucoup de prestige, ont ensuite plus de facilité à atteindre leurs objectifs de vie.

Pour ce prestige, il est crucial d’attribuer un accomplissement scientifique précis à une personne spécifique. Le prestige peut toujours être associé à un chercheur précis dans le domaine scientifique. Le prestige appartient à quelqu’un, sinon cela n’a pas de sens comme monnaie. C’est pourquoi les chercheurs attachent autant d’importance à l’attribution d’un accomplissement à un nom – l’histoire connaît de nombreux débats sur la priorité d’une publication, d’une découverte ou d’un brevet. Un autre exemple illustrant ce mécanisme est la discussion sur l’ordre des auteurs dans une publication scientifique – la personne en première position bénéficie toujours du plus grand prestige, la suivante un peu moins, etc. J’ai moi-même été témoin de plusieurs débats animés sur qui doit figurer en premier dans une liste d’auteurs.

Un bon exemple est aussi la fameuse dispute sur la priorité dans la résolution du problème du millénaire. On peut se demander – peu importe qui a réalisé cette avancée en premier, puisque, en fin de compte, ce qui compte, c’est l’accumulation de connaissances ? Malheureusement, en science, ce n’est pas seulement cela. La motivation principale des chercheurs est souvent de faire quelque chose de significatif, qui leur permettra de laisser leur nom dans l’histoire. On peut avoir une appréciation différente, mais c’est souvent ainsi que cela se passe.

Changement du jeu sur le prestige

Et en réalité, cela semblait être le cas, car l’intégration des modèles linguistiques dans l’apprentissage à grande échelle redéfinit les règles du jeu académique. L’IA permet de gagner beaucoup plus rapidement du prestige sous forme d’articles, de subventions ou de citations. Comme je l’ai indiqué plus haut, le nombre de textes envoyés aux revues de haut niveau connaît déjà une croissance exponentielle. D’ailleurs, le marché de l’édition scientifique s’est bien adapté à ces circonstances – les revues dites « méga » qui publient une dizaine de textes par jour, avec des processus de revue rapides et une forte visibilité, deviennent la norme. Des éditeurs comme MDPI ou Frontiers deviennent ainsi un écosystème naturel pour la science assistée par l’IA.

L’efficacité de l’aide de l’IA dans le travail scientifique fait que le chemin vers le statut de chercheur reconnu devient de plus en plus facile (je mets de côté ici la qualité de cette connaissance, qui est un autre sujet). Dans le modèle traditionnel, la constitution du prestige était plutôt lente. Avec l’IA, tout s’accélère. Un chercheur peut rapidement accumuler des ressources de prestige et les utiliser dans différents domaines, en concurrence avec ceux qui ont « fait leur chemin » selon les anciennes règles.

Comme on peut facilement le deviner, cette situation mène inévitablement à un conflit entre ceux qui savent utiliser les modèles linguistiques pour construire leur position « à la rapide » dans le monde scientifique, et ceux qui ont dû faire beaucoup d’efforts et de sacrifices pour y parvenir. Je pense que c’est ce que nous avons vécu dans la réaction du milieu académique polonais à l’affaire du professeur Mróz-Gorgoń.

Bien sûr, le rapport Polaków portret własny est un excellent exemple de ce qu’il ne faut pas faire avec l’IA. Mais c’est aussi un aperçu de ce à quoi pourrait ressembler, à l’avenir, la compétition académique pour le prestige, et comment ceux qui constituent aujourd’hui l’élite académique pourraient ne pas réussir à s’adapter aux nouvelles règles. La professeure Mróz-Gorgoń incarne, sous cet angle, quelque chose qui arrive inévitablement – un avenir qui apparaît non seulement comme un changement profond, mais comme une inversion totale des hiérarchies jusqu’ici établies.

L’IA et le sentiment d’aliénation

L’IA rend également la réponse à la question « qui est l’auteur de la recherche / du brevet / de la découverte / de l’article » extrêmement problématique, touchant ainsi à la dimension clé – comme je l’ai écrit plus haut – du prestige académique, à savoir la paternité. Dans le modèle traditionnel, la situation était assez claire – il était facile d’attribuer une découverte à une personne. Et même si, comme le montrait Ludwik Fleck il y a près cent ans, les groupes et collectifs sont de véritables producteurs de découvertes scientifiques, selon les règles du champ académique, dire « c’est moi l’auteur de cette découverte » reste une étape cruciale dans la quête de prestige.

Reprenons encore une fois l’exemple de la résolution du problème du millénaire. Deux mathématiciens, qui ont suggéré que OpenAI aurait pu « voler » leur avancée, ont eux-mêmes basé leur travail sur des modèles linguistiques. Ceux-ci appartenaient à OpenAI, donc peut-être que ces chercheurs ont eux-mêmes contribué à leur propre échec.

Qui est l’auteur de cette avancée ? Ces mathématiciens, qui probablement n’auraient pas pu faire cela eux-mêmes, ont-ils utilisé l’IA ? Ou bien les propriétaires d’OpenAI, qui auraient peut-être utilisé des prompts préparés par ces mathématiciens pour améliorer leurs modèles ? Ou encore, la propre intelligence artificielle ? Mais l’IA se base sur des données que les humains ont préalablement créées, sur tout le savoir accumulé jusqu’ici, et les prompts sont aussi formulés par des humains.

L’IA repose évidemment sur la connaissance qui a été intégrée dans le modèle linguistique par un humain, donc en fin de compte, quelqu’un de vivant est l’auteur des idées que nous suggère le LLM. Cependant, il y a ici un problème lié à la multiplicité des références que l’IA génère et à la rapidité avec laquelle elles sont assimilées. Dans le travail académique traditionnel, assimiler et utiliser les idées d’autrui demande du temps et, d’une certaine manière, transforme celui ou celle qui exploite ces idées. Pour citer un texte, il faut d’abord le lire, le comprendre et s’en inspirer, puis l’utiliser de façon créative, ce qui modifie la façon de penser. Lorsque l’on utilise l’IA, ce processus s’accélère fortement, et le mécanisme d’absorption (l’assimilation d’idées étrangères pour en dire quelque chose de personnel) n’a pas lieu. Il n’y a donc pas le temps que ces idées deviennent vraiment les siennes.

Cela, à mon avis, engendre un sentiment d’aliénation par rapport au produit de son propre travail intellectuel. Si j’écris un article et que l’IA le corrige ou propose des développements auxquels je n’aurais pas pensé, qui en est alors l’auteur ? Si l’IA commence à jongler avec des concepts et des théories que je ne connaissais pas et que je n’ai assimilés que par des résumés, est-ce que je les utilise consciemment (c’est-à-dire selon mes intentions personnelles) ou est-ce que je me laisse simplement guider par quelqu’un d’autre dans ma réflexion ? Comme je l’ai déjà dit, les idées qui circulent dans les LLM ont probablement leurs auteurs. Mais l’expérience d’utilisation de l’IA dans le travail académique peut conduire à un sentiment inconfortable d’absence de subjectivité pour les chercheurs.

Avant l’ère de l’IA, c’était moi, en tant que chercheur, qui pensais, découvrais, présentais et monétisais le prestige acquis au fil de ma carrière. Avec l’IA, ce n’est plus aussi évident. Cela peut conduire à des questions existentielles. Si ce n’est plus seulement moi qui pense, qui suis l’auteur, alors peut-être que le monde n’a plus besoin de moi en tant que chercheur ? Peut-être que le développement futur de l’IA – lorsque les capacités des modèles linguistiques seront bien supérieures à celles d’aujourd’hui – entraînera une conscience irrésistible d’être inutile. Cela pourrait être insupportable pour les intellectuels, pour qui la subjectivité, et donc la paternité individuelle comme élément essentiel du prestige, constitue une composante fondamentale de leur identité professionnelle.

Revenons à l’affaire de l’ancienne porte-parole du gouvernement. La professeure Mróz-Gorgoń n’a pas seulement brisé certaines règles du jeu du prestige. Bien qu’elle ait joué le rôle d’une experte formée, son exemple montre que le travail intellectuel d’un spécialiste peut ne pas être nécessaire et peut être délégué à un dispositif relativement bon marché et facile à utiliser.

La réaction excessive face à la compromission de la professeure Mróz-Gorgoń exprime peut-être une peur de l’avenir, où la paternité et la subjectivité du chercheur deviendraient des vestiges du passé. Un avenir où les découvertes seraient attribuées non seulement aux chercheurs, mais aussi aux entreprises et aux modèles d’IA. Un avenir où les carrières scientifiques (si elles existent encore) ne seraient plus construites selon les règles actuelles. Un avenir où la pensée, la connaissance, les compétences intellectuelles cesseraient d’être des critères importants du statut social.

Nous sommes tous Platon

Pour mieux comprendre où en sont aujourd’hui les chercheurs (en Pologne et dans le monde), il est utile de faire référence à la transition clé dans l’histoire de la culture, celle de l’oralité à l’écrit. L’invention et la diffusion de l’écriture ont été une révolution technologique qui a changé de nombreux aspects de la vie sociale, du commerce, de la science à la politique. Cependant, tous n’ont pas été enthousiastes face à cette nouveauté technologique. Parmi ses critiques acharnés, il y avait notamment Platon, qui pensait que l’écriture détruit la mémoire et expose les philosophes au risque d’incompréhension (celui qui parle peut défendre ce qu’il dit ; l’écrit, une fois mis en circulation, vit sa propre vie, hors du contrôle de son auteur). La position de Platon peut être lue comme quelque chose de plus qu’une simple technophobie : c’est une posture d’un membre de l’élite qui voit que les règles des hiérarchies sociales traditionnelles sont brutalement modifiées, et que ses compétences ne seront plus aussi valorisées qu’auparavant.

La peur, qui sous-tendait certaines réactions violentes à l’affaire de la professeure Mróz-Gorgoń, est une émotion qui accompagne une posture similaire à celle de Platon. Il y a bien sûr de nombreux enthousiastes de l’IA dans la science, je ne le nie pas. Cependant, dans le monde académique, il y a aussi beaucoup d’opposants, qui, en plus de leurs critiques légitimes, craignent de perdre leur propre prestige ainsi que des éléments importants de leur identité.

D’une part, l’IA risque probablement d’altérer certaines compétences, de rendre paresseux, peut-être de nous conduire dans une impasse. Déjà, on constate que les informations générées par l’IA elle-même deviennent la matière première de cette dernière, ce qui fait que tout le système fonctionne à vide. D’autre part, le développement rapide suscite une négation teintée de peur, qui est à la fois une manifestation de crainte et une tentative de stopper des changements irréversibles (peut-être) qui bouleversent le monde tel que nous le connaissons.

**
Michał Wróblewski – sociologue, philosophe, travaille à l’Institut de sociologie de l’UMK à Toruń, s’intéresse à la sociologie de la médecine et à la sociologie de l’environnement. Il mène actuellement des recherches sur le scepticisme vaccinal et l’activisme lié à la qualité de l’air. Auteur notamment de À qui appartiennent les peurs ? À qui appartient la science ? Les structures du savoir face aux controverses sociétales et scientifiques (avec A. Nowak et K. Abriszewski, Poznań 2016), Sociologie des épidémies. Maladies infectieuses émergentes dans une perspective de sciences sociales (avec Ł. Afeltowicz ; Toruń 2021).

Le post L’intelligence artificielle et les peurs du monde académique est apparu en premier sur Krytyka Polityczna.