Renverser l'empire de l'IA

Alors que la compétition technocratique-autoritaires pour le développement des technologies d'intelligence artificielle avancée se poursuit à plein régime, l'influence de la Silicon Valley sur les agendas réglementaires est déjà comparable – voire dépasse – celle de nombreux États. Cependant, face aux ambitions des superpuissances mondiales et des géants de l'IA, l'Europe a l'opportunité de chercher quelque chose de mieux. Entretien avec la journaliste et écrivaine primée, Karen Hao.

Alessio Giussani : Plusieurs métaphores ont été évoquées pour décrire le modèle actuel de développement de l'intelligence artificielle – par exemple un perroquet ou un miroir. Pourquoi avez-vous choisi la métaphore de l'empire ?

Karen Hao : Je pense que ces métaphores sont toutes extrêmement utiles. Je me concentre sur la « civilisation » parce que je ne regarde pas seulement l'outil technique lui-même et ce qui se passe lorsqu'il est appliqué dans la société, mais aussi la production de la technologie, ainsi que les acteurs qui accumulent un pouvoir économique et politique considérable pour sa création.

Je nomme ce système un empire pour quatre raisons principales. Premièrement, ces entreprises réclament des ressources qui ne leur appartiennent pas : les données des individus, ainsi que le travail des écrivains et créateurs. Deuxièmement, elles exploitent énormément la main-d'œuvre, que ce soit les employés exploités dans le processus de fabrication et la chaîne d'approvisionnement technologique, ou ceux dont les droits du travail sont bafoués lors de l'introduction de la technologie.

Le troisième aspect concerne le contrôle de l'information. Une caractéristique clé de l'expansion des empires est leur capacité à filtrer toute production de connaissance et toute information à travers leur objectif impérial, ce que font également les entreprises d'intelligence artificielle. Elles contrôlent et censurent la science en finançant la majorité des travaux de recherche en IA, et en construisant des technologies de l'information destinées à devenir des portails centraux par lesquels tout le monde, y compris l'éducation, se connecte au monde.

Enfin, tout cela est enveloppé dans une mission civilisationnelle. Elles prétendent que leur travail vise à fournir une technologie qui nous élèvera vers un état utopique, mais si ces technologies sont développées par des « méchants » – généralement la Chine – cela nous plongera plutôt dans un état dystopique. C'est une sorte de narration religieuse, qui était également courante dans les anciens empires.

L'empire de l'IA, tel que vous le décrivez, ne se limite pas à une entreprise ; c'est un système, une logique. Que cache votre attention portée à OpenAI et à son PDG, Sam Altman ?

Une réponse est que les gens ont besoin d'histoires pour donner une forme concrète à ce qui resterait autrement une idée abstraite. Mais OpenAI est aussi particulièrement intéressant parce qu'il a pris toutes les décisions importantes qui ont changé les normes de l'industrie et l'ont orientée vers la construction d'un empire. OpenAI a décidé de croître à tout prix, en travaillant avec de grands modèles linguistiques, et de créer une interface de type chatbot. Presque tout ce que le public associe aujourd'hui à l'intelligence artificielle a été décidé d'abord dans les murs d'OpenAI.

Raconter cette histoire rend beaucoup plus évident que l'intelligence artificielle n'est pas inévitable, car nous réalisons que ce sont de véritables personnes qui ont pris ces décisions, en fonction de leurs valeurs, de leur vision du monde, de leur vengeance personnelle – quoi qu'il ait réellement déterminé la trajectoire du développement de l'IA. Les idéologies de Sam Altman ne se limitent pas à une influence abstraite sur le modèle. On entend souvent l'adage que les modèles reflètent leurs créateurs, mais je voulais montrer comment cela se produit réellement. Il s'agit des entreprises, des personnes, ainsi que du contexte économique et idéologique dont elles font partie.

À mesure que ces technologies deviennent plus efficaces, le contrôle de leur application devient une question existentielle. Nous avons vu que les géants de la tech se sont inclinés devant Trump lors de sa seconde investiture, mais nous constatons aussi que les PDG des entreprises d'IA s'opposent de plus en plus au gouvernement. À qui reviendra finalement la dernière parole – à l'État ou aux entreprises privées ?

La lutte pour décider qui prendra les décisions est en cours. Je considère la relation entre Washington et la Silicon Valley comme une alliance de convenance, mais très tendue. Elles représentent deux modèles impériaux différents, chacun poursuivant ses propres ambitions. Les deux cherchent à s'étendre, et veulent littéralement prendre plus de territoires aux autres pays, mais le gouvernement Trump considérait les entreprises d'IA comme des outils de ses ambitions impériales. Pendant ce temps, la Silicon Valley voit le gouvernement Trump comme un instrument de ses propres ambitions, mais en réalité, ils ne sont pas sur la même longueur d'onde, car tous deux veulent être la puissance suprême au sommet.

Il y a eu des moments où le gouvernement américain a prouvé qu'il était encore le maître – lorsque Trump et Musk se sont affrontés, Musk a été licencié. Mais lorsque le Département de la Défense a été en conflit avec Anthropic, l'entreprise a montré qu'elle était la plus forte : le secrétaire à la Défense Pete Hegseth a évoqué une « option nucléaire », menaçant de déclarer l'entreprise comme un risque pour la chaîne d'approvisionnement – comme un ultime moyen de contraindre Anthropic à obéir –, mais l'entreprise n'a pas cédé. De manière embarrassante, le Département de la Guerre est devenu profondément dépendant d'un acteur privé qui refuse de coopérer selon les conditions du gouvernement, qui ne peut rien contre lui.

Les deux acteurs impériaux doivent rendre des comptes, et cette responsabilité ne viendra d'aucune d'entre elles ; elle doit venir du peuple. D'une organisation ascendante, issue de la base, dont nous commençons à voir la floraison à travers le monde, y compris aux États-Unis. Aussi implacable que puisse sembler cette alliance de convenance, elle est en réalité extrêmement fragile, et il existe des possibilités d'accélérer sa chute en exerçant davantage de pression sur ses points faibles.

Plutôt que de considérer l'intelligence artificielle comme une compétition mondiale entre le bien et le mal, il faudrait plutôt réfléchir à la vision que nous avons de la société.

La situation actuelle du développement de l'intelligence artificielle ressemble à une course vers le fond entre les entreprises rivales et les superpuissances mondiales. Quel rôle la compétition géopolitique avec la Chine a-t-elle joué dans la situation difficile actuelle de l'IA ?

La Chine est une carte que la Silicon Valley joue depuis une décennie, pratiquement depuis qu'elle a été expulsée de Chine. Cependant, en examinant les résultats de cette stratégie, on voit que, en réalité, ce qui s'est produit a toujours été contraire aux prévisions de la Silicon Valley.

On a affirmé que l'absence de régulation des entreprises de la Silicon Valley – et leur régulation via des restrictions à l'exportation vers la Chine – permettrait à la technologie américaine de dominer le monde. Pourtant, TikTok est la plateforme de médias sociaux la plus populaire, et les modèles d'IA open source chinois gagnent en popularité à l'échelle mondiale, y compris aux États-Unis. On avait aussi promis que la domination de la Silicon Valley aurait un effet libéralisant sur le monde, mais cela ne s'est pas produit ; au contraire, leur impact a été profondément illibéral. On a observé une érosion extrême des institutions démocratiques et une accélération rapide du recul de la démocratie, facilitées par les plateformes de la Silicon Valley et les technologies d'IA.

Plutôt que de voir l'intelligence artificielle comme une compétition mondiale entre le bien et le mal, il faudrait plutôt réfléchir à la vision que nous avons de la société, aux technologies d'IA qui soutiendraient cette vision, et aux ressources nécessaires pour la réaliser. Ce n'est pas dans la compétition dictée par la Silicon Valley qu'il faut s'engager, mais dans les idées et valeurs que nous souhaitons préserver. Et je pense que l'Europe a ici une opportunité de montrer au monde une troisième voie, différente de celle des États-Unis et de la Chine, en établissant de nouvelles règles.

La Commission européenne a récemment adopté un paquet de souveraineté technologique, dans le cadre d'une démarche visant à tracer sa propre voie technologique. Comment définir cette vision de l'avenir pour éviter d'obtenir une version européenne d'un modèle oligarchique basé sur la surveillance ?

La grande étoile polaire que l'Europe doit suivre n'est pas la souveraineté pour la souveraineté, mais l'objectif d'atteindre cette souveraineté. L'Europe – ou du moins une grande partie – est l'une des dernières bastions de la démocratie dans le monde. Elle soutient les droits et libertés humains, et a besoin de souveraineté technologique pour promouvoir ces valeurs. Tant qu'elle restera dépendante de systèmes développés de manière très autoritaire, qui cherchent à saper ses sociétés, elle ne pourra pas préserver ses valeurs.

Le concept de souveraineté tend à devenir flou si on le considère simplement comme une fin en soi. Il doit être un moyen pour atteindre un objectif.

De quelles coalitions, groupes d'intérêts ou terrains de conflit devrions-nous partir pour construire cette vision alternative ?

Premièrement, il faut élargir la conception de la gouvernance de l'IA. Par exemple, renforcer les droits des travailleurs et protéger la société civile font partie intégrante de la gouvernance de l'IA. Les étudiants, les enseignants et les professionnels de la santé doivent aussi être à la table pour aider à façonner et remettre en question la manière dont l'IA est développée et utilisée dans la société. L'éducation est essentielle, à la fois en tant que secteur et en tant que coalition à impliquer, ainsi que pour la sensibilisation sociale à l'IA.

Un autre aspect crucial est le financement des chercheurs et entrepreneurs en IA, pour comprendre les détails techniques de leur développement et leur mode d'application. Mais on ne peut pas simplement leur donner de l'argent sans donner la parole au reste de la société ; sinon, on reproduit les problèmes rencontrés aux États-Unis, où ce sont essentiellement des technocrates ou des technoconservateurs qui prennent les décisions.

Nous ne partons pas de zéro. Beaucoup de travaux ont déjà été réalisés pour définir les objectifs communs que la société doit poursuivre. Par exemple, je pense aux objectifs de développement durable. Cela peut servir de point de départ pour réfléchir à la manière de financer l'innovation en IA.

Les narratifs actuels sur les technologies d'IA sont extrêmement polarisés. D'un côté, ceux qui pensent qu'il n'y a rien de vraiment nouveau dans ces technologies et que la bulle va bientôt éclater. De l'autre, ceux qui croient que l'IA va transformer nos vies, révolutionner les chaînes d'approvisionnement, et rendre tout le monde superflu. Que pensez-vous de ces positions divergentes ?

Il est vrai que beaucoup ont tendance à exagérer les avantages sans prendre en compte les coûts de ces technologies, ou à mettre en avant ces coûts de manière excessive, sans voir les bénéfices. Mais je pense qu'une proportion importante partage l'idée que nous voulons profiter des avantages de l'IA, sans pour autant sacrifier notre mode de vie digne – qui inclut une bonne santé, des opportunités économiques, un environnement sain et une planète florissante. C'est l'approche la plus équilibrée.

L'intelligence artificielle (IA) est un terme générique pour diverses technologies, il faut donc réfléchir attentivement à celles dans lesquelles investir, et à celles que nous souhaitons développer, car chacune comporte ses compromis ; certains sont en accord avec le futur que nous voulons construire, d'autres non. Il faut faire des choix judicieux.

L'intelligence artificielle (IA) désigne plusieurs technologies différentes, il faut donc réfléchir soigneusement à celles dans lesquelles nous investissons et à celles que nous voulons développer.

Quelle est votre relation avec les outils d'IA existants ?

Je ne les utilise pas pour trois raisons principales. D'abord, pour des raisons éthiques. Ensuite, pour des raisons de protection de la vie privée : je regarde ces entreprises, et ce qu'elles font, ce sont en fin de compte les technologies de surveillance les plus efficaces jamais inventées. Troisièmement, ces outils ne sont pas vraiment utiles pour les compétences spécifiques dont j'ai besoin pour mon travail.

Je ne dis pas que tout le monde doit faire la même chose. J'ai parlé avec beaucoup de personnes qui profitent clairement de ces outils, ou pour qui leur utilisation est une obligation dans leur rôle professionnel. La solution à l'heure actuelle est plutôt d'appliquer ce que nous avons déjà fait dans d'autres industries, comme la mode. Quand nous avons découvert que la majorité de nos vêtements étaient fabriqués dans des conditions épouvantables, nous n'avons pas simplement jeté nos vêtements. Il a fallu des mouvements de consommateurs, des réglementations gouvernementales et une opinion publique pour réguler cette industrie. Bien sûr, la mode n'est pas encore parfaite, mais il existe désormais des alternatives, et les consommateurs peuvent voter avec leur portefeuille pour soutenir des chaînes d'approvisionnement et des pratiques d'entreprise responsables.

Il en va de même pour l'IA. Il n'y a pas encore assez d'alternatives pour les utilisateurs, et pour que cela change, il faut davantage de mouvements syndicaux et une résistance publique accrue. Ceux qui peuvent s'abstenir d'utiliser ces technologies doivent faire un boycott, et les gouvernements doivent intervenir pour aider à créer de nouveaux marchés pour des alternatives.

Les consommateurs ont une influence importante, mais ce n'est pas la seule. En tant qu'individus, en tant que travailleurs, enseignants ou citoyens, nous devons réfléchir à comment utiliser ces rôles pour améliorer le développement de l'IA.