Daniel Innerarity : « Il est crucial d'alimenter l'IA avec plus de diversité »

Daniel Innerarity, l'un des penseurs espagnols les plus remarquables du monde contemporain, propose dans son dernier livre la nécessité de « nourrir l'IA avec plus de diversité » pour qu'elle ne devienne pas un instrument d'exclusion.

Innerarity (Bilbao, 1959), professeur de Philosophie Politique et Sociale, chercheur Ikerbasque à l'Université du Pays Basque, expose ces idées dans Une théorie critique de l'intelligence artificielle (Galaxia Gutenberg, 2025).

Et avec l'élargissement de la diversité dans les sources alimentant ces nouveaux systèmes, le professeur ajoute une autre idée : la nécessité de « superviser l'interaction humaine pour garantir sa compatibilité avec les valeurs démocratiques ».

Dans cette interview, il parle de ce nouveau livre, récompensé par le IIIe Prix de l'Essai Eugenio Trías. Sur la couverture, une mouette sur une rambarde pliée face à la mer suggère, contre toute attente, une autre façon de regarder la révolution technologique.

Pourquoi cette couverture et ce livre ?

Je ne voulais pas l'image typique en tons bleus, associée à l'éthéré et au nuage, car je conçois l'intelligence artificielle de façon plus matérielle, en contraste avec le corps humain. La photo, quelque peu retouchée avec l'IA, joue avec cette idée : une machine interpréterait que la barre s'est pliée sous le poids de la mouette, alors que nous, humains, comprenons la blague immédiatement. C'est une métaphore sur les différences entre notre intuition et le traitement de l'IA.

J'ai écrit ce livre pour que l'on comprenne ce qui est en jeu. Il y a beaucoup d'hystérie autour de la technologie, avec des attentes démesurées de technosolutionnisme. La Silicon Valley veut que nous croyions que la technologie, et non la délibération démocratique, résoudra les grands problèmes. Il y a aussi une panique exagérée, non ajustée aux risques réels ni à nos capacités à y faire face. L'IA n'impose pas un chemin, elle ouvre plusieurs possibilités, comme le contexte historique, politique et géostratégique actuel. Il n'est pas écrit que cela finira mal ni que la technologie réduira notre liberté, elle peut avoir un potentiel émancipateur.

Le ‘technosolutionnisme’ est-il l'idéologie de l'ère numérique ?

C'est celle de certains grands entrepreneurs du monde numérique, renforcée par le développement technologique spectaculaire. Chaque jour, apparaissent des nouvelles prometteuses ou inquiétantes : hier, une femme a retrouvé la parole grâce à l'IA ; aujourd'hui, les traducteurs protestent pour que leur travail ne nourrisse pas ces systèmes. Ce manège d'avancées et de conflits génère de la perplexité.

Quel est le rôle de la décision politique dans une démocratie algorithmique, étant donné que l'IA conditionne autant le débat que la prise de décision ?

Le processus de décision dans l'IA implique conception, données et interaction avec les utilisateurs, et la clé réside dans le moment, la manière et le but pour lesquels les humains doivent intervenir. Le manque de diversité chez ceux qui conçoivent ces systèmes, notamment la faible présence féminine, peut générer des biais. Un exemple est la reconnaissance faciale qui confondait des femmes noires avec des orangs-outans en raison d'entraînements biaisés avec plus d'images d'hommes blancs. Il est crucial d'alimenter l'IA avec plus de diversité, comme le fait l'Espagne avec l'IA en castillan et langues co-officielles [ALIA], face à l'anglocentrisme actuel, et de superviser l'interaction humaine pour garantir sa compatibilité avec les valeurs démocratiques, comme le font Algorithm Watch et l'AESIA (Agence Espagnole de Supervision de l'IA).

Pourquoi n'est-il pas souhaitable que l'IA soit identique à l'humain ? Pouvons-nous la contrôler ?

Dans l'aviation, les frères Wright ont montré qu'au lieu d'imiter les oiseaux, il fallait étudier l'aérodynamique. Il en va de même avec l'IA : au lieu de reproduire l'intelligence humaine, il faut exploiter sa capacité de calcul et sa gestion de grands volumes de données. Elle fonctionne bien dans des contextes avec des données claires et des solutions binaires, mais dans des problèmes complexes ou ambigus, les humains restent irremplaçables.

Nous n'avons pas trouvé de concept de contrôle adapté à l'IA : soit on laisse trop de marge, risquant de compromettre des valeurs, soit on applique un contrôle excessif qui freine son apprentissage. La loi européenne sur l'IA avance dans la bonne direction, mais reste trop générique. C'est comme en 1868, quand au Royaume-Uni, on exigeait qu'une personne marche devant la voiture avec un drapeau rouge pour éviter les accidents. La clé est de combiner vitesse et sécurité, comme avec les voitures modernes ou l'ABS, où l'amélioration technologique évite les risques de freinage brusque en situation de panique.

Quelle légitimité avons-nous pour imposer une perspective réglementaire européenne ?

L'idéal serait d'atteindre un accord mondial sur des standards éthiques, politiques et démocratiques, mais nos cultures diffèrent. Comme pour le changement climatique, nous savons que c'est urgent, mais on progresse par accords partiels. Cependant, les standards européens influencent d'autres acteurs. De plus, IA et écologie se recoupent car la consommation énergétique de cette technologie est énorme et fait déjà partie de l'agenda climatique international.

Que signifie que les réglementations sur l'IA soient formulées par des personnes non natives du numérique, avec une perception différente de leurs risques et bénéfices par rapport aux nouvelles générations ?

La transformation numérique ne consiste pas seulement à digitaliser les administrations, mais à transformer la société dans son ensemble. Et une transformation d'une telle ampleur doit être démocratique et inclusive, ouvrir des débats, permettre la critique, et prendre en compte les écarts générationnels, économiques, géographiques et culturels. Elle ne peut pas être gérée en ignorant la diversité : natifs numériques, personnes âgées, migrants, habitants du monde rural… C'est une épreuve de feu : développerons-nous une technologie inclusive ou laisserons-nous qu'elle divise et expulse ? Nous devons éviter que la digitalisation devienne un outil d'exclusion, comme cela a été perçu avec la transition écologique lors des protestations des gilets jaunes en France.

Dans La revanche, Andrea Rizzi propose un organisme mondial pour gouverner l'IA, comme l'AIEA pour l'énergie nucléaire. Comment faire dans un contexte de méfiance ?

Nous vivons dans cette ère et les institutions mondiales sont remises en question pour des raisons idéologiques ou géostratégiques. La logique du « chacun pour soi » et des jeux à somme nulle prévaut, ce qui complique une gouvernance internationale solide. Aujourd'hui, le modèle gagnant-gagnant n'existe pas, ni ne se profile. À cet égard, la pandémie a eu des effets ambivalents. En positif, elle a favorisé une réponse coopérative en Europe, en impulsant des mécanismes de solidarité comme les fonds Next Generation, impensables en 2008. En négatif, elle a creusé les inégalités, comme l'enseignement en ligne, qui a exclu les étudiants du cadre scolaire, et a généré un sentiment de vulnérabilité et d'irritation sociale, alimentant la méfiance envers les autorités, les migrants et d'autres pays, ce qui nourrit certains extrémismes aujourd'hui.

Quelles répercussions a cette méfiance ?

Maintenant, la citoyenneté a un sens critique accru, ce qui peut être vu comme une avancée démocratique. Cependant, je pense que l'idée de transparence est surévaluée et que notre culture visuelle suppose à tort que voir équivaut à comprendre. Face à la transparence – comprise comme simplement « voir dans la boîte noire » – je propose de nous concentrer sur l'explicabilité : il ne suffit pas de montrer, il faut rendre compréhensible, car les systèmes technologiques actuels sont si complexes qu'ils ne peuvent être évalués correctement qu'à travers des institutions publiques de médiation fiables.

Comment faisons-nous face à des algorithmes qui favorisent la polarisation et la désinformation ?

Nous passons d'un écosystème avec peu de sources d'information à un autre avec beaucoup, où le défi est de distinguer le fiable. Cette abondance, bénéfique et démocratique, est déformée par des réseaux sociaux avec des algorithmes qui favorisent l'extrémisme, la polarisation, le sensationnalisme et punissent la modération. Mais il est possible de réguler ces algorithmes pour promouvoir des dynamiques compatibles avec une culture démocratique, comme le fait l'UE.

Comment abordons-nous le conflit entre l'IA et les droits d'auteur ?

L'Europe est en tête en matière de réglementation des droits d'auteur et de la vie privée, mais l'équilibre est complexe. Une grande partie de la créativité humaine consiste à recomposer la créativité des autres, nous ne sommes pas aussi créatifs que nous le croyons. Il ne s'agit pas de justifier le plagiat, il y a des limites évidentes, mais dans d'autres cas, il n'est pas facile de délimiter ce qui est original et ce qui est répétitif, en grande partie parce que nous vivons dans une culture avec beaucoup de produits – comme des scénarios de séries ou des best-sellers – banals ou basés sur des formules peu originales.

L'IA révolutionne des domaines comme la médecine, mais la formation accuse du retard. Que diriez-vous, en général, aux maîtres et professeurs, comme vous ?

Dans des domaines comme la médecine (ou le droit), le décalage entre ce que la société attend et une formation mémorisée, répétitive et peu créative est très évident. Bien que nous ne faisons pas souvent d'expériences en santé ou en justice, une formation plus holistique serait nécessaire.

En général, je dirais aux enseignants que nous ne sommes plus seulement des transmetteurs d'information. Depuis l'existence de Google, cette fonction est devenue banale, les étudiants n'ont plus besoin de nous pour trouver des données. Que pouvons-nous leur apporter que ne puissent pas trouver par eux-mêmes ? : nous pouvons les aider à formuler les bonnes questions – car chercher n'est pas quelque chose de facile ou d'instinctif – et leur apprendre à vraiment trouver ce qu'ils cherchent. Google ne rivalise avec nous que dans la collecte d'informations, pas dans la partie la plus créative de l'enseignement.

Source : Aser G. Rada / Agence SINC / CC By

Photographie : Juantxo Egaña / CC By-sa