Pionniers de Guillaume Grallet : le double visage des architectes de demain

Durant la dernière décennie, le journaliste Guillaume Grallet s’est intéressé à celles et ceux aux manettes des intelligences artificielles, faisant le pied de grue devant le siège de telle entreprise dans l’espoir d’en interviewer le fondateur ou traversant le monde à l’improviste, guidé par l’opportunité de rencontrer un génie des sciences. Ces entretiens sont la matière première de Pionniers, un essai riche et complexe sous forme de portraits des architectes du monde numérique de demain. Avec en ligne de mire cette question posée par l’auteur : « Faut-il que l’homme soit devenu fou, mi-apprenti sorcier, mi-tête brûlée, pour tenter de répliquer ce qu’il a lui-même du mal à appréhender : son intelligence ? » Un questionnement qui commence réellement en mars 2016 avec la victoire de l’IA AlphaGo, développée par DeepMind, contre Lee Sedol, champion du monde de jeu de Go.

Au programme de l’ouvrage, on retrouve une grosse partie des stars de l’écosystème : les têtes de pont Mark Zuckerberg (Meta) et Sam Altman (OpenAI) –, les fondateurs des principales IA – Aravind Srinivas (Perplexity), Dario Amodei (Claude), Demis Hassabis (DeepMind), Arthur Mensch (Mistral) – et des messageries instantanées – Meredith Whittaker (Signal) et Pavel Durov (Telegram), ou encore Reid Hoffman, cofondateur de LinkedIn. Seul nom qui manque volontairement à l’appel : Elon Musk. Pour ne pas glorifier celui qui représente une menace pour les démocraties, sans pour autant l’exclure du corpus qui sans lui serait incomplet, l’auteur a la bonne idée d’aborder le personnage sous l’angle de sa mère, Maye Musk. Au final, le panel s’avère complet et, à travers lui, Guillaume Grallet dresse un panorama érudit des forces en présence, en soulignant les points de rencontre et les polarisations, les ambiguïtés et les doubles messages.

Du Sénégal à la Silicon Valley, chacune des personnalités présentées dans le livre possède sa propre vision et son propre agenda, partageant points de vue et désaccords avec ses homologues. S’ils proviennent de régions du monde et de milieux sociaux différents, ils révèlent tous, pour le pire et pour le meilleur, « une exigence de penser le monde différemment ». Ils sont, successivement ou conjointement, scientifiques issus du milieu universitaire, entrepreneurs férus de philosophie, grands lecteurs passionnés par les échecs, le jeu de Go et Donjons et Dragons. Ces profils à la fois semblables et hétéroclites permettent à l’essai de tout aborder : les menaces actuelles (crises écologiques, perturbateurs endocriniens, addiction aux écrans, mondialisation et uniformisation des pratiques…) ; les divergences irréconciliables (sur l’open source, sur la protection des données personnelles, sur le cadre légal, sur le rôle que doit jouer l’Europe…) ; et les enjeux de demain (l’attrait du transhumanisme, la mise en place d’un revenu universel, le retour à l’isolement, la nécessité de déconnecter…).

La carrière d’un bon nombre des protagonistes a débuté par l’écriture d’une thèse et s’est poursuivie avec la publication d’essais, dans lesquels ils alertent souvent sur les risques et les dangers de l’intelligence artificielle. Une ambiguïté au cœur de Pionniers, qui en fait sa force. Ces hommes et ces femmes sont présentés par Guillaume Grallet tels des pharmakon, à la fois remèdes aux maux de la société et poisons à même de nous anéantir. Certaines têtes pensantes des IA en sont aussi les premiers pourfendeurs. Une posture schizophrénique qui rappelle celle des savants fous, incapables de mettre un terme à leurs recherches, tout en se détestant pour les méfaits que celles-ci produiront.

Dario Amodei, qui dirige Anthropic, illustre cette ambivalence. Il est à la fois un des acteurs phares de l’IA et un lanceur d’alerte sur les dangers de celle-ci. « Un revenu universel est toujours mieux que rien. C’est mieux que de ne rien donner, mais ce n’est pas la société idéale. J’aimerais un monde où chacun peut contribuer. Ce serait dystopique d’avoir une poignée de personnes gagnant des milliards pendant que le gouvernement distribue l’argent aux masses », écrit-il, tout en étant un des architectes de cette dystopie. Dans son essai Machines of Loving Grace (2024), Dario Amodei explique qu’il ne faut pas vanter les mérites de l’IA parce que les discours grandiloquents sur les super-intelligences frôlent parfois le messianisme, avant de se contredire en valorisant celles-ci une centaine de pages durant. Même Elon Musk, qui semble souvent prêt à tout détruire sur son passage pour atteindre ses objectifs, dit que « l’utilisation de l’IA pour de mauvaises raisons, à des fins de manipulations, doit nous préoccuper ». Alors qu’il est à la tête de X, première plateforme de manipulations au monde.

Cette équivocité traverse le livre de part en part. Au point que lorsque les « pionniers » disent respecter les croyances, mais privilégier l’élévation scientifique, on devine entre les lignes leur croyance dans un Dieu IA, dont il faut se prémunir de la foudre. C’est ainsi que le fraudeur Sam Bankman-Fried, fondateur de FTX, plateforme centralisée d’échange de cryptomonnaies, est aussi le créateur d’un fonds dédié notamment à « la préparation à des catastrophes mondiales, y compris les risques biologiques et climatiques, la réduction de la pauvreté dans le monde et l’amélioration de la santé publique, ainsi que la réduction des risques existentiels liés à l’IA avancée et aux pandémies ». Que Signal, l’application d’échange de messages chiffrée et sécurisée, est à la fois utilisée par des terroristes et par des militants progressistes. Que Palantir, bras armé de la société de surveillance américaine, organise les secours après l’ouragan Sandy, et est devenu un acteur essentiel de la lutte contre les abus sexuels sur les enfants. Et que son fondateur, Alex Karp, est également passionné par le philosophe Théodore Adorno, qui analyse les dérives totalitaires du capitalisme et les méfaits de la concentration du pouvoir. Autre contradiction : ces « pionniers » prédisent un futur aux frontières ouvertes, où tout le monde communiquerait avec tout le monde, mais privilégient pour eux-mêmes un isolement radical, afin de s’extraire de l’intensité numérique.

Pionniers s’inscrit dans la droite lignée de ces ambivalences. Guillaume Grallet ne cache jamais sa fascination pour ces pionniers, mais laisse transparaître, entre les lignes, la peur et les inquiétudes qu’ils lui inspirent. Il en ressort un essai passionnant, où l’intelligence et la recherche servent encore de socle commun, mais où chaque espoir s’accompagne d’un retour de bâton potentiel. Il ne s’y agit pas d’identifier les gentils et les méchants, de distinguer ceux qui ont tort et ceux qui ont raison, mais de mettre en lumière la complexité des questions posées.