Comment les géants de l’IA manipulent le débat public

Qui a peur de la superintelligence ? Celles et ceux qui la fabriquent. Publiée le 22 octobre, une tribune du Future of Life Institute (FLI), un think-tank fondé en 2014 par plusieurs personnalités et chercheur·euses du monde de la tech, alerte une nouvelle fois sur les risques d’une « superintelligence artificielle ». Rien de nouveau sous le soleil. En 2014, Elon Musk comparait l’IA à « invoquer un démon ». En 2015, le FLI, déjà, s’émouvait d’une « véritable » intelligence artificielle surpassant l’humain. En 2023, Sam Altman, le patron d’OpenAI, réalisait un tour d’Europe pour alerter lui aussi sur les risques de l’IA générale.

Nouveau nom, vieux fantasme. Le terme « superintelligence » n’est qu’un rebranding de l’intelligence artificielle générale (AGI). Cette mythologie fondatrice de la Silicon Valley présuppose que cette dernière pourrait, un jour, remplacer l’humain. Qu’importe qu’aucun consensus ne permette d’affirmer qu’une telle technologie existera un jour : optimiste et pessimistes (aussi appelé doomers) s’affrontent, par média interposé, sur ce risque qui reste une chimère. Avec, par contre, des effets bien réels sur le débat public : empêcher toute réflexion sur les outils existants ici et maintenant. « Les discours doomers et techno-optimistes ont la même fonction symbolique que le Paradis et l’Enfer de la théologie : ils cadrent et imposent une vision du monde, le déterminisme technique, qui postule que peu importe le scénario, l’AGI est inévitable », analyse Thibault Prévost, auteur de Les prophètes de l’IA : Pourquoi la Silicon Valley nous vend l’apocalypse, paru chez Lux Éditeur fin 2024.

Après avoir, pendant des années, vendu les risques « existentiels » de l’Intelligence artificielle et son potentiel apocalyptique, le discours des géants du secteur évolue. « Depuis le sommet parisien sur l’IA, les discours sont moins alarmistes avec un recentrage du récit de l’IA comme nécessité géopolitique de la guerre et garantie de la souveraineté occidentale, reprend le journaliste. C’est une vision plus techno-optimiste, mais avec la même mythologie d’une superintelligence à venir ». Ce que Thibault Prévost appelle une « surévaluation mystique des capacités de la machine » a avant tout un objectif économique : attirer les capitaux par une promesse d’hypercroissance. « Ça marche, enchaîne-t-il. Près de 60 % du capital-risque a été capté par les entreprises d’IA l’année dernière ». Présenter l’IA comme nécessaire et inéluctable déplace le débat sur ces risques à long terme et invisibilise au passage les effets réels de l’IA, son impact écologique, politique et social. « Cela permet de court-circuiter toute tentative d’intervention de la société civile dans l’activité du secteur, au nom d’une incompétence technique supposée, reprend Thibault Prévost. Sur les plateaux, les entrepreneurs et les chercheurs sont surreprésentés et les chercheurs en sciences sociales ou les travailleurs invisibles ».