IA, nous défaire des promesses

La question de l’efficacité renvoie toujours à la question de l’objectif poursuivi et à l’angle sous lequel on la regarde, c’est-à-dire depuis quel indicateur cette prétendue efficacité est-elle évaluée, et au détriment de quel autre ? Le Doge, le département de l’efficacité gouvernementale mise en place par Elon Musk en janvier 2025 lors de l’élection de Donald Trump, a symbolisé plus que d’autres cette promesse. Mais ni les coupes budgétaires auxquelles il a procédé, ni la lutte contre la fraude, ni le licenciement de fonctionnaires ne signifient pas pour autant produire de l’efficacité. Pour le Doge, cette dernière a été circonscrite à la seule réduction des coûts des services publics, qu’il faudrait donc « tronçonner » pour les réduire. Le licenciement des fonctionnaires pour faire des économies et leur remplacement par des programmes d’IA fait une promesse d’efficacité supputée, mais a surtout eu pour objectif de rendre le changement à l’œuvre sans recours, en éliminant la résistance des corps institués aux transformations des services publics. Le but a été bien plus de réduire des dépenses pour des raisons politiques pour permettre aux services privés de les accaparer que de produire des preuves d’efficacité.

La question de « l’efficacité » – comme celle de la productivité – est une question qui transcende la promesse de l’IAification de la société qui nous est toujours proposée comme un moyen pour en produire plus, oubliant d’interroger de quelle efficacité nous parlons, vue depuis quel point de vue. Or, l’efficacité est toujours située : elle agit sur un critère au détriment d’autres. Dans le domaine de la santé par exemple, on nous explique souvent que les systèmes de détection par IA fonctionnent mieux que les spécialistes, détectent des tumeurs plus tôt ou en faisant moins d’erreurs que celles et ceux-ci. Mais ces scores élevés ont tendance à identifier des tumeurs de plus en plus bénignes et donc à augmenter le taux de patients à traiter, au risque de développer des coûts de santé injustifiés. Ainsi, la promesse que l’IA permettra de faire des progrès en médecine ou dans nombre d’autres domaines est toujours répétée pour justifier des investissements, mais bien peu démontrée. Les progrès demeurent surtout incrémentaux et lents et ne pourront pas être effectifs, si le système de soin, lui, s’effondre. Pour le dire autrement, le progrès et l’efficacité médicale ne sont pas qu’une question d’innovation technique, mais également de disponibilité d’une infrastructure de soins pour tous·tes. En n’observant l’IA seulement comme un progrès technique, on ne discute pas de toutes les transformations qu’elle induit, celle qui n’en relève pas et celle qui favorise le pouvoir de quelques-uns sur tous·tes les autres.

C’est la même chose pour la productivité. Les discours promotionnels sur l’IA promettent tous que l’IA va nous faire gagner du temps et accélérer la productivité des entreprises. Les promesses d’automatisation des tâches routinières et de gain de temps sont devenues un mème des discours solutionnistes. L’économiste Daron Acemoğlu estime pourtant que les effets de productivité liée à l’IA au cours des 10 prochaines années seront extrêmement modestes (de l’ordre de 0,064 % par an). Par contre, l’IA risque surtout de continuer à élargir l’écart entre les revenus du capital et du travail, plus que de réduire les inégalités ou stimuler la croissance des salaires. Les entreprises qui utilisent l’IA la déploient bien plus pour remplacer les salarié·es par des technologies ou par une externalisation que la technologie permet (comme celle des travailleur·ses du clic) que pour les rendre plus productifs. Le progrès technique n’amène pas nécessairement au progrès humain, au contraire. Les technologies numériques se sont bien plus révélées les fossoyeuses de la prospérité partagée qu’autre chose.

La promesse de la productivité occulte une vérité fondamentale : les avantages de l’IA profitent aux entreprises qui les déploient et non aux travailleur·ses ou au grand public.

En nous promettant une créativité débridée, libérée de toute contrainte, les promoteurs de l’IA générative estiment que la créativité n’est plus le propre de l’être humain, mais relève désormais des machines. En la mettant dans les mains de chacun·e, les machines promettent une créativité pour tous·tes.

C’est oublier d’abord que pour que ces machines deviennent créatives, il faut que les utilisateurs·trices le soient également. La plupart des usages sont mémétiques plus que productifs, explique l’artiste et essayiste Grégory Chatonsky. Loin de rendre tout le monde créatif, certain·es subliment les potentialités de ces outils parce qu’elles et ils les maîtrisent finement et qu’elles et ils maîtrisent également les codes de la créativité, quand tous·tes les autres ne font que les utiliser, éclaire-t-il. Plus que de libérer la créativité de tous·tes, ces outils semblent surtout amplifier les capacités créatives de certain·es, mais pas de celle ou celui qui ne maîtrise ni l’outil ni la pratique.

Plus qu’une révolution de la connaissance, de l’information ou de la créativité, il est probable que les créations de l’IA s’apprêtent surtout à être peu créatives. L’IA générative produit des outils de coordination, de traduction, d’adaptation et d’exploitation, qui vont produire des déploiements ennuyeux et techniques permettant peut-être de fluidifier les organisations, mais bien plus de les noyer sous leurs productions. Des formes de tableaux Excel de la société de la connaissance, plus que de la génération d’idées originales. La créativité et l’originalité des productions de l’IA générative tient surtout d’une fiction que le jugement populaire décrasse. Alors que l’IA est associée au summum des réalisations humaines, , elle désigne d’abord des choses assez pauvres, assez communes. Dire d’un texte qu’il a été réalisé par ChatGPT qualifie surtout un document sans grand intérêt. Pour l’inventivité, on repassera.

Compas, le logiciel de prédiction de risque de récidive criminelle américain, utilisé dans de nombreuses juridictions de l’autre côté de l’Atlantique, est assurément l’un des emblèmes de la pseudo « objectivité » des calculs et donc de leurs défaillances du fait des biais qu’ils embarquent. La promesse d’objectivité de cette prédictibilité nous fait oublier que les calculs ne sont jamais neutres : ils produisent toujours des décisions orientées selon les critères depuis lesquels ils sont construits, les objectifs qu’ils visent et les données avec lesquels ils sont nourris.

Le calcul de risque de récidive de Compas s’appuie sur un questionnaire comportant plus de 110 questions auxquelles doivent répondre les assistant·es sociaux qui accompagnent les personnes condamnées. Ces questions et surtout leurs réponses estiment que le risque de récidive serait inhérent aux caractéristiques personnelles des individus, à leur histoire, à leur parcours, à leur identité, plutôt qu’à des conditions socio-économiques exogènes. Le traitement de ces réponses par le logiciel donne un résultat chiffré (un score) augmenté d’un code couleur qui prédit le risque de récidive violente. Celui-ci est imprimé et ajouté au dossier et les magistrats le consultent pour prendre leurs décisions. Il se présente donc bien comme un outil d’aide à la décision opaque, biaisé et performatif. C’est-à-dire qu’il crée de la récidive plus qu’ils ne l’évite, parce qu’il est opaque et n’offre aucune modalité d’opposition.

Tous les systèmes de calculs de risque déployés dans les domaines du social ont montré des défaillances problématiques, des algorithmes d’atténuation des risques bancaires à ceux de recherche de fraudes de la CAF. Dès que nous tentons d’utiliser l’IA pour des prédictions, notamment dans le domaine du social, elle produit des discriminations. De l’emploi à la santé, en passant par le crime… Partout, ces modèles restent englués dans leurs biais, en produisant des résultats assez pauvres derrière leur complexité. Trop souvent, ces systèmes de prédiction des risques utilisent des proxies, des variables substitutives qui nous font croire qu’on peut mesurer une chose par une autre, comme les risques de récidives criminelles depuis des données sur l’emprisonnement des proches. Même chose quand ces outils sont utilisés pour produire des listes de cibles à bombarder sous les machines de l’IA pour faire la guerre. Les scores produits sont partout défaillants, spécifiques, manipulables et manipulés pour s’adapter aux objectifs.

Les outils de prédiction, derrière leur apparente neutralité et leur volonté de scientificité, amplifient les biais qu’ils véhiculent. La neutralité des calculs n’est donc pas tant un problème technique à corriger, une question de modélisation à ajuster, de données à corriger ou de calculs à améliorer. Elle consiste au contraire à reconnaître que nos calculs sont situés et défaillants, et à trouver des solutions qui ouvrent des perspectives plutôt qu’elles ne les referment pour celles et ceux qui sont impacté·es par les calculs. « Les biais sont la nature même des classifications » écrivait Kate Crawford dans son Contre-atlas de l’intelligence artificielle (Zulma, 2022).

La promesse d’objectivité est également une promesse de neutralité, celle d’une science des données et des traitements qui pense être capable de produire le monde sans avoir à le convoquer, comme l’expliquent Lauren F. Klein et Catherine D’Ignazio dans Data Feminism (MIT Press, 2020), et auquel il suffirait d’appliquer une froide raison sur le calcul pour neutraliser ce qu’il produit. Le score met à distance sous principe d’objectivité. La neutralité en est l’idéal, qui promeut un point de vue surplombant, oubliant qu’il constitue surtout le point de vue du groupe dominant, au détriment des contextes, de la diversité des situations. Oubliant que la connaissance se construit bien plus par la diversité des perspectives que par son rejet, davantage par la prise en compte des incertitudes que par l’affirmation qu’il n’y en aurait aucune. Le narratif sur l’objectivité de l’IA sert à opacifier ses effets. Il nous pousse à croire que l’optimisation statistique serait le graal de la rationalité, qu’il permettrait d’éliminer nos biais quand il ne fait que les accélérer. Or, l’IA sert surtout à dissimuler les limites de la rationalité, à la parer de neutralité et à automatiser la violence et la discrimination qu’elle produit. Pour le dire autrement, l’IA n’est que la nouvelle étape d’une production coloniale de connaissance qui prend toutes les productions humaines pour générer une connaissance qui nous est présentée comme son apothéose, quand elle est avant tout un moyen de s’assurer la continuité de l’appropriation des moyens de sa production et d’invisibiliser les réalités sociales.

De l’emploi à la santé, en passant par le crime… partout, ces modèles restent englués dans leurs biais. La grande disponibilité des données et des possibilités de calculs nous font oublier que l’opacité et la complexité qu’ils génèrent produisent des améliorations marginales par rapport au problème démocratique que posent cette opacité et cette complexité. « Nous n’avons pas besoin de meilleurs calculs (pour autant que leur complexification les améliore) que de calculs qui puissent être redevables, opposables et compréhensibles », rappelle le chercheur Arvind Narayanan.

Par sa promesse d’automatisation, l’IA concourt à exercer un niveau de contrôle inédit partout où elle est déployée, comme le connaissent déjà nombre de métiers, dont les activités sont constamment monitorées par d’innombrables systèmes numériques : les travailleurs·ses à distance, les livreurs·ses et conducteurs·trices de VTC, les travailleurs·ses de la logistique ou des centres d’appels. Car si l’IA a un grand pouvoir, c’est celui d’invisibiliser les réalités.

Elle invisibilise l’extractivisme dont elle procède et qu’elle accentue. Elle invisibilise les travailleurs·ses du clic, c’est-à-dire les humain·es mobilisé·es pour la faire fonctionner. Elle invisibilise les créateurs·trices et leurs créations dont elle se nourrit. Elle invisibilise celles et ceux qui luttent contre ses déploiements, tant la parole est toute entière donnée aux promoteur·trices de l’IA. Elle s’invisibilise elle-même, en masquant et opacifiant derrière son nom ses fonctions et la manière dont elle calcule et régit les vies de chacun. Elle invisibilise les scores qu’elle attribue à tous·tes : que ce soit celui d’appartenir au Hamas, à frauder la sécurité sociale parce qu’on bénéficie du RSA, ou celui de notre attractivité qui nous recommande aux autres utilisateurs·trices d’un site de rencontre… Elle spécule sur l’avenir pour mieux invisibiliser les défis du présent en affirmant continûment que les problèmes qu’elle génère seront résolus. Elle invisibilise la surveillance qu’elle active en suggérant que l’extraction de données est inévitable. Elle invisibilise même les innombrables correctifs qui tentent de la rendre plus fiable qu’elle n’est. Elle invisibilise les discriminations et les biais qu’elle renforce. Elle invisibilise les enjeux politiques sous un discours technique complexe. Elle invisibilise l’autoritarisme de la Tech. Elle invisibilise celles et ceux qu’elle précarise. Elle invisibilise les défaillances et les incohérences de ses calculs sous son opacité.

L’IA est une machine à opacifier les réalités pour nous faire croire à son inéluctabilité. Elle désigne un ensemble d’outils très puissants et surprenamment défaillants, et ces deux caractéristiques doivent nous inquiéter pour limiter leur usage, car si l’on sait que leurs défaillances nous concernent tous·tes, on ne sait pas quelle puissance ils arment. En utilisant ces outils, nous participons de leur puissance. Mais qui utiliserait une bombe nucléaire si on ne savait pas qui elle favorise ni qui elle cible ?