Peut-on vraiment faire confiance à Pangram ?
Il y a deux semaines, personne ne connaissait Pangram. Aujourd’hui, cet outil américain d’IA de détection de texte est érigé en juge suprême par les éditeurs, les universités et les jurys littéraires. Sommes-nous vraiment en train de confier à l’IA le pouvoir de juger la création humaine ?
Comment marche cet « arbitre » qui juge si un texte a été écrit à l’aide de l’intelligence artificielle ou pas ? Pangram a ingurgité des millions de textes, puis leurs versions reformulées par des IA pour en repérer les tics (structure des phrases, ponctuation ou encore rythmes). Cependant, sa technique de détection repose sur des corrélations statistiques, pas sur la vérité.
Ainsi, sur le roman de Thélyson Orélien C’était ça ou mourir, qui était jusqu’au 25 septembre prétendant au Goncourt, Pangram annonce une probabilité de 97 % que l’ouvrage ait été écrit avec l’IA… pendant que d’autres détecteurs certifient le texte 100 % humain, selon un comparatif dressé par l’AFP.
Les tests indépendants révèlent l’absurdité de ces « détecteurs », sensibles à de micro-modifications. Retirez par exemple un seul vers au poème Demain, dès l’aube… de Victor Hugo, et Pangram le catégorise comme généré par IA. À cause de tels outils, les auteurs·trices s’autocensurent déjà en modifiant leur propre plume par peur d’être fiché·es par la machine Ajouter à cela qu’il suffit de passer un texte IA dans un outil qui vise à humaniser votre texte généré par IA pour que Pangram le valide à 100 % comme humain, de quoi remettre en question la fiabilité de telles pseudo-solutions anti-IA.
Créé par une firme privée américaine, l’algorithme de Pangram est « ininterprétable », de l’aveu même de son PDG Max Spero : c’est une boîte noire. On ne sait ni ce qu’il repère ni ses biais. Utilisé sans recul, il crée une chasse aux sorcières où le moindre doute ruine une carrière ou un parcours étudiant. La suspicion permanente qu’il crée retombe toujours plus lourdement sur les voix marginalisées et les récits singuliers qui sortent des normes académiques.
Les géants de la tech soignent le mal par le mal
Pour lutter contre la prolifération des faux contenus générés par les grands modèles de langage type ChatGPT, la société s’en remet à des logiciels de détection, soit deux faces d’une même pièce vendues par l’industrie de la tech. Cette pièce, qui n’est autre que l’IA, inonde le monde de faux contenus, d’algorithmes pour nous fliquer nous et nos écrits, et développe une dépendance absolue à des lignes de code dont nous ne contrôlons rien.
Face au flicage automatisé, au techno-fascisme et à l’illusion du tout-IA, nous devons réaffirmer la primauté de la pensée critique, de la parole humaine et de l’éthique. L’IA ne provoque pas seulement un débat autour de l’écriture. Elle est derrière un choc culturel, social et écologique qui épuise nos ressources et nos libertés.
Nous décryptons justement les dérives environnementales derrière le boom de cette technologie dans notre dernier magazine. Commandez dès aujourd’hui le nouveau Chut! intitulé IA, le choc thermique, pour décrypter les enjeux environnementaux de l’IA. Disponible à l’unité ou avec l’abonnement pour recevoir chaque trimestre nos magazines tout en soutenant notre média indépendant.
