Affaire Thélyson Orélien : et si le vrai scandale était celui d’une cabale numérique raciste ?
L’écrivain Thélyson Orélien est accusé d’avoir utilisé l’IA dans le cadre de son roman C’était ça ou mourir. Sauf que l’outil utilisé pour l’accuser est loin d’être infaillible et qu’il faut remonter aux origines du scandale pour comprendre l’affaire, illustration d’un racisme systémique …
Depuis le 21 septembre, le compte X Balance ton Claude accuse le livre d’avoir été « écrit par IA », après avoir passé le texte dans l’outil de détection de texte généré par IA Pangram. Pangram revendique un taux de faux positifs ultra bas d’environ 1 texte humain mal classé sur 24 400. Sur X, les détracteurs de Thélyson Orélien ont multiplié ce taux par le nombre de passages « suspects » repérés dans le roman (une vingtaine d’occurrences). Il en est sorti un chiffre vertigineux présenté comme une quasi-certitude mathématique. Sauf que ce calcul est faux…
Les passages « suspects » viennent tous du même livre, écrits par le même auteur. Ils partagent donc forcément les mêmes tics stylistiques. Multiplier un taux de faux positifs par 20 comme s’il s’agissait de 20 textes indépendants, c’est une erreur statistique de base.
Ce n’est pas la première fois que Pangram sème le chaos : aux États-Unis, le livre Shy Girl de Mia Ballard a été annulé par Hachette au printemps dernier sur la base de simples soupçons en ligne. Cerise sur le gâteau, soumettez la Bible, des poèmes de Victor Hugo ou un chapitre de L’Œuvre d’Émile Zola à Pangram ou à d’autres détecteurs. Ils vous répondront que 80 % à 100 % de ces textes ont été écrits par ChatGPT !
Pourquoi ? Parce que ces outils probabilistes cherchent des régularités linguistiques, alors même que l’outil de Pangram est sous-entraîné sur les littératures non-anglophones et qu’il classe plus souvent les auteurs racisés ou exilés comme suspects.
Thélyson Orélien écrivait et publiait bien avant la naissance de ChatGPT. Son style singulier et sa voix haïtienne nourrie par l’exil ne se codent pas en binaire. Dans son dernier ouvrage, il raconte l’histoire d’un professeur d’histoire, d’origine haïtienne, qui fuit son île et traverse 12 pays jusqu’au Canada. Accuser un écrivain noir d’avoir besoin d’un assistant virtuel pour produire un chef-d’œuvre, c’est perpétuer une dépossession culturelle sous couvert de révolution technologique.
De plus, Pangram ne sait jamais si un texte a été écrit par une IA. Il estime une ressemblance statistique avec des textes générés. Techniquement, personne ne pourra donc jamais trancher, car les IA sont probabilistes et les détecteurs aussi. Les autres livres de la rentrée littéraire ont-ils été testés également ?
Alors pourquoi CE roman-là fait-il polémique ? Peut-être parce que son auteur est un homme noir haïtien, en plus d’être québécois, qui a publié dans une maison prestigieuse et que son roman cartonne. Ce que cette affaire révèle, ce n’est pas un livre suspect. C’est une technologie qui fracture le collectif, sème la méfiance, renforce le racisme et les clichés et donne une arme prête à l’emploi contre qui dérange.
L'IA ne crée rien, elle pollue les esprits... et le monde physique
Pendant que la Silicon Valley nous pousse à suspecter chaque texte et chaque image d’être générés par IA, des modèles siphonnent le travail des créateur.ices sans rémunération.
Les data centers qui leur permettent de fonctionner surchauffent la planète, assoiffent les sols et entretiennent le néo-colonialisme par l’extraction de minerais rares.
Nous décryptons justement les enjeux environnementaux du boom de l’IA dans notre dernier magazine. Commandez dès aujourd’hui le nouveau Chut! intitulé IA, le choc thermique, pour décrypter les enjeux environnementaux de l’IA. Disponible à l’unité ou avec l’abonnement pour recevoir chaque trimestre nos magazines tout en soutenant notre média indépendant.
