[Tribune] 15 propositions pour un numérique éthique

Une éthique du numérique interroge en permanence nos valeurs. Des valeurs qui apparaissent sous un jour nouveau face à des situations d’usage des technologies inédites et à l’impact de toutes ces nouvelles connaissances disciplinaires sur notre société. Nous nous devons de conscientiser nos usages et de mettre en perspective chaque innovation avec le projet de société que nous voulons et auquel nous aspirons.

Le numérique éthique n’est pas une utopie. Il est concret, et doit être pensé par tous les acteurs·trices de la société. Pour ce faire, nous proposons de créer une coalition « Numérique Éthique » pour fédérer les acteurs engagés, tels que les ONG, les syndicats, et les entreprises.

La quête d’un équilibre est indispensable : équilibre des pouvoirs pour éviter la concentration entre quelques acteurs privés ; équilibre des droits pour protéger la vie privée et prévenir les discriminations et, enfin, équilibre territorial et social pour que la technologie ne creuse pas les fractures existantes. Nous devons trouver un équilibre dynamique entre innovation et protection, individuel et collectif, local et global.

[Inscrivez-vous à Mute, la newsletter tech éthique de Chut!]

Le vrai enjeu n’est pas la technologie, mais la gouvernance du secteur de la tech qui est au cœur des enjeux : qui la contrôle, qui la régule, et au bénéfice de qui. Nous devons contrer l’influence des Gafam et tendre vers la souveraineté – condition minimale d’une éthique du numérique à l’échelle européenne.

Nous appelons au respect des trois piliers qui fondent l’éthique : transparence, responsabilité et confiance. La technologie en elle-même ne porte pas de valeurs. Le système IA ne peut pas être éthique, c’est l’humain qui le met en place et l’utilise qui apporte la dimension éthique et des utilisations qui font progresser la société.

Le chantier qui s’ouvre devant nous, alors que l’urgence n’est plus aux seules déclarations, c’est la façon dont on doit articuler régulation, responsabilité des entreprises et accès des citoyennes et des citoyens aux clés de lecture. C’est la seule façon de passer d’une tech qui avance sans nous à une tech qui avance avec nous.

Nous devons aller au-delà du suivi des réglementations européennes, dont la modification implique de vrais choix de modèles. Veut-on aller plus vite à tout prix ou rester aligné·es avec ce que l’on prétend défendre comme société ? La question de la régulation doit se porter sur le plan national.

Nous appelons à la création d’une entité équivalente de l’Arcom pour les produits de la tech, au premier rang desquels l’Intelligence artificielle. Pour aller plus loin, nous appelons également à la création d’autorités nationales de supervision de l’IA avec des pouvoirs réels, comme des audits obligatoires, et des sanctions.

La culture de l’éthique doit s’imposer également en entreprises, lesquelles pourraient être soumises à des obligations, comme l’évaluation des risques IA, en fonction des usages et des besoins, le watermarking par défaut ainsi que des registres d’usage.

Nous appelons aussi au financement de la recherche en direction d’une IA éthique, open source et frugale. Il est essentiel de construire un système cohérent qui sécurise l’innovation. Cela commence par articuler le cadre légal, les labels et les bacs à sable régulatoires avec des indicateurs d’impact. Il faut ensuite des communs de données préservant la vie privée et une feuille de route de formation mesurable par métier et par usage.

Les outils de transformation des entreprises doivent se montrer concrets. Ils passent par le développement de comités d’éthique indépendants d’aide aux entreprises, et de labels publics de confiance, d’indicateurs d’impact, de plateformes de transparence, de dispositifs de formation massifs et d’investissements ciblés dans des technologies sobres et ouvertes.

La conception « éthique by design » doit devenir un prérequis. Cela passe par le privacy by design, la minimisation de la donnée et la gestion des biais. Mais doit aussi être posée la question de la sobriété. Il faut éviter les modèles trop lourds pour des tâches très simples et plutôt choisir des modèles adaptés aux besoins. L’arbitrage doit être systématique entre la taille des modèles, la puissance de calcul et l’utilité métier de la solution imaginée.

La transformation éthique du numérique passe aussi par l’éducation, face à l’implémentation sauvage de l’IA partout, sans que l’on s’en rende même compte, comme au creux des jouets de nos enfants. Parce qu’il n’y a pas de confiance a priori à accorder à l’heure actuelle. Attention à ne pas rater le coche de l’IA comme nous avons, en tant que parents, raté le coche des réseaux sociaux.

Méconnaître l’IA devient une nouvelle forme d’illettrisme inversé. L’illettrisme classique empêche les personnes d’accéder à des contenus et de s’informer. L’IA-illettrisme conduit à accéder à une quantité telle de contenus que ceux-ci ne permettent plus d’exercer notre esprit critique et faussent les convictions des personnes, mais aussi des entreprises. En commençant par des bases concrètes : Sécuriser un smartphone, choisir un assistant IA fiable, vérifier un deepfake. L’enjeu n’est plus seulement celui de la fracture numérique, dont l’IA accroît la profondeur.

L’éducation au numérique de tou·tes est aussi un levier de plaidoyer. Plus le terrain militant avance, plus il influence les entreprises, puis les pouvoirs publics, jusqu’à obtenir des changements structurels. L’exemple récent de l’Australie, qui limite l’accès aux réseaux sociaux pour les moins de 16 ans, montre bien comment un sujet social devient un sujet politique, puis un cadre légal. C’est de cette dynamique globale, terrain, entreprises, politique, que naît une tech réellement plus éthique.

Signataires

Laurent Alaus, Caroline Barkhou, Gabriela Belaïd, Solenne Bocquillon – le Goaziou, Nelly Brossard, Muriel Brunet, Andréa Dih Kahn, Tania Gombert, Marie Hernigou, Sabrina Hohengarten, Ons Jelassi, Laury Maurice, Brigitte Tropenat, Jean-Christophe Vidal