La donnée encadrée

Depuis la mise en place du RGPD, le Règlement général de la protection des données, les internautes et consommateurs disposent de droits pour mieux protéger leur identité en ligne. En France, la CNIL guide les entreprises vers une meilleure conformité au règlement, elle encadre la collecte de données en plusieurs points :

  • Les entreprises ne collectent que les données nécessaires,
  • La collecte se fait de manière transparente,
  • Le traitement des données se fait dans leurs conditions d’utilisation,
  • Les utilisateurs retiennent le droit de modifier ou de supprimer leurs données
  • L’entreprise doit les stocker de manière sécurisée.

Mieux comprendre les biais cognitifs pour s’en défaire

L’autre enjeu fort est celui de la propagation des biais cognitifs. On identifie trois facteurs principaux : les humains, la data et l’algorithme. Nous le savons, les humains sont bourrés de biais, qui à leur tour sont représentés dans la data. Puisque les algorithmes se nourrissent de la donnée générée par des humains, ils reproduisent à leur tour ces biais, sur une plus grande échelle et à plus haute vitesse. C’est comme cela qu’un poste se retrouve proposé à une majorité d’hommes ou que la reconnaissance faciale peut poser problème si elle n’a été testée que sur des profils occidentaux.

En somme, l’intelligence artificielle tire ses propres conclusions des données desquelles elle se nourrit. L’avenir d’un monde plus inclusif et mixte repose donc sur une intelligence artificielle capable de repérer les biais et d’elle-même les corriger. Cela avec l’inclusion de plus de femmes et de personnes issues de la diversité dans les métiers de la tech. Où je veux en venir? Si nous aspirons à l’égalité, les données elles aussi doivent être collectées de manière équitable, exhaustive et représentative du monde par-delà nos écrans.

Pour que l’utilisation de l’intelligence artificielle se fasse plus éthique et respectueuse de chacun, l’éducation se doit d’intégrer une meilleure connaissance des principes qui gouvernent l’essor du machine learning et de l’algorithmie. Jérôme Pesenti, Vice-President of AI at Facebook le dit lui-même : «une bonne IA est une IA que tout le monde peut améliorer et de laquelle chacun peut bénéficier.» Mais cela reste impossible sans une connaissance généralisée et une population qui serait équipée pour user des innovations technologiques avec plus de discernement.

Oups ! La suite de cet article est réservé aux abonné·es

Abonnez-vous pour nous découvrir, nous lire, nous soutenir !

  • Illimité

    14 
    Par trimestre
    En savoir plus
    • 4 numéros par an
    • L'accès à la version en ligne
    • Une affiche offerte avec le 1er numéro en cours
  • 1 an

    48 
    Par an
    • 48€ au lieu de 56€
    • 4 numéros par an
    • L'accès à la version en ligne
    • Une affiche offerte avec le 1er numéro en cours
  • Le Club

    150 
    Par an
    En savoir plus
    • 4 numéros par an
    • L'accès à la version en ligne
    • Une affiche offerte avec le 1er numéro en cours
    • Une participation à 4 conférences de rédaction par an
    • La cocréation de 4 tribunes du Club publiées dans le magazine

    Comment ça marche ? Par ici les infos !

J’ai déjà un abo

Je me connecte

Abonnement collectivité, contactez-nous !