La donnée encadrée

Depuis la mise en place du RGPD, le Règlement général de la protection des données, les internautes et consommateurs disposent de droits pour mieux protéger leur identité en ligne. En France, la CNIL guide les entreprises vers une meilleure conformité au règlement, elle encadre la collecte de données en plusieurs points :

  • Les entreprises ne collectent que les données nécessaires,
  • La collecte se fait de manière transparente,
  • Le traitement des données se fait dans leurs conditions d’utilisation,
  • Les utilisateurs retiennent le droit de modifier ou de supprimer leurs données
  • L’entreprise doit les stocker de manière sécurisée.

Mieux comprendre les biais cognitifs pour s’en défaire

L’autre enjeu fort est celui de la propagation des biais cognitifs. On identifie trois facteurs principaux : les humains, la data et l’algorithme. Nous le savons, les humains sont bourrés de biais, qui à leur tour sont représentés dans la data. Puisque les algorithmes se nourrissent de la donnée générée par des humains, ils reproduisent à leur tour ces biais, sur une plus grande échelle et à plus haute vitesse. C’est comme cela qu’un poste se retrouve proposé à une majorité d’hommes ou que la reconnaissance faciale peut poser problème si elle n’a été testée que sur des profils occidentaux.

En somme, l’intelligence artificielle tire ses propres conclusions des données desquelles elle se nourrit. L’avenir d’un monde plus inclusif et mixte repose donc sur une intelligence artificielle capable de repérer les biais et d’elle-même les corriger. Cela avec l’inclusion de plus de femmes et de personnes issues de la diversité dans les métiers de la tech. Où je veux en venir? Si nous aspirons à l’égalité, les données elles aussi doivent être collectées de manière équitable, exhaustive et représentative du monde par-delà nos écrans.

Pour que l’utilisation de l’intelligence artificielle se fasse plus éthique et respectueuse de chacun, l’éducation se doit d’intégrer une meilleure connaissance des principes qui gouvernent l’essor du machine learning et de l’algorithmie. Jérôme Pesenti, Vice-President of AI at Facebook le dit lui-même : «une bonne IA est une IA que tout le monde peut améliorer et de laquelle chacun peut bénéficier.» Mais cela reste impossible sans une connaissance généralisée et une population qui serait équipée pour user des innovations technologiques avec plus de discernement.

Oups ! La suite de cet article est réservé aux abonné·es

Abonnez-vous pour nous découvrir, nous lire, nous soutenir !

  • Trimestre

    14 
    Par trimestre
    En savoir plus

    Abonnez-vous sans engagement à Chut!, le magazine de la culture numérique.

    L'abonnement comprend :

    • 1 numéro par trimestre
    • Résiliable à tout moment
    • L'accès à la version en ligne

     

  • Par an

    48 
    Au lieu de 56 €

    Abonnez-vous à l'année à Chut!, le magazine de la culture numérique

    L'abonnement comprend :

    • 4 numéros Chut! Magazine par an
    • L'accès à la version en ligne
    • 48€ au lieu de 56€
  • Le Club

    150 
    Par an
    En savoir plus

    Abonnez-vous au Club Chut!, le magazine de la culture numérique.

    L'abonnement au Club comprend :

    • La participation à 4 conférences de rédaction par an
    • 4 magazines par an
    • L'accès à la version en ligne

    Comment ça marche ? Par ici les infos !

J’ai déjà un abo

Je me connecte

Abonnement collectivité, contactez-nous !