Dans la série des clichés du numérique… Les données mieux vaut se les garder*

Depuis la mise en place du RGPD, le Règlement général de la protection des données, les internautes et consommateurs disposent de droits pour mieux protéger leur identité en ligne. En France, la CNIL guide les entreprises vers une meilleure conformité au règlement, elle encadre la collecte de données en plusieurs points :

• Les entreprises ne collectent que les données nécessaires,
• La collecte se fait de manière transparente,
• Le traitement des données se fait dans leurs conditions d’utilisation,
• Les utilisateurs retiennent le droit de modifier ou de supprimer leurs données
• L’entreprise doit les stocker de manière sécurisée.
  

Mieux comprendre les biais cognitifs pour s’en défaire

L’autre enjeu fort est celui de la propagation des biais cognitifs. On identifie trois facteurs principaux : les humains, la data et l’algorithme. Nous le savons, les humains sont bourrés de biais, qui à leur tour sont représentés dans la data. Puisque les algorithmes se nourrissent de la donnée générée par des humains, ils reproduisent à leur tour ces biais, sur une plus grande échelle et à plus haute vitesse. C’est comme cela qu’un poste se retrouve proposé à une majorité d’hommes ou que la reconnaissance faciale peut poser problème si elle n’a été testée que sur des profils occidentaux.

En somme, l’intelligence artificielle tire ses propres conclusions des données desquelles elle se nourrit. L’avenir d’un monde plus inclusif et mixte repose donc sur une intelligence artificielle capable de repérer les biais et d’elle-même les corriger. Cela avec l’inclusion de plus de femmes et de personnes issues de la diversité dans les métiers de la tech. Où je veux en venir ? Si nous aspirons à l’égalité, les données elles aussi doivent être collectées de manière équitable, exhaustive et représentative du monde par-delà nos écrans.

Pour que l’utilisation de l’intelligence artificielle se fasse plus éthique et respectueuse de chacun, l’éducation se doit d’intégrer une meilleure connaissance des principes qui gouvernent l’essor du machine learning et de l’algorithmie. Jérôme Pesenti, Vice-President of AI at Facebook le dit lui-même : « une bonne IA est une IA que tout le monde peut améliorer et de laquelle chacun peut bénéficier. » Mais cela reste impossible sans une connaissance généralisée et une population qui serait équipée pour user des innovations technologiques avec plus de discernement.