Laurence Devillers : « L’humain est toujours responsable »

Je me suis investie sur les questions éthiques à partir du moment où j’ai voulu aider les personnes âgées ou en souffrance d’isolement qui avaient besoin de relationnel. Je me suis alors rendue compte de la projection forte des humains sur les machines, par exemple les enceintes vocales ou les robots sociaux, surtout pour ceux qui ne connaissent pas du tout leur fonctionnement. Lorsqu’on parle à un robot, il y a une forme de projection et d’interaction sociale naturelle. Nous allons être polis, suivre les règles, nous allons même considérer qu’il a un genre et une personnalité. Les concepteurs des machines connaissent bien ce dilemme. Plus ils rapprochent le robot de l’humain, plus le robot va être accepté, mais d’un autre côté, nous ne voulons pas aller jusqu’à la confusion entre robot et humain, en tout cas pas en Occident.  On peut entendre parfois que « la machine a des émotions » ou qu’elle est « consciente », mais non : la machine obéit à un programme ! 

Entre les experts qui jouent sur les peurs et ceux qui possèdent un enthousiasme béat,  j’adopte une position intermédiaire pour expliquer les risques et les bénéfices pour la société de ces nouvelles interactions. Risques et bénéfices qui sont aussi forts les uns que les autres. Tout est ensuite une question d’équilibre. De là est né mon engagement, d’abord à la CERNA (Commission de réflexion sur l’éthique et la recherche en sciences et technologies d’Allistene) et maintenant au CCNE (Comité consultatif national d’éthique), branche numérique. En plus des questions de bioéthique, ce comité ouvre un chantier de 18 mois sur le numérique autour de trois thèmes : la voiture autonome, l’aide à la décision médicale et les agents conversationnels, plus connus sous le nom anglais de « chatbots ». Je travaille plus particulièrement sur ce dernier point.