AI & Society – What Artificial Intelligence for What Society Project?, Turing Club & Viuz.com

On ne peut parler de démocratie sans évoquer le sujet de l’éthique. Le RGPD a changé la donne, en bien. Il s’existe plus un sujet où on ne se pose la question de la collecte des données. Parfois, cela se complique, comme dans le cas des mutuelles qui mettent en place des algorithmes pour prédire la valeur de leurs adhérents.

Mais qu’est-ce que la valeur ?

Quels que soient les indicateurs de performance que nous allons décider de suivre, ils auront quoi qu’il arrive des impacts philosophiques et éthiques importants en terme de discrimination.L’éthique doit concerner tout le monde, et si les détails restent flous, c’est une affirmation qui fait consensus.

Les utilisateurs sont de plus en plus en demande de transparence, d’information et de responsabilisation des acteurs.

Allant même jusqu’à pousser le bouchon, les acteurs du secteur font la chasse au consentement, au point de créer un écoeurement de la part des consommateurs. Aujourd’hui, il n’existe pas de droit patrimonial sur la donnée. Les lois qui régissent ce secteur appartiennent au droit de la propriété intellectuelle ou au droit de l’individu, il existe des lois qui régissent les acteurs valorisant la donnée, ou la concurrence déloyale, mais pas sur les données en tant que tel. Il est nécessaire dans les années à venir de créer une politique publique

Le machine learning ne peut pas éliminer les biais humains, mais il peut permettre de les atténuer.

Sur le sujet de l’emploi comme sur le sujet de l’éthique, le biais reste un des défis de l’IA dans les années à venir. L’exemple le plus marquant étant le biais de compréhension. Il nous est notamment expliqué qu’une altération même très légère peut changer la prédiction d’un modèle (un pixel différent peut par exemple changer la compréhension d’une image). Plus que jamais il paraît essentiel de rassurer les acteurs sur les éléments éthiques qui sont proposés dans la mise en place d’une IA.

Pour Michel Puech, philosophe à  la Sorbonne et auteur de « Homo sapiens technologicus », nous vivons dans une bulle confortable et sympathique qui soudain se confronte à quelque chose de plus dangereux : l’homme ordinaire. Pourquoi tout le monde utilise Google et Amazon ? Parce que Google et Amazon savent répondre vite à un besoin urgent. Concrètement Google et Amazon ont changé la vie des gens, et il affirme qu’il n’existe pas d’autre raison d’être contre ce acteurs que des raisons morales et éthiques.

C’est pour cela que l’éthique doit se concentrer non pas sur la politique mais sur les pratiques dans la réalité.

Concernant les données, c’est à chacun de décider ce qu’il veut laisser savoir. Que penser de cela ? Michel Puech est formel, l’optimisme ou le pessimisme n’ont aucun intérêt en la matière car ils appartiennent à la futurologie et ce n’est pas ce qui nous intéresse. « Faisons de la présentologie ».

Ce qui important dans une relation commerciale, c’est la confiance et la relation qui a été tissée. 

Le mot de la fin appartient à Claude Bitton, qui précise que si on dit que l’IA est « intelligente » c’est parce qu’elle permet de voir des connexions et relations qu’on n’avait pas vu à l’oeil nu. C’est de l’ordre du super pouvoir, et c’est ce qui implique des responsabilités.