
Je suis fasciné par l’article de Fabien Deglise dans Le Devoir de ce matin au sujet de l’expérience de reconnaissance faciale menée par Ivanhoé Cambridge à la Place Sainte-Foy. Fasciné, surtout, par la nature de la réponse apportée par l’entreprise, en réaction aux inquiétudes exprimées par les consommateurs.
Je précise d’entrée de jeu que:
- Je ne suis pas contre le progrès.
- Je ne suis pas naïf — je sais qu’on est déjà filmés un peu partout.
- Je sais même que quand on utilise le wifi gratuit dans un centre commercial on donne souvent aussi le droit au propriétaire des lieux de suivre nos déambulations (ce que peu de gens savent… et ce n’est pas banal).
- J’utilise même la fonction de reconnaissance faciale de mon iPhone, qui se déverrouille quand il reconnaît que c’est moi qui le regarde.
C’est dire à quel point je suis ouvert à tout ça. Je suis un geek sympathique. Je pense.
Le problème n’est pas là.
On n’est pas devant un problème technologique ici… on est dans un problème de consentement, d’intention et, plus globalement, de confiance.
Je n’ai pas l’occasion de consentir formellement à ce que des données sur moi soient captées, je ne connais pas les intentions réelles de Ivanhoé Cambridge avec ce projet et je n’ai pas forcément confiance dans la démarche.
Quand j’active la fonction de reconnaissance faciale de mon iPhone, je fais un choix. J’assume les risques associés. Parce que j’y trouve mon compte.
Même chose quand je choisis, volontairement, d’utiliser le wifi dans un espace public.
Mais là? Comment j’y trouve mon compte? Il y a quoi dans la balance pour moi? Pourquoi je donnerais mon consentement à cette analyse de ma personne et de mon comportement?
Pour le moment, ma seule façon de refuser de donner mon consentement c’est de ne pas aller dans ces commerces, ou pas du tout à la Place Sainte-Foy.
Est-ce qu’il y aura des balises pour encadrer ce qui sera fait des données, et comment pourraient-elles se transformer au fil du temps, notamment au regard des méthodes de captation et de la conservation des données?
Ça fait beaucoup de questions sans réponses.
À la lecture de l’article du Devoir, je comprends que Ivanhoé Cambridge (avouons qu’il est tentant de badiner en ajoutant un Analytica au bout du nom…) tente de se présenter sous un meilleur jour que les grands détaillants en ligne.
«L’achat en ligne est extrêmement personnalisé parce que les consommateurs y ont abandonné leur vie privée en faisant circuler beaucoup d’informations. Les joueurs dans ce domaine sont capables de collecter une trop grande richesse d’informations qui va trop loin et débouche sur plusieurs dérapages. Ce n’est pas là que nous voulons aller.»
En gros la défense est: Amazon et les autres font bien pire quand vous faites des achats sur leur site Web. Et c’est vrai. Mais au lieu d’adopter une approche différente qui présenterait le magasinage de proximité comme une alternative à la surveillance dont on fait l’objet en ligne, vous choisissez de vous vanter une nouvelle forme de surveillance soi-disant plus éthique? Il me semble qu’une autre voie était possible: chez nous, il n’y a pas de surveillance sans consentement, par exemple.
«…les clients vont être filmés afin de déterminer leur âge, leur sexe, mais également mesurer leur humeur. La technologie utilisée (…) extrait les caractéristiques démographiques d’un visage de manière approximative pour l’âge et estime l’humeur du sujet tout comme le positionnement de son regard. La photo est immédiatement détruite, assure [Stéphane Marceau, patron de Galilei, une entreprise liée à l’Université Concordia qui travaille dans le développement éthique et responsable de la technologie] et l’information, agrégée de manière anonyme. Aucune base de données de visages n’est créée, aucun croisement avec des données personnelles liées à la carte de crédit ou un programme de fidélisation n’est effectué.»
Cela me rappelle le genre de réponse drapée d’un ton rassurant qu’on a entendue pendant les audiences publiques aux États-Unis, lorsque Google et Facebook sont venus (tenter d’) expliquer tout le monde que nos données personnelles n’étaient pas vendues.
Heureusement qu’aucune base de données des visages n’est faite et qu’ils ne sont pas associées à notre insu à nos cartes de crédits ou programmes de fidélisation, ce serait ben le boutte du boutte!
Mais qu’est-ce qui sera fait avec ces données, aussi anonymes soient-elles? Est-ce qu’elles serviront à diriger vers nous des publicités encore plus ciblées à l’entrée des commerces, par exemple? Question de nous influencer de façon encore plus efficace et de nous faire dépenser encore plus? Ce n’est peut-être pas mal en tant que tel, mais c’est une question légitime, il me semble.
Je poursuis avec l’article:
« Les préoccupations pour la vie privée doivent être aujourd’hui au coeur du développement de la technologie, dit M. Marceau. Le consommateur ne réalise pas toujours jusqu’à quel point dans le monde en ligne il se dévoile par des processus analytiques très granulaires qui le ciblent directement. De notre point de vue, il faut baliser ces projets et être transparent pour mettre en place les assises d’une bonne gouvernance des données dans le commerce de détail qui respecte la vie privée. »
Je suis d’accord avec ça — mais je m’interroge sur la démarche de Ivanhoé Cambridge dans ce contexte. Est-ce que la transparence est vraiment au rendez-vous?
«Galilei et Ivanhoé Cambridge espèrent par cette transparence « ouvrir la conversation » avec les consommateurs, les législateurs, les penseurs de la modernité sur l’intelligence artificielle et les conséquences de ces outils d’analyse et de surveillance sur la société et les libertés individuelles.»
De mon point de vue, pour pouvoir parler sérieusement de transparence et de conversation il faudra faire beaucoup plus que nous assurer que le processus d’analyse est anonyme.
Il faudra aussi expliquer l’usage qui sera fait de ces données, les avantages que les consommateurs pourront en tirer, les balises qui seront mises à l’utilisation des données — et vraisemblablement mettre en place un comité de surveillance dans lequel les consommateurs auront une place.
(et d’ailleurs, qu’est-ce qui est fait avec les données recueillies par les bornes wifi en rapport avec nos cellulaires et nos déplacements? Si on commençait la transparence par là? Remarquez: je ne m’y oppose pas, mais je veux savoir et comprendre. Ça doit faire partie du deal.)
«En matière d’intrusion dans la vie privée, il y a beaucoup de dégâts qui ont été faits, admet M. Marceau. Ce que nous proposons ici, c’est un nouveau modèle qui cherche à faire évoluer le commerce de détail en mettant l’accent sur les questions éthiques, pas à la fin, mais au début du train. »
Je salue l’idée de faire évoluer le commerce de détail en mettant l’accent sur les questions éthiques.
Mais je m’interroge sur la façon qui a été choisie pour amorcer la conversation souhaitée.