Je suis fasciné par l’article de Fabien Deglise dans Le Devoir de ce matin au sujet de l’expérience de reconnaissance faciale menée par Ivanhoé Cambridge à la Place Sainte-Foy. Fasciné, surtout, par la nature de la réponse apportée par l’entreprise, en réaction aux inquiétudes exprimées par les consommateurs.
Je précise d’entrée de jeu que:
- Je ne suis pas contre le progrès.
- Je ne suis pas naïf — je sais qu’on est déjà filmés un peu partout.
- Je sais même que quand on utilise le wifi gratuit dans un centre commercial on donne souvent aussi le droit au propriétaire des lieux de suivre nos déambulations (ce que peu de gens savent… et ce n’est pas banal).
- J’utilise même la fonction de reconnaissance faciale de mon iPhone, qui se déverrouille quand il reconnaît que c’est moi qui le regarde.
C’est dire à quel point je suis ouvert à tout ça. Je suis un geek sympathique. Je pense.
Le problème n’est pas là.
On n’est pas devant un problème technologique ici… on est dans un problème de consentement, d’intention et, plus globalement, de confiance.
Je n’ai pas l’occasion de consentir formellement à ce que des données sur moi soient captées, je ne connais pas les intentions réelles de Ivanhoé Cambridge avec ce projet et je n’ai pas forcément confiance dans la démarche.
Quand j’active la fonction de reconnaissance faciale de mon iPhone, je fais un choix. J’assume les risques associés. Parce que j’y trouve mon compte.
Même chose quand je choisis, volontairement, d’utiliser le wifi dans un espace public.
Mais là? Comment j’y trouve mon compte? Il y a quoi dans la balance pour moi? Pourquoi je donnerais mon consentement à cette analyse de ma personne et de mon comportement?
Pour le moment, ma seule façon de refuser de donner mon consentement c’est de ne pas aller dans ces commerces, ou pas du tout à la Place Sainte-Foy.
Est-ce qu’il y aura des balises pour encadrer ce qui sera fait des données, et comment pourraient-elles se transformer au fil du temps, notamment au regard des méthodes de captation et de la conservation des données?
Ça fait beaucoup de questions sans réponses.
À la lecture de l’article du Devoir, je comprends que Ivanhoé Cambridge (avouons qu’il est tentant de badiner en ajoutant un Analytica au bout du nom…) tente de se présenter sous un meilleur jour que les grands détaillants en ligne.
«L’achat en ligne est extrêmement personnalisé parce que les consommateurs y ont abandonné leur vie privée en faisant circuler beaucoup d’informations. Les joueurs dans ce domaine sont capables de collecter une trop grande richesse d’informations qui va trop loin et débouche sur plusieurs dérapages. Ce n’est pas là que nous voulons aller.»
En gros la défense est: Amazon et les autres font bien pire quand vous faites des achats sur leur site Web. Et c’est vrai. Mais au lieu d’adopter une approche différente qui présenterait le magasinage de proximité comme une alternative à la surveillance dont on fait l’objet en ligne, vous choisissez de vous vanter une nouvelle forme de surveillance soi-disant plus éthique? Il me semble qu’une autre voie était possible: chez nous, il n’y a pas de surveillance sans consentement, par exemple.
«…les clients vont être filmés afin de déterminer leur âge, leur sexe, mais également mesurer leur humeur. La technologie utilisée (…) extrait les caractéristiques démographiques d’un visage de manière approximative pour l’âge et estime l’humeur du sujet tout comme le positionnement de son regard. La photo est immédiatement détruite, assure [Stéphane Marceau, patron de Galilei, une entreprise liée à l’Université Concordia qui travaille dans le développement éthique et responsable de la technologie] et l’information, agrégée de manière anonyme. Aucune base de données de visages n’est créée, aucun croisement avec des données personnelles liées à la carte de crédit ou un programme de fidélisation n’est effectué.»
Cela me rappelle le genre de réponse drapée d’un ton rassurant qu’on a entendue pendant les audiences publiques aux États-Unis, lorsque Google et Facebook sont venus (tenter d’) expliquer tout le monde que nos données personnelles n’étaient pas vendues.
Heureusement qu’aucune base de données des visages n’est faite et qu’ils ne sont pas associées à notre insu à nos cartes de crédits ou programmes de fidélisation, ce serait ben le boutte du boutte!
Mais qu’est-ce qui sera fait avec ces données, aussi anonymes soient-elles? Est-ce qu’elles serviront à diriger vers nous des publicités encore plus ciblées à l’entrée des commerces, par exemple? Question de nous influencer de façon encore plus efficace et de nous faire dépenser encore plus? Ce n’est peut-être pas mal en tant que tel, mais c’est une question légitime, il me semble.
Je poursuis avec l’article:
« Les préoccupations pour la vie privée doivent être aujourd’hui au coeur du développement de la technologie, dit M. Marceau. Le consommateur ne réalise pas toujours jusqu’à quel point dans le monde en ligne il se dévoile par des processus analytiques très granulaires qui le ciblent directement. De notre point de vue, il faut baliser ces projets et être transparent pour mettre en place les assises d’une bonne gouvernance des données dans le commerce de détail qui respecte la vie privée. »
Je suis d’accord avec ça — mais je m’interroge sur la démarche de Ivanhoé Cambridge dans ce contexte. Est-ce que la transparence est vraiment au rendez-vous?
«Galilei et Ivanhoé Cambridge espèrent par cette transparence « ouvrir la conversation » avec les consommateurs, les législateurs, les penseurs de la modernité sur l’intelligence artificielle et les conséquences de ces outils d’analyse et de surveillance sur la société et les libertés individuelles.»
De mon point de vue, pour pouvoir parler sérieusement de transparence et de conversation il faudra faire beaucoup plus que nous assurer que le processus d’analyse est anonyme.
Il faudra aussi expliquer l’usage qui sera fait de ces données, les avantages que les consommateurs pourront en tirer, les balises qui seront mises à l’utilisation des données — et vraisemblablement mettre en place un comité de surveillance dans lequel les consommateurs auront une place.
(et d’ailleurs, qu’est-ce qui est fait avec les données recueillies par les bornes wifi en rapport avec nos cellulaires et nos déplacements? Si on commençait la transparence par là? Remarquez: je ne m’y oppose pas, mais je veux savoir et comprendre. Ça doit faire partie du deal.)
«En matière d’intrusion dans la vie privée, il y a beaucoup de dégâts qui ont été faits, admet M. Marceau. Ce que nous proposons ici, c’est un nouveau modèle qui cherche à faire évoluer le commerce de détail en mettant l’accent sur les questions éthiques, pas à la fin, mais au début du train. »
Je salue l’idée de faire évoluer le commerce de détail en mettant l’accent sur les questions éthiques.
Mais je m’interroge sur la façon qui a été choisie pour amorcer la conversation souhaitée.
Jeux de mots et d’images 
Dans la cadre du projet de création d’une constitutions citoyenne pour le Québec, porté par l’Institut du Nouveau Monde et le metteur en scène Christian Lapointe, (https://fr.surveymonkey.com/r/constituons_memoires), je compte inscrire la question de l’accès et du pouvoir de modification des données personnelles colligées par le gouvernement et les entreprises privées.
Comme trop souvent lorsqu’il est question de nouvelles technologies (ou plus précisément de nouvelles applications de technologies), on pointe la techno plutôt que les enjeux de déséquilibre de pouvoir (au sens large, y compris économique). Cette question du consentement est fondamentale, mais j’ajouterais consentement *éclairé*. Qui a vraiment la compétence pour comprendre les «termes et conditions» (qui les lit anyway)? Et même si nous avions cette compétence, ils ne nous informe en général que très vaguement de l’utilisation des données que nous fournissons. Ce sera probablement un des enjeux sociaux et politiques les plus importants de ce siècle. Bon billet, comme d’hab! :)
Allo,
Ces questions auraient fait partie du projet dâécrans de Moov Média⦠Tu poses les bonnes questions sur la transparence. Un débat intéressant et oh combien pertinent !
En p. j., un clin dâÅil aux coïncidences de la vie et à ton récent papier sur ce livre : jâai retrouvé à peu près au même moment cette coupure que jâavais conservée⦠pour me rappeler dâaller fureter du côté de ce livre !
Tu repasses par Montréal bientôt ? Québec sans doute à la semaine de relâche, mais je nâai pas encore mes dates exactes.
Isabelle
»Une question de consentement »… en plein dans le mille!
En marge de cet argument premier, je me demande où est l’avantage d’une intelligence artificielle au service du consumérisme? En outre, je vois se poindre une menaçante inégalité entre les sociétés qui ont les moyens d’exploiter l’IA et les individus dépourvus de semblables ressources.
Je suis loin et je déteste magasiner… mais tout ça me donne envie d’y aller… en portant différents masques et en faisant des niaiseries. Ça me donne envie de déconner, des projets comme ça. Mais ça va rester au stade de l’envie.
C’est étrange, cette réaction, quand même. Les centres commerciaux se meurent, et leur solution, c’est de faire précisément comme ceux qui les supplantent. Et les gens, je présume, continuent de faire comme si de rien n’était, ou presque? Je vais ranger ça dans mon énorme (et croissant) répertoire «ben voyons, comment ça se fait que j’ai l’impression de regarder cette espèce-là de l’extérieur, sans m’en sentir membre?»
(Les données anonymisées, agrégées… en général, je me trompe ou on peut quand même facilement déterminer qui est qui à partir d’elles?)
(J’ai une réponse cynique pour Ianik Marcil: j’ai bien l’impression que les modalités d’utilisation sont lues… par celui/celle qui les rédige, celui/celle qui les relit et celui/celle qui les traduit… et c’est tout. En tout cas ça m’arrive d’en traduire, et je me sens bien seule au monde dans ces cas-là!)