J’ai lu ce matin quelques-uns des textes suggérés par Patrick Tanguay dans sa lettre hebdomadaire Sentiers.
Parmi les liens qui ont particulièrement retenu mon attention, celui-ci, co-rédigé par Jean-Noé Landry, de qui j’ai eu le plaisir de faire connaissance dans les dernières semaines:
AI in government: for whom, by whom?
Le texte soulève des questions essentielles au sujet de la place que l’intelligence artificielle est appelée à prendre dans le développement des villes — et des services publics de façon générale.
Après avoir partagé le texte sur Facebook, j’ai reçu un commentaire de Patrick Lozeau qui portait à mon attention un texte qui témoigne de l’avancement de cette réflexion au sein du Secrétariat du Conseil du Trésor du Canada.
Responsible Artificial Intelligence in the Government of Canada
J’ai trouvé l’introduction de la section Policy, Ethical, and Legal Considerations of AI particulièrement intéressante.
Et le plus beau dans tout ça… c’est qu’il s’agit d’un document en cours de rédaction (sous format Google Doc) — dont les différentes versions sont décrites en début de document, ainsi que la liste des changements qu’il reste à y apporter. On peut même le commenter. Bravo!
Ça m’a rappelé le neuvième élément de l’ébauche de manifeste que j’avais rédigé en 2011. Plusieurs personnes m’avaient exprimé leur doute qu’on y arrive un jour («est-ce même possible, dans notre système politique?») — eh bien en voilà (enfin!) un bel exemple. Peut-être qu’il en existe de nombreux autres et qu’ils m’avaient simplement échappés?
J’espère que c’est une pratique qui se multipliera rapidement — et pas qu’au gouvernement fédéral!
***
Je profite du fait que les lecteurs de ce textes seront probablement particulièrement intéressés par l’intelligence artificielle pour poser à nouveau une question que j’ai soulevée quelques fois au cours des dernières semaines — sans réussir à obtenir une réponse:
Est-ce qu’il existe un répertoire des décisions qui sont prises, en tout ou en partie, sur la base d’un procédé algorithmique dans l’administration des services publics québécois?
—
Mise à jour: une amie porte à mon attention cette conférence de René Villemure au sujet de l’éthique et l’intelligence artificielle. Condensée en 3 min 32 secondes… c’est parfait comme un premier survol des enjeux.
Jeux de mots et d’images 
Sans être dans le secret des dieux, mais après 27 ans dans la fonction publique, il m’apparaît peu vraisemblable que de telles décisions algorithmiques soient légions dans un monde où les professionnels du gouvernement sont encore interdits de Facebook, de Twitter et fonctionnent avec windows 7, un milieu où les mots wiki, collaboration, infonuagique sont encore inaccessibles aux simples moldus que nous sommes. Les gouvernements, sauf exception, sont à la remorque de la société et non au devant. Si l’inconnu fait peur aux citoyens/électeurs, imaginez le niveau d’angoisse qu’il provoque chez nos politiciens ministres qui cherchent à tout contrôler.
Évidemment, tous les jours, les médias nous abreuvent de décisions qui semblent avoir été prises par des robots sur le pilote automatique. Ce n’est pas le cas. Il y a bien un humain fonctionnaire qui prend la décision ou applique la règle. C’est connu, et M Couillard l’a affirmé clairement; les fonctionnaires font ce qu’on leur demande. Pour l’intelligence artificielle, le niveau de confiance n’est pas là. On peut faire dire à un employé que 2 + 2 font, parfois, selon l’humeur de la princesse, 5. Mais programmer une telle intelligence demendra encore beaucoup de temps!
Algorithme n’est pas nécessairement de l’intelligence artificielle. Il s’agit d’instructions pour anonymiser des données personnelles, trier et sélectionner de l’information et optimiser des itinéraires de livraison, par exemple. Tous les systèmes d’aide à la décision (business intelligence) roulent sur des algos.
@Josée: Je suis bien d’accord u as raison de faire la distinctions (de clarifier). Je précise à mon tour: ce que je tente de savoir, c’est s’il existe une liste des décisions liées directement à la délivrance des services publics qui reposent sur des décisions prisent automatiquement par des machines.
Ex.: si la décision d’accorder des prêts et bourses à un étudiant était prise et communiquée sans l’intervention/supervision/révision par un humain.
Ce qui deviendrait intéressant dans un cas comme ça c’est, par exemple, de connaître les critères qui sont pris en compte, si un processus d’appel est prévu, s’il serait pertinent/nécessaires que le citoyen (l’étudiant, dans ce cas) soit informé que sa demande a été traitée de façon automatisée (comme s’est maintenant prévu en France, par exemple — et en principe).
Oui, il faudrait un registre des algorithmes décisionnels et aussi « rendre visible la politique derrière les outils », comme le mentionne Hubert Guillaud en parlant de l’ouvrage de Virginia Eubanks.
« Quand on parle de technologies, on évoque toujours leurs qualités. Leurs promoteurs parlent de technologies disruptives, arguant combien elles secouent les relations de pouvoirs instituées, produisant une gouvernementalité plus transparente, plus responsable, plus efficace, et intrinsèquement plus démocratique. » Mais c’est oublier combien ces outils sont intégrés dans de vieux systèmes de pouvoirs et de privilèges. Ces systèmes s’inscrivent dans une histoire. Et ni les modèles statistiques ni les algorithmes de classement ne vont renverser comme par magie la culture, la politique et les institutions. » http://www.internetactu.net/2018/01/15/de-lautomatisation-des-inegalites/
Loi numérique (France), rien n’est parfait… » Depuis le 1er septembre 2017, toutes les décisions individuelles prises « sur le fondement d’un traitement algorithmique » doivent être accompagnées d’une « mention explicite » informant l’usager qu’un programme informatique est venu s’immiscer dans le calcul de ses APL, de sa taxe d’habitation, etc.
Avec cette petite ligne, chaque administration est surtout tenue d’expliquer au citoyen qu’il a le droit d’obtenir la communication des « règles » et « principales caractéristiques » de mise en œuvre du traitement algorithmique utilisé. » https://www.nextinpact.com/news/106149-transparence-algorithmes-publics-apres-coups-tordus-aux-citoyens-prendre-linitiative.htm
*J’espère* que la plupart des décisions d’application des lois et règlements sont prises sur la base d’un procédé algorithmique. Sinon ça voudrait dire qu’on aurait des décisions imprévisibles, en fonction de l’individus que les prend.
Mais j’imagine que ta question était plutôt de savoir si ces algorithmes sont appliqués par des humains ou des machines. Je pense que la vitesse de traitement des déclarations de revenus est une forme de «preuve» qu’il y a une grande part du traitement qui est automatisé dans ce cas précis. Mais rendu là, c’est «juste» du calcul… plus proche d’Excel que de Alpha Go.
Aussi, ta question fait référence à un «procédé algorithmique», mais ta mise en contexte parle «d’intelligence artificielle». Je gagerais plus sur les procédés algorithmiques que sur l’intelligence artificielle, avec les sous-entendus qu’on a aujourd’hui sur ça (on fait presque systématiquement référence à l’apprentissage automatique). Or, l’IA qui fait l’actualité aujourd’hui est trop récente pour être intégrée à l’administration des services publics.
(oui, je fais exprès pour être pointilleux sur les termes… :-) )