La Déclaration de Montréal? Non, le Cri d'alarme de Montréal!

Publié le 05/12/2018 à 06:06

La Déclaration de Montréal? Non, le Cri d'alarme de Montréal!

Publié le 05/12/2018 à 06:06

L'IA est bientôt prête à supplanter l'humain, et personne ne bronche... Photo: Detroit.

Le 4 décembre 2018 était censé être une journée historique, avec le dévoilement officiel de la Déclaration de Montréal pour un développement responsable et éthique de l’intelligence artificielle (IA). Ça devait être le point culminant d’une année de travail acharné – recherches scientifiques, consultations citoyennes, discussions d’experts, d’élus politiques, d’organismes publics, d’ordres professionnels, etc. Mais voilà, la veille, les quelque 250 participants au forum Faire face à l’IA – en grande partie des chercheurs – ont lancé un vibrant cri d’alarme à ce sujet, tant sur scène que dans la salle, mettant ainsi en lumière la vérité toute nue : l’IA est d’ores et déjà en train de saper les piliers de nos sociétés, et il y a urgence d’agir aussi fermement que concrètement pour éviter la catastrophe.


Autrement dit, la Déclaration de Montréal a été supplantée par le Cri d’alarme de Montréal. Ni plus ni moins. Explication.


Hier, donc, a vu le jour la Déclaration de Montréal. De quoi s’agit-il ? D’une série de principes que devraient suivre tous ceux qui travaillent sur l’IA afin que cette dernière œuvre pour le bien de l’humanité. Si vous préférez, d’une liste de 10 vœux pieux puisqu’aucune mesure contraignante n’accompagne la Déclaration.


Ces vœux pieux, en voici quelques-uns, pris au hasard:


– Le bien-être. «Le développement et l’utilisation des IA doivent permettre d’accroître le bien-être de tous les êtres sensibles (êtres humains, animaux, plantes,…).»


– Équité. «Le développement et l’utilisation des IA doivent contribuer à la réalisation d’une société juste et équitable.»


– Protection de la vie privée et de l’intimité. «La vie privée et l’intimité doivent être protégées de l’intrusion des IA et de systèmes d’acquisition et d’archivage des données personnelles.»


On s’entend, ces vœux pieux sont tout à fait louables. Le hic, c’est qu’ils sont d’ores et déjà dépassés par les récentes avancées en matière d’intelligence artificielle. À tel point qu’ils sont complètement déconnectés de la réalité. Prenons quelques exemples concrets…


– Espion à domicile. Google vend depuis Noël dernier ses Google Home, ces petits «assistants intelligents à domicile» qui écoutent tout ce qui se passe chez les gens et leur apporte les informations dont ils ont besoin, en temps réel. On le voit bien, ce gadget doté d’une IA va à l’encontre du principe de protection de la vie privée et de l’intimité de la Déclaration de Montréal.


La question est la suivante : Google, en réalisant soudain qu’elle ne respecte pas la Déclaration, va-t-il arrêter du jour au lendemain la commercialisation de son gadget et inviter les gens à lui retourner ceux qui sont en circulation ? Laissez-moi rire…

[Photo: DR]


– Flicage étatique. La Chine a instauré depuis mars dernier un Système de crédit social, qui vise à récompenser les citoyens pour leurs comportements positifs et à les sanctionner pour les mauvais. Chaque citoyen est maintenant fiché et analysé dans sa vie quotidienne par une IA, et peut se voir interdire l’accès à un logement ou à un avion si jamais son comportement ne convient pas à l’État.


La question est, là encore : le président Xi Jinping va-t-il être soudain pris de remords à la lecture du principe d’équité de la Déclaration de Montréal, et revenir en arrière concernant son programme de flicage de la population ? Laissez-moi encore rire…


– Licenciements massifs et irréversibles. La pétrolière Suncor Énergie a annoncé en janvier dernier qu’elle allait supprimer au Canada quelque 500 postes de camionneur au cours des six prochaines années, à mesure qu’elle allait se doter de camions 100% autonomes, c’est-à-dire dotés d’une IA. D’ailleurs, en ce moment même, 150 de ces camions sillonnent 24h/24 la mine de sable bitumineux North Steepbank, en Alberta, après avoir pris la place des êtres humains.


La question, vous la voyez venir : cette IA œuvre-t-elle vraiment pour le bien-être des camionneurs, ceux qui ont perdu leur job et se doivent maintenant d’en trouver un autre ailleurs ? Et croyez-vous vraiment qu’il existe beaucoup d’employeurs qui vont hésiter longtemps à recourir à des outils intelligents «plus sécuritaires, plus productifs et moins couteux» parce que la Déclaration de Montréal leur dit de ne pas agir de la sorte ? (Et ce, sans parler du fait que le sable bitumineux n’est pas réputé avoir une empreinte écologique positive et que la Déclaration stipule, de surcroît, qu’il n’est pas convenable de se servir d’une IA pour nuire à l’environnement.) Laissez-moi m’étouffer de rire…


Bon. Peut-être jugez-vous que je cherche la petite bête, juste pour faire l’intéressant, pour m’amuser à «gâcher le party». Permettez-moi de vous détromper, si tel est le cas. Il se trouve en effet que les points que je viens d’avancer ne viennent pas de moi, mais des participants au forum Faire face à l’IA, qui s’est tenu le 3 décembre au Sheraton de Montréal, sous la gouverne des trois Fonds de recherche du Québec (FRQ) dirigés par Rémi Quirion, le scientifique en chef du Québec. De ceux qui ont poussé collectivement un véritable cri d’alarme…


«L’IA concerne tout le monde, à tous les niveaux. Et elle a le potentiel de faire d’innombrables victimes en termes d’emploi, davantage encore que toutes les précédentes révolutions technologiques qu’a connues l’humanité», a lancé Michel Servoz, conseiller du président de la Commission européenne sur l’intelligence artificielle, la robotique et l’avenir du travail.


Et d’avouer en toute transparence, dans la foulée : «Certains affirment qu’il va y avoir création de nouveaux emplois suite à l’avènement de l’IA, mais, en vérité, personne n’est capable de dire ce qu’ils seront au juste, et encore moins n’est en mesure d’affirmer que ceux-ci combleront tous les emplois appelés à disparaître».


Juha Heikkilä, chef de l’unité Robotique et Intelligence artificielle de la Direction générale des réseaux de communication, du contenu et des technologies (DG Connect) de la Commission européenne, a abondé dans le même sens : «Les impacts négatifs de l’IA sur l’emploi vont inévitablement être au rendez-vous, a-t-il dit sans ambages. Et il faut arrêter de ne présenter aux gens que les aspects positifs de l’IA, de faire de la propagande à son sujet. Car sans cela, les gens vont finir par rejeter en bloc l’IA et son immense potentiel de bienfaits pour nos sociétés.»


En conséquence, nous allons voir les «fractures numériques» s’aggraver au sein de nos sociétés comme à l’échelle de la planète : d’un côté, il y aura ceux dont la productivité sera boostée grâce à l’aide de l’IA, et qui, donc, s’enrichiront en ayant une vie professionnelle plus palpitante que jamais ; de l’autre, il y aura tous ceux qui seront devenus obsolètes sur le plan professionnel, leurs savoir-faire étant définitivement surclassés par les capacités phénoménales de l’IA.


«Le rapport 2019 de la Banque mondiale intitulé The Changing Nature of Work montre que ceux qui vont être le plus durement frappés seront ceux qui vivent dans les pays en voie de développement, a indiqué M. Servoz. Par exemple, les centres d’appels d’Inde et d’ailleurs risquent fort de disparaître sous peu, remplacés par des chatbots. Idem, Adidas est en train de fermer ses usines en Chine et ailleurs dans le monde pour en ouvrir de toutes neuves en Allemagne et aux États-Unis, tout simplement parce qu’avec les nouvelles technologies comme l’IA et l’impression en 3D, c’est devenu moins cher pour elle de produire dans les pays développés.»


«L’accentuation des inégalités socioéconomiques en raison de l’IA n’est aujourd’hui plus un risque, mais une certitude, a lancé Jim Dratwa, chef du groupe Éthique en sciences et en nouvelles technologies de la Commission européenne. À moins, bien entendu, que des efforts considérables ne soient entrepris pour empêcher les GAFA [Google, Apple, Facebook, Amazon] de ce monde de tirer la couverture à eux seuls. À moins que nous ne nous demandions collectivement : «Quelles IA voulons-nous vraiment? Et surtout, lesquelles ne voulons-nous pas?». Et par suite: «Dans quel monde voulons-nous vivre tous ensemble?»»


C’est que l’heure est grave. Oui, il y a urgence. D’ailleurs, nombre d’experts présents dans la salle n’ont pu se retenir de souligner les «dérapages à répétition» de l’IA, gravissimes pour l’avenir de nos sociétés : «l’attaque frontale de la démocratie lors des dernières élections américaines et du vote du Brexit, révélée par le scandale Cambridge Analytica» ; «la mise au rancard par Amazon de son IA chargée du recrutement après la découverte que celle -ci discriminait systématiquement les femmes» ; «la destruction par Microsoft de son IA qui s’était mise à tenir des propos sexistes et racistes à force de s’imprégner de ce qui circulait sur les médias sociaux» ; etc.


Alors, à quoi ressemblera le monde de demain ? Celui que des ingénieurs et autres scientifiques sont en train de créer sous nos yeux ébahis, en dignes apprentis sorciers ? De toute évidence à un cauchemar, si jamais nous avons le malheur de les laisser faire. Et c’est justement là le clou qui a été martelé tout au long des débats…


«Pour l’instant, les GAFA corrigent elles-mêmes leurs erreurs, sans avoir à rendre de compte à qui que ce soit, a dit Michel Cervoz. Ça ne suffit pas. On ne peut pas se contenter de leur bon vouloir en matière d’éthique. Les citoyens doivent avoir voix au chapitre, à tout le moins avoir un recours en cas d’abus d’une IA.»


«Un cadre juridique et éthique s’impose», a ajouté Juha Heikkilä.


Un exemple frappant est celui d’un individu qui se ferait refuser un prêt par sa banque, «après l’analyse de (son) dossier par une IA». Une telle situation serait anormale, pour ne pas dire absurde. En effet, comment savoir si cet individu n’a pas été, en vérité, discriminé par une IA biaisée ? Et ce, à l’insu des banquiers humains ? Il se trouve qu’il y a de nos jours un vide juridique à ce sujet : si cela se produisait, qui serait considéré comme le responsable ? l’IA elle-même ? Le banquier qui s’en est servi ? Le fournisseur de l’IA ? Son programmeur ?


On le voit bien, le législatif – et donc, le politique – doit prendre le dossier en main, sans tarder. D’ailleurs, un premier pas semble être effectué dans cette direction en France, selon Christine Balagué, cette professeure française de l’Institut Mines-Télécom Business School qui a été vice-présidente du Conseil national du numérique jusqu’en 2016 : «L’Assemblée nationale va bientôt discuter de la proposition de loi de «garantie humaine», qui veut que tout patient qui recevra un diagnostic médical d’une IA aura le droit, s’il le souhaite, à un second diagnostic, lui 100% humain», a-t-elle illustré. Une garantie humaine qui gagnerait, à mes yeux, d’être répliquée dans nombre d’autres secteurs d’activités…


Ce n’est pas tout. Il faut aller encore plus loin, si j’en crois le Cri d’alarme poussé lundi au Sheraton…


«Il faut impliquer les citoyens dans ce grand enjeu sociétal qu’est l’IA, a dit Rémi Quirion. Il faut mettre les gens – l’humain – au cœur des avancées technologiques. Pour qu’ils ne s’en sentent pas exclus. Pour qu’ils voient par eux-mêmes comment elles peuvent leur servir.»


«L’idée, ce serait de faire de l’IA et des nouvelles technologies une «coconstruction», a estimé Jim Dratwa. C’est-à-dire une œuvre commune, et non pas la création d’une élite.»


«Ce qui passe par la démocratisation absolue de l’IA, a ajouté Juha Heikkilä. À savoir par l’accès et l’implication des citoyens aux développements en cours et à venir ; et ce, avec, bien sûr, la capacité de peser sur les choix.»


Bref, pour que l’IA agisse – enfin – de manière bienfaisante sur nos sociétés, il n’y a pas d’autre possibilité que de donner le pouvoir au peuple ; et donc, de le retirer, du moins en grande partie, à ceux qui l’ont aujourd’hui, soit les chercheurs et les GAFA. Ce que n’évoque même pas la Déclaration de Montréal, laquelle se contente d’une seule recommandation à l’égard des citoyens : «L’encapacitation des citoyens doit permettre à chacun d’avoir accès à de la formation suffisante pour comprendre, critiquer, respecter et interagir de manière responsable avec l’IA, histoire d’être en mesure de participer activement à une société numérique durable», est-il noté dans la liste des recommandations.


Ce qui, en langage clair, vise juste à inciter les gouvernements à former les gens de manière à ce qu’ils soient fonctionnels dans une société irrémédiablement appelée à être dominée par la technologie, et non pas à en faire des citoyens à même de peser de tout leur poids sur les choix des chercheurs et des entreprises technologiques qui font appel à leurs services. Une nuance, vous en conviendrez, qui est un véritable gouffre ! Digne de celui qui existe entre le docile mouton et le combatif bélier…


Là est bel et bien le nœud du problème de la Déclaration de Montréal. Car cette dernière écarte et désarme les citoyens, alors que c’est justement le contraire qui devrait être fait. Car son objectif ne devrait pas être d’inciter les gens à s’adapter servilement à l’IA, mais plutôt à en devenir ses cocréateurs.


Bref, l’être humain doit être non pas au cœur de l’IA, mais en être le coeur. Et tant qu’aucun dirigeant – chef d’entreprise technologique, élu, etc. – ne le saisira, les avancées technologiques n’augureront rien de bon pour nous tous…


*****


Espressonomie


Un rendez-vous hebdomadaire dans Les affaires et Lesaffaires.com, dans lequel Olivier Schmouker éclaire l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui, quitte à renverser quelques idées reçues.


Découvrez les précédents billets d'Espressonomie


La page Facebook d'Espressonomie


Et mon dernier livre : 11 choses que Mark Zuckerberg fait autrement


 

À propos de ce blogue

ESPRESSONOMIE est le blogue économique d'Olivier Schmouker. Sa mission : éclairer l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui. Ce blogue hebdomadaire présente la particularité d'être publié en alternance dans le journal Les affaires (papier/iPad) et sur Lesaffaires.com. Olivier Schmouker est chroniqueur pour Les affaires et conférencier.

Sujets liés

Économie

Sur le même sujet

Retour attendu de la croissance pour les hôteliers de Montréal

Après une année 2018 au ralenti, les hôteliers de Montréal ont bon espoir de renouer avec la croissance en 2019.

Devenir auto-entrepreneur, le meilleur moyen de s'appauvrir!

07/12/2018 | Olivier Schmouker

CHRONIQUE. «Bye-bye boss, je vais devenir mon propre boss !» Hum, peut-être pas la meilleure idée qui soit...