Billet de Jean-Claude Leclerc

Intelligence artificielle: qui tient le volant éthique?

  (Pixabay)
Jean-Claude Leclerc | Chroniqueur
Chroniqueur
2017-12-12 20:36 || Monde Monde

L'ère de l'intelligence artificielle commence à peine que déjà on la compare à la  Révolution industrielle. On mesure mieux aujourd'hui les «progrès» obtenus des sociétés industrielles (science, communication, urbanisation) mais on débat aussi de leurs effets pervers (pollution chimique, arme atomique, menace climatique). Or, qu'en sera-t-il des changements qu'apporteraient les super-machines qui vont bientôt envahir les cliniques médicales, les transports aériens et routiers, les résidences privées et maints services publics?

Alors que quelques scientifiques nous mettent en garde contre ces robots qui risqueraient d'entrainer des reculs aux libertés des sociétés et au sens des responsabilités des humains, des promoteurs de ces récentes inventions en font déjà miroiter les avantages. L'opinion publique est divisée à ce sujet. Par contre, des géants du monde industriel se montrent enthousiastes et, au premier chef, des producteurs d'autos (Allemagne, États-Unis, Japon), promettent des «solutions» aux problèmes qui affligent les automobilistes d'aujourd'hui et la circulation routière.

Fini les collisions et les décès sur les routes. Écartés les chauffeurs distraits, agressifs ou intoxiqués. Bienvenue aux jeunes automobilistes, aux vieux, aux handicapés et même aux aveugles. Davantage de place aussi aux amateurs de vidéo, de vitesse et de texto. Fini la congestion, les embouteillages, les tickets de circulation, les primes d'assurance exorbitantes. Moins de ponts à construire. Plus de pistes cyclables et de voies protégées pour les piétons. Respect de la signalisation. Abolition de la police de la route! Ce paradis vaut sans doute quelques emplois perdus...

«Néanmoins les commissaires ont réitéré que les humains possèdent "un droit fondamental à ne pas être obligés de se soumettre à la technologie".»

Bien sûr, les critiques ne manquent pas. L'auto intelligente, techniquement branchée sur l'environnement, est accessible à toutes les écoutes électroniques. Hier refuge des amoureux, des comploteurs et des trafiquants, ses mouvements seront fichés à l'avenir aux registres des vendeurs et des surveillants de tout acabit. Trop populaire, elle risque de causer de nouvelles congestions. Écourtant le temps perdu, elle incitera au contraire à un plus grand étalement urbain. Son coût d'achat, plus élevé, gardera sur les routes bien des véhicules actuels qui heurteront le nouveau trafic des voitures intelligentes.

Mais il y a pire. Le FBI américain n'a pas caché sa crainte de voir ces autos sans chauffeur donner au terrorisme une nouvelle arme de destruction. L'avion intelligent (sur pilote automatique) est difficile à contrôler, même avec des pilotes dans la cabine. Que dire alors des véhicules sans conducteurs, détournés par des agents radicalisés, et qui, remplis d'explosifs, seront autant de bombes visant des cibles aussi bien civiles que policières ou militaires? Bref, après les engins nucléaires, rendus maintenant en Corée du Nord, le monde a-t-il besoin d'autres inventions autodestructives?

L'Allemagne croit avoir trouvé des réponses aux questions d'ordre éthique que pose cette voiture aux autorités ainsi qu'à ses concepteurs et aux futurs usagers. Une commission formée de philosophes, de juristes, de théologiens, d'ingénieurs et de protecteurs des consommateurs a mis dix mois à discuter de cette voiture et à en faire l'expérience. Son rapport en a été livré en juin dernier. L'Université technique de Munich a donné un bref aperçu de ce «premier guide éthique mondial» sur la question.

Quelle décision la voiture intelligente prendrait-elle en cas de possible collision avec à la fois un enfant et un adulte? Elle ne devrait pas en décider sur la base de caractéristiques telles que l'âge, la condition physique ou le sexe. «La dignité humaine est inviolable. » Mais pourrait-on prévoir d'éviter un enfant et de plonger plutôt la voiture dans un précipice? Aucun programmeur ne saurait sacrifier d'avance le conducteur. «La seule option est de freiner le plus effectivement possible.» En fin de compte, chauffeur ou programmeur, la décision serait humaine, mais sur quel critère trancher?

Le nombre de victimes en jeu pourrait-il être pris en considération? La question a été l'objet de long débats avant que la commission ne réponde par l'affirmative. Cette réponse, signale un porte-parole, semble contredire un jugement déjà rendu par la Cour constitutionnelle du pays. Ce tribunal avait décidé qu'on ne pouvait abattre un avion de passagers détournée par des terroristes même si l'appareil était dirigé vers une cible comptant un plus grand nombre de personnes. Le 11-Septembre confirme qu'un tel scénario n'est pas qu'hypothétique.

«L'auto a perdu de son aura, mais pas le mirage des nouvelles technologies d'information et de gestion.»

En pratique, la commission s'est retrouvée devant d'innombrables scénarios. Un manufacturier en choisira un, cependant qu'une autre en retiendra un différent. Il reviendrait donc aux autorités d'établir des règles qui établissent clairement quand c'est le conducteur qui retient le contrôle et quand c'est la «technologie». La commission évoque avec raison le risque de voir la «technologie» (entendons le manufacturier) refiler le contrôle (et la responsabilité) au conducteur.

Des ingénieurs avaient fait valoir à la commission que la conduite automobile devient moins sécuritaire quand des humains y interviennent. Néanmoins les commissaires ont réitéré que les humains possèdent «un droit fondamental à ne pas être obligés de se soumettre à la technologie». L'automobile, qui en est venue à dominer non seulement l'Allemagne et l'Europe occidentale mais aussi l'Amérique du Nord, n'est pas un mauvais exemple de technologies discutables et de progrès faussement prometteur. Plus d'Américains sont morts sur les routes que sur les champs de bataille.

L'auto a perdu de son aura, mais pas le mirage des nouvelles technologies d'information et de gestion. L'intelligence artificielle trouve déjà ses gourous et ses promoteurs douteux. C’est ainsi que des milliards auront été dépensés à Ottawa pour un «Phénix» du traitement de paye qui n'en finit plus d'errer d'un gouvernement à l'autre. Et au Québec comme en d'autres provinces sans doute, des sommes pharamineuses ont été dépensées en vue «d'optimiser» d'autres services publics. Une technologie n'est pas nécessairement mauvaise, mais presque toutes ont été la proie d'abus ou de fraude.

L'auto n'est pas le seul marché convoité. La médecine aurait besoin, faut-il croire, de plus d'intelligence, mais serait-ce au prix d'une plus grande dépendance des patients envers des techniciens, des analystes financiers et des docteurs en mal d'enrichissement? Les villes aussi devraient se soumettre à l'intelligence artificielle, mais la démocratie réelle déjà peu robuste y trouverait-elle son compte ou sera-t-elle asservie aux bureaucrates et aux vendeurs de systèmes et d'équipements? Jamais aura-t-on vendu autant de mesures de sécurité et jamais la vie privée n'aura été aussi envahie.

 

du même auteur

Un missile intercontinental chinois Dongfeng-41 est exhibé à Pékin en novembre 2019. Jean-Claude Leclerc s'inquiète de la militarisation de l'espace.
2020-05-06 16:41 || Monde Monde

L’équilibre de la terreur se met en orbite

Ce couple s'est marié sans invités à Naples (Italie) le 20 mars 2020. «La solidarité fait des miracles, certes, mais quel pays saura, sinon ramener une existence normale, du moins refaire la capacité d’affronter d’autres fléaux?», demande le chroniqueur Jean-Claude Leclerc.
2020-03-24 09:52 || Monde Monde

Le retour des temps tragiques

À Téhéran, un homme se réjouit le 8 janvier 2020 des frappes iraniennes en riposte aux frappes américaines qui ont tué le général Qassem Soleimani le 3 janvier.
2020-01-09 10:15 || Monde Monde

Quelle apocalypse faudra-t-il pour secouer la conscience contemporaine?

articles récents

«Un monde sans violence, il s’agit là du véritable jihad, de l’authentique «combat spirituel» où chacun et chacune, en son âme et conscience, doit s’engager résolument à éradiquer tout ce qui nous y conduit», estime l'auteur.
2020-10-20 17:02 || Québec Québec

L’éducation décapitée

«Pour rattraper ce qui se présente comme une erreur politique, le gouvernement aurait intérêt à dialoguer avec les groupes religieux, démontrer que la confiance est réciproque et trouver des solutions ensemble», écrit Sabrina Di Matteo.
2020-09-21 19:57 || Québec Québec

Lieux de culte: le gouvernement l'échappe

Vos dons sont précieux: ils constituent la principale source de revenus pour Présence - information religieuse.
2020-09-13 00:00 || Québec Québec

Donner pour assurer l'avenir de Présence