Billet de Jean-Claude Leclerc

Intelligence artificielle: qui tient le volant éthique?

  (Pixabay)
Jean-Claude Leclerc | Chroniqueur
Chroniqueur
2017-12-12 20:36 || Monde Monde

L'ère de l'intelligence artificielle commence à peine que déjà on la compare à la  Révolution industrielle. On mesure mieux aujourd'hui les «progrès» obtenus des sociétés industrielles (science, communication, urbanisation) mais on débat aussi de leurs effets pervers (pollution chimique, arme atomique, menace climatique). Or, qu'en sera-t-il des changements qu'apporteraient les super-machines qui vont bientôt envahir les cliniques médicales, les transports aériens et routiers, les résidences privées et maints services publics?

Alors que quelques scientifiques nous mettent en garde contre ces robots qui risqueraient d'entrainer des reculs aux libertés des sociétés et au sens des responsabilités des humains, des promoteurs de ces récentes inventions en font déjà miroiter les avantages. L'opinion publique est divisée à ce sujet. Par contre, des géants du monde industriel se montrent enthousiastes et, au premier chef, des producteurs d'autos (Allemagne, États-Unis, Japon), promettent des «solutions» aux problèmes qui affligent les automobilistes d'aujourd'hui et la circulation routière.

Fini les collisions et les décès sur les routes. Écartés les chauffeurs distraits, agressifs ou intoxiqués. Bienvenue aux jeunes automobilistes, aux vieux, aux handicapés et même aux aveugles. Davantage de place aussi aux amateurs de vidéo, de vitesse et de texto. Fini la congestion, les embouteillages, les tickets de circulation, les primes d'assurance exorbitantes. Moins de ponts à construire. Plus de pistes cyclables et de voies protégées pour les piétons. Respect de la signalisation. Abolition de la police de la route! Ce paradis vaut sans doute quelques emplois perdus...

«Néanmoins les commissaires ont réitéré que les humains possèdent "un droit fondamental à ne pas être obligés de se soumettre à la technologie".»

Bien sûr, les critiques ne manquent pas. L'auto intelligente, techniquement branchée sur l'environnement, est accessible à toutes les écoutes électroniques. Hier refuge des amoureux, des comploteurs et des trafiquants, ses mouvements seront fichés à l'avenir aux registres des vendeurs et des surveillants de tout acabit. Trop populaire, elle risque de causer de nouvelles congestions. Écourtant le temps perdu, elle incitera au contraire à un plus grand étalement urbain. Son coût d'achat, plus élevé, gardera sur les routes bien des véhicules actuels qui heurteront le nouveau trafic des voitures intelligentes.

Mais il y a pire. Le FBI américain n'a pas caché sa crainte de voir ces autos sans chauffeur donner au terrorisme une nouvelle arme de destruction. L'avion intelligent (sur pilote automatique) est difficile à contrôler, même avec des pilotes dans la cabine. Que dire alors des véhicules sans conducteurs, détournés par des agents radicalisés, et qui, remplis d'explosifs, seront autant de bombes visant des cibles aussi bien civiles que policières ou militaires? Bref, après les engins nucléaires, rendus maintenant en Corée du Nord, le monde a-t-il besoin d'autres inventions autodestructives?

L'Allemagne croit avoir trouvé des réponses aux questions d'ordre éthique que pose cette voiture aux autorités ainsi qu'à ses concepteurs et aux futurs usagers. Une commission formée de philosophes, de juristes, de théologiens, d'ingénieurs et de protecteurs des consommateurs a mis dix mois à discuter de cette voiture et à en faire l'expérience. Son rapport en a été livré en juin dernier. L'Université technique de Munich a donné un bref aperçu de ce «premier guide éthique mondial» sur la question.

Quelle décision la voiture intelligente prendrait-elle en cas de possible collision avec à la fois un enfant et un adulte? Elle ne devrait pas en décider sur la base de caractéristiques telles que l'âge, la condition physique ou le sexe. «La dignité humaine est inviolable. » Mais pourrait-on prévoir d'éviter un enfant et de plonger plutôt la voiture dans un précipice? Aucun programmeur ne saurait sacrifier d'avance le conducteur. «La seule option est de freiner le plus effectivement possible.» En fin de compte, chauffeur ou programmeur, la décision serait humaine, mais sur quel critère trancher?

Le nombre de victimes en jeu pourrait-il être pris en considération? La question a été l'objet de long débats avant que la commission ne réponde par l'affirmative. Cette réponse, signale un porte-parole, semble contredire un jugement déjà rendu par la Cour constitutionnelle du pays. Ce tribunal avait décidé qu'on ne pouvait abattre un avion de passagers détournée par des terroristes même si l'appareil était dirigé vers une cible comptant un plus grand nombre de personnes. Le 11-Septembre confirme qu'un tel scénario n'est pas qu'hypothétique.

«L'auto a perdu de son aura, mais pas le mirage des nouvelles technologies d'information et de gestion.»

En pratique, la commission s'est retrouvée devant d'innombrables scénarios. Un manufacturier en choisira un, cependant qu'une autre en retiendra un différent. Il reviendrait donc aux autorités d'établir des règles qui établissent clairement quand c'est le conducteur qui retient le contrôle et quand c'est la «technologie». La commission évoque avec raison le risque de voir la «technologie» (entendons le manufacturier) refiler le contrôle (et la responsabilité) au conducteur.

Des ingénieurs avaient fait valoir à la commission que la conduite automobile devient moins sécuritaire quand des humains y interviennent. Néanmoins les commissaires ont réitéré que les humains possèdent «un droit fondamental à ne pas être obligés de se soumettre à la technologie». L'automobile, qui en est venue à dominer non seulement l'Allemagne et l'Europe occidentale mais aussi l'Amérique du Nord, n'est pas un mauvais exemple de technologies discutables et de progrès faussement prometteur. Plus d'Américains sont morts sur les routes que sur les champs de bataille.

L'auto a perdu de son aura, mais pas le mirage des nouvelles technologies d'information et de gestion. L'intelligence artificielle trouve déjà ses gourous et ses promoteurs douteux. C’est ainsi que des milliards auront été dépensés à Ottawa pour un «Phénix» du traitement de paye qui n'en finit plus d'errer d'un gouvernement à l'autre. Et au Québec comme en d'autres provinces sans doute, des sommes pharamineuses ont été dépensées en vue «d'optimiser» d'autres services publics. Une technologie n'est pas nécessairement mauvaise, mais presque toutes ont été la proie d'abus ou de fraude.

L'auto n'est pas le seul marché convoité. La médecine aurait besoin, faut-il croire, de plus d'intelligence, mais serait-ce au prix d'une plus grande dépendance des patients envers des techniciens, des analystes financiers et des docteurs en mal d'enrichissement? Les villes aussi devraient se soumettre à l'intelligence artificielle, mais la démocratie réelle déjà peu robuste y trouverait-elle son compte ou sera-t-elle asservie aux bureaucrates et aux vendeurs de systèmes et d'équipements? Jamais aura-t-on vendu autant de mesures de sécurité et jamais la vie privée n'aura été aussi envahie.


1 Commentaire(s)

Dominique Boisvert || 2017-12-16 10:56:23

Remarquable analyse, bien concrète, sur l'éternel débat entourant les avantages et les inconvénients des «progrès» de tous poils. Merci M. Leclerc et Présence de nous rendre ce questionnement disponible. J'aurais apprécié qu'on nous donne le titre exact et la référence précise au rapport de cette commission allemande. D'ailleurs, la même suggestion s'applique à chaque fois qu'un article d'information ou un texte d'opinion de Présence s'appuie principalement sur un document quelconque: cela permet alors au lecteur d'avoir accès lui-même au document qui sert de base ou d'occasion au texte proposé par Présence. Merci à l'avance.

 

du même auteur

Le premier ministre Justin Trudeau.
2018-03-26 19:55 || Canada Canada || Aucun commentaire

Emplois d’été Canada: savoir jauger la menace en démocratie

Les élections provinciales auront lieu à l'automne.
2018-02-20 10:24 || Québec Québec || 3 Commentaire(s)

Les bonnes raisons d'aller aux urnes

Un couple prend un égoportrait à Jérusalem le 6 décembre 2017.
2018-01-15 15:08 || Monde Monde || Aucun commentaire

Jérusalem, l’étalon d’un monde sous tension

articles récents

Etty Hillesum en 1939 (auteur inconnu)
2018-04-16 10:48 || Monde Monde || 2 Commentaire(s)

Dans la nuit, Dieu

Développement et Paix soutient des projets dans 36 pays. L'an dernier, il a offert un secours d'urgence au Soudan du Sud (photo).
2018-04-12 16:31 || Canada Canada || 10 Commentaire(s)

Évêques et œuvres humanitaires: la crise d’une époque

En pleine Semaine sainte, la Conférence des évêques catholiques du Canada a annoncé dans une lettre que le pape n'entendait pas présenter d'excuses au sujet du rôle de l'Église catholique dans les pensionnats autochtones au Canada.
2018-04-03 23:22 || Canada Canada || 4 Commentaire(s)

Pensionnats: pourquoi et au sujet de quoi le pape aurait dû présenter des excuses