L’expérience des navettes autonomes qui circulent en vieille ville de Sion depuis l’été 2016 passe à une vitesse supérieure. Au lieu de mettre un terme à cette aventure – qui devait s’achever en octobre 2017 –, il vient d’être décidé non seulement de la prolonger, mais d’insérer dans le trafic urbain ces minibus aux couleurs de CarPostal transportant gratuitement une dizaine de personnes. Jusqu’à fin 2018, ces navettes du constructeur français Navya verront leur parcours passer de 1,5 à 3 kilomètres, soit une boucle les amenant jusqu’à la gare. C’est bien davantage qu’un simple allongement de la ligne.
Pas question, bien sûr, de se passer de l’accompagnant à bord aussi longtemps que la législation l’exigera: cette personne est formée pour reprendre la main en cas de coup dur. Tout porte à croire qu’à Sion, celle-ci devra ouvrir l’œil et maintenir la main sur les manettes. De fait, le challenge est de taille, notamment face aux deux signalisations lumineuses à franchir sur le trajet conduisant à la gare de Sion. Cette particularité induit un casse-tête logiciel, pour l’heure non résolu, dans la gestion des véhicules dits intelligents face à des situations pouvant exiger de la réflexion avant la décision et non seulement une action réflexe.
La question de l’algorithme de pilotage
On savait les systèmes de reconnaissance d’environnement perfectibles depuis l’accident qui a coûté en 2015 la vie à un «conducteur passif» d’une Tesla autonome dont les capteurs n’ont pas su idenfier un poids lourd de couleur claire qui a surgi latéralement devant un ciel très lumineux. Mais nulle technologie à ce jour ne permet de prendre des décisions à première vue irrationnelles face à des situations cornéliennes. Quel algorithme de pilotage faut-il développer à cette fin? Des chercheurs du prestigieux MIT (Institut technologique du Massachusetts) proposent à chacun d’entre nous de participer à la réflexion à partir d’une multitude de cas plus dramatiques les uns que les autres présentés sur le site moralmachine.mit.edu. Cela vaut le détour.
Anne Mellano est cofondatrice et vice-présidente de la société lausannoise BestMile, qui a développé la technologie embarquée à bord des navettes de CarPostal. «Aujourd’hui, les constructeurs se concentrent sur le développement des véhicules autonomes en tant que tels, observe-t-elle. Le vrai challenge, dont nous nous occupons, est de parvenir à les faire fonctionner ensemble le mieux possible. La morale machine du MIT permet ainsi de mener des recherches cognitives indispensables.»
Choisir entre deux maux
Pas de souci à première vue pour différencier une phase rouge d’une phase verte: les capteurs optiques savent le faire sans faillir depuis belle lurette. Il n’y a pas trop de difficultés non plus à choisir de renoncer automatiquement à avancer lorsque le feu est vert: les radars ou détecteurs de présence et de mouvement sont de plus en plus performants. Mais qu’un autre véhicule, un obstacle ou une personne surgisse sur la trajectoire censée être libre alors que les freins lâchent et qu’il faut décider du comportement le plus adéquat, c’est une autre histoire. En pareil cas, c’est dans le cerveau de l’intelligence artificielle à bord que cela se joue.
Nul ne doute que les véhicules autonomes contribueront à réduire le nombre d’accidents, sachant que la plupart d’entre ceux-ci ont l’inattention ou la fatigue pour cause première. Il est cependant des situations où l’on doit choisir entre deux maux. «Moral Machine» compile nombre de ces différentes perspectives, par exemple à des intersections ou devant une signalisation lumineuse, notamment lorsqu’un conducteur humain doit choisir dans l’urgence entre préserver sa vie ou celles de piétons. Exemple: les freins lâchent à l’approche d’un passage protégé sur lequel sont engagées plusieurs personnes, la machine décidera-t-elle de continuer tout droit avec le risque de tuer deux hommes qui se trouvent sur sa trajectoire ou obliquera-t-elle à gauche avec le risque de faucher une mère avec son enfant?
Les cas sont théoriquement variés à en donner le tournis. La machine va-t-elle préserver la vie d’une femme ou celle d’un homme, celle d’un jeune ou celle d’un vieux, celle d’un invalide ou celle d’un jogger. Le site moralmachine.mit.edu fourmille de situations de ce genre et permet à l’internaute d’en créer.
Des activités humaines de plus en plus compexes
Contrairement aux apparences, cela n’a rien d’un jeu morbide. «L’intelligence artificielle soutient et même prend le contrôle d’activités humaines de plus en plus complexes, à un rythme croissant, observent les auteurs. L’autonomie accrue accordée à l’intelligence artificielle dans ces scénarios peut donner lieu à des situations dans lesquelles les machines doivent faire des choix autonomes impliquant les vies humaines d’autrui. Cela nécessite non seulement une meilleure compréhension de la façon dont les êtres humains font de tels choix, mais aussi une compréhension plus claire de la manière dont les humains perçoivent l’intelligence de la machine faisant de tels choix.»
Les chercheurs du MIT ont sondé près de 2000 personnes qui ont communiqué leurs choix à partir de plusieurs tests. Il en est sorti des tendances assez nettes et peu surprenantes. Lorsqu’il s’agit de sauver la vie de dix piétons, trois personnes sur quatre sont d’avis qu’il serait plus moral de sacrifier celle du passager de la voiture autonome. Comme on peut s’y attendre, cette proportion chute avec le nombre de bipèdes en danger de mort. Mais cet altruisme chute nettement lorsqu’on demande aux sondés comment ils réagiraient s’ils étaient eux-mêmes à bord de la voiture en perdition, qui plus est avec leur famille. Moralité: développer une intelligence artificielle pour choisir qui sacrifier semble humainement impensable. Fort heureusement, les situations extrêmes telles que celles recensées par la «Moral Machine» sont bien peu nombreuses dans la vraie vie.
