Les voitures autonomes doivent-elles choisir qui sauver (ou tuer) en cas d'accident?

Une large étude menée pendant un an et demi auprès de 2 millions d’internautes laissent entrevoir ce que les consommateurs sont prêts à accepter, ou pas, de la voiture autonome dans des situations dangereuses.

La voiture autonome soulève aussi des questions éthiques. Dans une situation d'accident, devra-t-elle protéger ses passagers ou éviter l'enfant qui traverse la rue? Pendant un an et demi, plus de deux millions d'internautes de 233 pays et territoires, ont fait le test de Moral Machine, accessible en dix langues.

Qui tuer, qui sauver, dans un accident grave

Cette plateforme a été lancée par des universitaires des deux côtés de l’Atlantique, afin de mesurer ce que le grand public pouvait accepter en matière d’accident liés à la voiture autonome. Le but: permettre aux industriels d’élaborer les algorithmes des voitures autonomes en accord avec la volonté des citoyens.

Entre juin 2016 et décembre 2017, 40 millions de décisions ont ainsi été prises par les internautes, selon un scénario simple. Ils avaient sous les yeux une voiture autonome dont les freins avaient lâché. Elle devait, par exemple, choisir de foncer dans une barrière en béton au risque de tuer son ou ses passagers ou bien de faucher mortellement des animaux domestiques ou différents types de personnes en train de traverser la rue, au vert ou au rouge.

"Nous avons vu se dégager trois grands principes sur lesquels les gens s'accordent plus ou moins: protéger la vie humaine plutôt que les animaux, sauver le plus grand nombre de vies et sauver en priorité les enfants, déclare à l'AFP Jean-François Bonnefon, chercheur du CNRS à l'Université de Toulouse. Mais même ces trois préférences fortes peuvent varier d'un pays à un autre".

Les chiens et les bébés sauvés, pas les personnes âgées

Les profils les plus sauvés ont été les bébés en poussette, les enfants et les femmes enceintes. Ensuite, les préférences "morales" peuvent prêter le flan à de sérieuses critiques. Ainsi, les médecins (reconnaissables à une croix blanche dans la simulation) et les personnes athlétiques s'en sortent bien, suivis par les cadres dirigeants (identifiables à leur attaché case).

Après les chats et les chiens, puis les criminels (silhouette munie d'un butin), ce sont les personnes âgées que les internautes ont le moins épargné, suivies des sans-abri (en guenilles), puis des personnes en surpoids. Celles-ci ont 20% de risque en plus d'être sacrifiées qu'une personne à l'allure athlétique. Et "les personnes pauvres ont 40% de probabilité de plus que les personnes riches de se faire écraser", selon le CNRS.

Un choix collectivement accepté

"Ces questions morales ouvrent un véritable débat. Personne n’aime les accidents, mais nous les acceptons comme une erreur humaine non prévisible, comme une fatalité, nous explique Xavier Mosquet, senior manager en charge de l’automobile au cabinet de conseil BCG. Si demain, un véhicule est programmé pour un comportement prédestiné en cas d’accident notamment, quelles réactions allons-nous avoir? Il existe une véritable attente d’un travail de philosophes, de légistes, pour aider les citoyens à définir et accepter ces choix prédestinés".

Xavier Mosquet rappelle aussi que ces décisions doivent être collectives, portées par la législation, et non par les industriels. Le pays le plus engagé dans la réflexion sur l'éthique de la voiture autonome est l'Allemagne. Elle s'est dotée d'une commission qui a rendu un rapport en 2017. Il recommande de privilégier la vie humaine par rapport à celle des animaux mais il estime que toute distinction liée aux caractéristiques de la personne, comme l'âge, devrait être interdite.

Pauline Ducamp, avec AFP