Prendre rendez-vous en ligneDoctolib

Les faux dilemmes éthiques de la voiture autonome

La vidéo :

Le texte :

             L’arrivée des voitures autonomes se fait de plus en plus concrète. Beaucoup de véhicules arrivent déjà avec les niveaux 1 et 2 d’automatisation. Atteindre le niveau 5, qui permettra à la voiture de se conduire complètement toute seule, est pour l’instant promis avant la fin de cette décennie.

Cette prouesse s’accompagne d’un dilemme éthique bien connu, en cas de distance de freinage insuffisante pour éviter une collision, le véhicule autonome doit-il accepter la collision ou au contraire tenter une manoeuvre d’évitement par tous les moyens. Quitte à percuter d’autres êtres vivants.

             Des études s’amusent à se poser la question. C’est le cas par exemple de l’étude Moral Machine, dont le site moral machine, propose encore le petit jeu utilisé lors de l’étude, jeu consistant à choisir qui sacrifier selon différentes scènes.

Majoritairement, les répondants préféraient par exemple sacrifier l’animal plutôt que l’homme, épargner le groupe le plus nombreux au détriment du groupe le moins nombreux et épargner les jeunes au détriment des personnes âgées.

Mais ces résultats sont-ils utiles ? Puisqu’il s’agit de s’inventer un problème, et d’y injecter d’infinies variables sur les profils des personnes ou des animaux à sacrifier. Et si le chat à sacrifier est le vôtre ? Et si la personne a commis des méfaits ? Et si la personne a telle fonction dans la société ? Voilà autant de critères ajoutés dans les études, comme autant d’idées porteuses d’une certaine violence sociale.

 Ce qui laisse finalement entrevoir que le dilemme de la voiture autonome tient plus du mini jeu à débat que de la véritable question sérieuse à régler. Tant il laisse croire que la question de l’eugénisme routier est sur la table, alors que non. Ce niveau de choix n’a pas vocation à être implémenté.

Pour le comprendre, retournons à l’ancêtre de tous ces dilemmes inutilement sophistiqués, à savoir le très ancien problème du tramway.

Dans ce problème, vous êtes à un aiguillage et vous devez décider soit de laisser le train aller tout droit et tuer 5 personnes présente sur la voie. Soit vous décidez d’actionner l’aiguillage pour dérouter le train vers une autre voie, ce qui ne tuera qu’une seule personne. Autrement dit, si vous ne faites rien, 5 personnes meurent et si vous intervenez, 1 seule personne meurt et les 5 autres sont épargnés.

Voilà de quoi nous laisser chacun imaginer ce qu’on ferait, accompagné de nos biais, de ce que l’on croit juste ou injuste, de notre rapport au normal ou à la destinée.

 Mais ce dilemme a une réponse psychologique, la réponse c’est la responsabilité.

Si vous actionnez le levier, vous devenez responsable d’un mort. Si vous ne touchez à rien, les 5 morts qui s’en suivent ne sont pas de votre fait, vous n’avez tué personne. Et votre responsabilité ne s’évalue pas au regard des bienfaits qu’on pourrait argumenter derrière. En actionnant le levier, même avec une intention de limiter le nombre de morts, vous devenez responsable. C’est le même scénario que lorsqu’un dictateur veut faire fusiller 20 civils, mais accepte finalement de n’en fusiller que 10 si c’est vous qui faites la liste de personnes à fusiller. Vous serez finalement jugé sur votre responsabilité dans ces 10 morts que vous avez ordonnés, et non sur l’argumentaire du moindre mal.

La voiture autonome se concentrera sur le respect des règles de la route. Si une manoeuvre d’évitement doit être faite, elle ne sera faite que si le terrain est dégagé de tout objet. Sans chercher à analyser l’objet pour voir s’il est potentiellement sacrifiable, non car ce serait prendre une responsabilité dans le risque d’erreur d’analyse d’une part, et une responsabilité dans le choix éthique d’autre part.

Alors, s’il n’y a pas d’espace pour une manoeuvre d’évitement, la voiture se contentera de freiner au mieux vers l’impact inéluctable. La non-responsabilité est la condition de base pour commercialiser des voitures autonomes. Et c’est peut-être justement cette condition même, qui la rendra finalement difficile à concrétiser. R.

Rémi Abida, Psychologue en présence à Paris 8e ou en ligne sur Discord.

Prise de rendez-vous sur Discord ( remiabida#6052 ) ou par mail remiabida@psyacp.fr

Autres sujets