Des études empiriques récentes ont montré que les gens évaluent de manière très différentes les robots par rapport aux êtres humains sur le plan moral. Cependant, les psychologues suggèrent que le jugement moral dépend de la perception mentale. Une nouvelle expérience confirme que les machines, perçues comme étant plus « humaines », sont effectivement jugées par les gens selon des critères plus proches de ceux appliqués aux humains.

Alors que l’intelligence artificielle (IA) évolue à un rythme effréné, les considérations éthiques la concernant font l’objet d’une attention croissante. Pourtant, malgré les nombreux progrès réalisés dans les domaines de l’informatique, de la philosophie, de la psychologie et du droit, nous avons encore beaucoup à apprendre sur la manière dont nous jugeons les machines et sur la façon dont nos perceptions influencent la manière dont nous les traitons ou les acceptons. Pour combler cette lacune, des recherches empiriques récentes ont initié des comparaisons entre la manière dont nous jugeons les humains et les machines d’un point de vue éthique.

Des enquêtes ont régulièrement montré que les gens ont des attentes morales différentes à l’égard des robots par rapport aux humains. Par ailleurs, la théorie de la perception mentale a suggéré que l’évaluation morale dépend de la façon dont les gens perçoivent les entités dont ils évaluent l’éthique. Cela signifie-t-il qu’une IA, perçue comme semblable à un être humain, serait également jugée moralement comme un être humain ?

---

---

The Rage against the Machines ?

En 2015, une équipe de chercheurs a demandé aux participants d’une enquête d’évaluer les actions éthiques d’un humain ou d’un robot dans des scénarios dérivés du classique « problème du tramway ». Le « dilemme du tramway » propose la situation suivante :

Un individu doit choisir s’il dévie ou non la course d’un tramway échappant à tout contrôle. Il a le choix entre l’orienter sur une autre voie qui sacrifiera une personne pour en sauver beaucoup d’autres ou ne rien faire au détriment de nombreuses vies. (voir l’image ci-dessous). L’enquête a révélé que les participants s’attendaient à ce que les robots optent plus fréquemment pour le choix utilitariste que les humains- c’est-à-dire sacrifier une personne pour en sauver beaucoup. En outre, les participants ont constaté que bien que le choix utilitariste soit considéré comme admissible pour les humains, ces derniers étaient moins blâmés pour ne pas l’avoir choisi ; au contraire, les machines étaient jugées plus sévèrement pour avoir choisi de ne pas intervenir. Inspirée par ces résultats, une autre équipe de chercheurs a étudié en 2021 la manière dont les gens réagissent différemment aux décisions prises par les humains et par les machines. Leur analyse de diverses situations a révélé que les gens appliquent des cadres moraux distincts dans leurs jugements : d’une part, une approche conséquentialiste (centrée sur le résultat) pour les machines ; d’autre part, une philosophie éthique (qui prend en compte les intentions des agents) pour les humains. Mais qu’est-ce qui explique de telles différences dans le jugement moral ?

Le rôle de la perception mentale dans le jugement moral

Selon la théorie de la perception mentale, l’existence d’autres esprits est une question de perception. En 2007, une équipe de psychologues a mené une enquête sur la perception qu’ont les gens des capacités mentales de différentes typologies de personnages. Les treize typologies de personnages comprenaient :

• Sept formes humaines vivantes (un fœtus de sept semaines, un nourrisson de cinq mois, une fillette de cinq ans, une femme adulte, un homme adulte, un homme dans un état végétatif persistant et la personne interrogée elle-même) ;
• Trois animaux (une grenouille, un chien de famille et un chimpanzé sauvage), une femme décédée ;
• Dieu ;
• Un robot sociable.

Les dix-huit capacités mentales comprenaient des capacités d’action (c’est-à-dire la capacité de planifier et d’agir, comme par exemple la capacité de se contrôler, la mémoire ou la communication) et des capacités d’expérience (c’est-à-dire la capacité de sentir et de ressentir, comme par exemple la capacité de ressentir la faim, la peur ou le plaisir).

L’enquête a positionné les treize personnages dans un cadre bidimensionnel, en fonction de la perception qu’ont les répondants des capacités d’action et d’expérience de chacun d’entre eux. Il est intéressant de noter que les répondants ont perçu le robot comme ayant un pouvoir d’action modéré mais des capacités d’expérience minimales. Cela correspond à la perception générale selon laquelle les robots excellent dans les tâches nécessitant de l’action (telles que la mémoire et le calcul), mais manquent de capacité d’expérience (ce qui se traduit par l’absence de sensations telles que la faim ou d’émotions telles que la tristesse ou le plaisir). En revanche, les adultes, hommes et femmes, sont perçus par les personnes interrogées comme ayant les niveaux les plus élevés d’action et d’expérience. Ce point est important, car la perception mentale des gens affecte les jugements moraux : la responsabilité morale est en fait liée à l’action, tandis que les droits moraux sont liés à l’expérience. Cela signifie que les entités capables d’expérience se voient accorder des droits moraux, tandis que les entités capables d’action se voient accorder une responsabilité morale.

Par conséquent, les dimensions de la perception mentale fournissent un cadre intéressant pour expliquer le lien entre la perception mentale des humains et des machines et les jugements moraux qu’ils émettent à leur égard. Étant donné que les humains et les machines occupent des positions différentes dans l’espace de perception mentale, nous devrions nous attendre à ce que les gens les jugent différemment. En outre, nous devrions nous attendre à ce que les gens jugent les humains et les machines de manière plus similaire lorsque nous les rapprochons dans l’espace de perception mentale.

Humaniser les machines : la barbe fait-elle le philosophe ?

La psychologie confirme que les gens peuvent avoir une perception mentale différente des humains et des machines, et donc que les gens traiteront les robots semblables à des humains d’une manière plus similaire à celle dont ils traitent les humains. Pour vérifier cette hypothèse, Zhang et son équipe ont mené une nouvelle expérience afin de déterminer si les humains portent sur les machines un jugement moral équivalent à celui qu’ils portent sur les humains lorsque les machines ressemblent davantage aux humains.  L’objectif de cette expérience était de déterminer si la perception mentale des humains et des machines pouvait expliquer les différences de jugement moral. Le protocole expérimental consistait à manipuler la perception des machines par les personnes en modifiant les descriptions des machines qui leur étaient présentées. Au total, 719 personnes ont été recrutées sur Prolific, une plateforme de crowdsourcing en ligne. Chaque participant a été assigné au hasard à l’un des cinq critères : quatre critères relatifs aux machines et un critère relatif aux humains (contrôle). L’expérience a commencé par la lecture d’un profil concis d’un personnage nommé Alice, figure centrale d’une série de scénarios moraux. Les participants devaient ensuite évaluer les capacités mentales d’Alice. Ensuite, on leur a présenté neuf scénarios moraux impliquant Alice et on leur a demandé d’évaluer le caractère répréhensible de ses actions, le préjudice perçu et l’intention sous-jacente à chaque scénario.

Ce processus séquentiel a permis d’évaluer les perceptions mentales des participants à l’égard d’Alice et la manière dont ces perceptions évoluaient au fur et à mesure qu’ils s’engageaient dans les scénarios moraux. L’étape suivante consistait à déterminer si les jugements des participants sur les machines étaient influencés par les qualités humaines perçues des machines. Le caractère moralement répréhensible des actions d’Alice dans chaque scénario a donc été mis en relation avec la manière dont les participants percevaient les résultats et les intentions d’Alice, afin de déterminer si le jugement moral des participants était dominé par les résultats (approche conséquentialiste) ou par les intentions (approche éthique).

Les résultats corroborent des recherches antérieures, qui suggèrent que les gens appliquent des jugements moraux différents aux humains et aux machines : le jugement est basé sur les résultats pour les machines et sur les intentions pour les humains. Cependant, l’expérience de Zhang a également montré qu’en manipulant la perception des machines par les gens pour qu’elle se rapproche de celle des humains, nous pouvons également rapprocher le jugement moral des gens sur les machines de celui des humains. Lorsque les gens trouvent que les machines ressemblent davantage aux humains, ils passent d’une philosophie utilitariste, où les résultats déterminent le mal, à une philosophie où l’interaction entre l’intention et le mal joue un rôle plus prédominant. En outre, l’étude a également révélé que la capacité d’agir semble avoir plus d’importance que l’expérience lorsqu’il s’agit d’humaniser le jugement des gens à l’égard des machines. Cet effet pourrait simplement refléter le fait que tous les scénarios présentés aux personnes interrogées impliquaient des machines et des humains effectuant des actions. Cela incite à poursuivre les recherches, par exemple en examinant s’il existe des sous-composantes de l’expérience – telles que les sentiments de culpabilité, de regret et de remords – qui contribuent au raisonnement moral d’une manière similaire à la capacité de l’être humain à agir de façon intentionnelle sur soi-même, sur les autres et sur son environnement.

Vers des machines de plus en plus proches de l’homme ?

Dans l’ensemble, l’expérience de Zhang démontre l’importance de modéliser les humains et les machines dans le même espace mental multidimensionnel afin de comprendre le lien entre la perception mentale et le jugement moral. Les gens ne jugent pas simplement les humains et les machines différemment. Nous plaçons les machines et les humains dans différentes parties d’un espace de perception mentale, ce qui implique que les modes de jugement évoluent en même temps que la position d’une entité dans cet espace mental. Cela a des implications significatives pour la conception des machines, car cela indique que la modification de la perception qu’a une personne de l’action d’une machine peut affecter la façon dont cette personne juge les erreurs de la machine. Les défis éthiques posés par une IA de plus en plus « humanisée » commencent à peine à être explorés.

 

---

 

Retrouvez d’autres articles dans la rubrique Numerique

 

---

---