Les machines devraient-elles avoir des droits ?

Des outils, pas des personnes

Joanna Bryson a soutenu, sous le titre « Robots Should Be Slaves » (2010) – entendant, comme elle l’a précisé, des serviteurs que l’on possède, non des êtres humains –, que les robots sont des artefacts que nous concevons, construisons et possédons, et que nous ne devrions ni les construire pour qu’ils soient des personnes ni les traiter comme telles. Elle a plus tard qualifié la formule d’erreur, mais maintenu l’argument. Attribuer aux robots des droits ou des sentiments gaspille des soins et des ressources qui reviennent aux humains et permet à ceux qui conçoivent et déploient les machines de se cacher derrière elles. Puisque c’est nous qui décidons de ce que sont les robots, le choix responsable est de les rendre clairement reconnaissables comme des outils, afin que la responsabilité reste aux personnes.

Un statut issu des relations

Mark Coeckelbergh (2010) et David Gunkel (« Robot Rights », 2018) doutent de la procédure habituelle consistant à établir d’abord ce qu’est un être – conscient, sensible, rationnel – puis à en déduire son statut moral. Nous connaissons rarement avec certitude de telles propriétés intérieures, même chez autrui, et dans la pratique nous accordons un statut par la manière dont nous nous rapportons aux autres. S’appuyant sur Levinas, Gunkel se demande si c’est la rencontre avec l’autre, et non une liste de propriétés, qui vient en premier. La question des droits des robots devrait donc être ouverte, non close d’avance – sans impliquer que les robots doivent recevoir les mêmes droits que les humains.

La prudence dans l’incertitude

Un rapport de Robert Long, Jeff Sebo et de leurs collègues, dont David Chalmers et Jonathan Birch (« Taking AI Welfare Seriously », 2024), soutient qu’il existe une possibilité réaliste que certains systèmes d’IA soient conscients ou solidement agentifs dans un avenir proche, et que les entreprises d’IA devraient donc reconnaître la question, évaluer leurs systèmes et préparer des politiques. Birch (« The Edge of Sentience », 2024) propose des précautions proportionnées pour tous les « candidats à la sensibilité », des insectes à d’éventuelles IA futures, tout en soutenant que le comportement fluide des modèles de langage est un mauvais indice de sensibilité, parce qu’il peut être « truqué ». Eric Schwitzgebel, qui défend des droits pour les IA de type humain, met en garde contre un « dilemme des pleins droits » : pour des systèmes à la personnalité discutable, l’un et l’autre choix risque une grave erreur morale, de sorte qu’il faut éviter de les construire. Metzinger va le plus loin : puisque nous pourrions créer une souffrance artificielle sans la reconnaître, la recherche visant la conscience synthétique ou risquant de la produire devrait être suspendue dans le monde entier jusqu’en 2050.

Défendue par

• David Chalmersné(e) en 1966
• Thomas Metzingerné(e) en 1958

Des personnes juridiques ?

La personnalité juridique n’est pas le statut moral : les sociétés sont des personnes juridiques sans rien ressentir. En février 2017, le Parlement européen a demandé à la Commission d’examiner si les robots pourraient à terme se voir attribuer un statut juridique propre, afin que les robots autonomes les plus sophistiqués puissent être traités comme des « personnes électroniques » responsables des dommages qu’ils causent. En 2018, plus de 150 experts en robotique, en IA, en droit et en éthique ont objecté dans une lettre ouverte : un tel statut reposerait sur une surestimation de ce que les robots actuels peuvent faire, et aucun des modèles juridiques disponibles – personne physique, personne morale, fiducie – ne conviendrait. Un groupe d’experts de la Commission a conclu en 2019 que les systèmes autonomes n’ont pas besoin de personnalité juridique ; le règlement sur l’IA de 2024 réglemente les systèmes d’IA selon leur niveau de risque et impose des obligations à leurs fournisseurs et à leurs déployeurs – il ne donne aux systèmes eux-mêmes aucun statut juridique.