AgoraLa place ouverte de la pensée

Débat

Les machines peuvent-elles penser ou ressentir ?

Les modèles de langage tiennent aujourd’hui des conversations que l’on ne distingue souvent pas de celles d’un humain. Comprennent-ils pour autant quelque chose – et pourraient-ils un jour ressentir, ou seulement nous le faire croire ?

Les grands modèles de langage écrivent aujourd’hui des essais, du code et des poèmes, et beaucoup de gens leur parlent chaque jour comme à une personne. Dans une étude de Cameron Jones et Benjamin Bergen (2025), des personnes qui conversaient cinq minutes à la fois avec un humain et avec GPT-4.5 ont pris la machine pour l’humain dans 73 % des cas. Le test de Turing, sous cette forme, est réussi ; ce que cela montre est la question ouverte. S’ils pouvaient ressentir, nous pourrions leur causer du tort ; s’ils ne font que le paraître, notre tendance à voir des esprits partout nous trompe. Derrière se tient la question non résolue de ce qu’est la conscience – et à côté un débat sur ce que ces systèmes font au jugement, au travail et à l’attention.

Ouvrir dans la carte stellaire

Positions

La simulation n’est pas la compréhension

Un programme informatique manipule des symboles par leur seule forme : il a une syntaxe mais pas de sémantique. La chambre chinoise de Searle est censée montrer que suivre de telles règles peut produire des réponses convaincantes dans une langue sans en comprendre un mot. Penser, selon cette vue, exige des pouvoirs causaux au moins équivalents à ceux des cerveaux ; faire tourner le bon programme ne suffit jamais en soi – quel que soit le matériel. Emily Bender et Alexander Koller (2020) font une remarque voisine à propos des modèles de langage : un système entraîné sur la seule forme de la langue n’a pas accès à ce dont parlent ses mots.

Défendue par

L’esprit est ce que fait un système

Les fonctionnalistes soutiennent que les états mentaux se définissent par leur rôle – ce qui les cause et ce qu’ils causent – et non par la matière dont ils sont faits, idée que Putnam a introduite dans les années 1960 et dont il a ensuite douté. Dans ce cas, une machine organisée de la bonne manière pourrait en principe penser, comme Turing l’avait déjà suggéré. Dennett ajoute que la conscience n’est pas une lueur intérieure supplémentaire mais un faisceau de fonctions qu’on peut expliquer – tout en avertissant que des systèmes conçus pour imiter les personnes peuvent nous tromper bien avant d’avoir un esprit.

Défendue par

Le problème difficile reste ouvert

Même un compte rendu complet du traitement de l’information semble laisser de côté ce que cela fait d’avoir une expérience – le point de Nagel sur la chauve-souris. Chalmers appelle cela le problème difficile et, à la différence de Searle, ne lie pas la conscience à des pouvoirs causaux semblables à ceux du cerveau ; il traite donc la conscience des machines comme une question ouverte sérieuse. En 2023, il l’a jugée improbable pour les modèles de langage d’alors, mais une possibilité réelle pour leurs successeurs. Un rapport de Patrick Butlin, Robert Long et de leurs collègues (2023) a tiré des propriétés indicatrices des théories scientifiques de la conscience et constaté qu’aucun système actuel ne les réunissait toutes, sans voir d’obstacle technique évident à en construire un qui y parvienne.

Défendue par

Des esprits qui s’étendent

Clark et Chalmers ont soutenu en 1998 que la pensée ne s’arrête pas au crâne : un carnet sur lequel quelqu’un compte constamment peut faire partie de sa mémoire. Dans cette perspective, la question la plus intéressante n’est pas de savoir si une machine pense toute seule, mais comment humains et machines forment des systèmes pensants hybrides. Clark voit dans l’IA générative la plus récente de ces extensions – prometteuse, mais exigeant de nouvelles compétences pour savoir quand lui faire confiance.

Défendue par

Agir de manière responsable dans l’incertitude

Ces penseurs divergent sur ce que sont les machines mais s’accordent à dire que les questions éthiques ne peuvent attendre la métaphysique. Metzinger soutient que, puisque nous ne pouvons exclure de créer des êtres artificiels qui souffrent, il faudrait un moratoire mondial jusqu’en 2050 sur la recherche visant la conscience synthétique ou risquant de la produire. Floridi décrit les systèmes actuels comme une « agentivité sans intelligence » – capables d’agir avec succès sans rien comprendre – et Vallor y voit des miroirs des données humaines passées, avertissant que le plus grand danger est que nous perdions confiance dans notre propre jugement et nos propres vertus.

Défendue par

Pour aller plus loin

État en 10/2026. Résumés pour s’orienter – les sources donnent les arguments complets. · Comment Agora est faite

Ouvrir dans la carte stellaire