Alexeï Grinbaum, Les Robots et le mal, Paris, Desclée de Brouwer, 2019, 216 p., 19,90 €.
Physicien et philosophe, l’auteur est professeur d’éthique des sciences et chercheur au laboratoire de philosophie des sciences (LARSIM) du CEA-Saclay.
Alexei Grinbaum nous interpelle sur le lien entre l’intelligence artificielle et la culpabilité morale. La machine doit-elle endosser une partie de la responsabilité ? « Comment faire pour que les concepts du bien et du mal restent purement humains, et que les machines ne se substituent pas à nous ? » (p. 15)
Le fondement de sa méthode d’analyse est l’homologie, qu’il définit comme « une ressemblance qui ne présuppose pas, et même réfute, toute identité ou identification entre les objets ou les phénomènes comparés. » (p. 35) L’auteur vise à établir une homologie, fondée sur un motif fonctionnel, entre technologies numériques et mythes, en leurs quatre sens : littéral, symbolique, rationnel et théologique. Il veut « tirer des enseignements éthiques des motifs atemporels et invariants » (p. 36) L’une de ses homologies met en lien mystères antiques et technologies numériques. Leurs concepteurs seraient des initiés dont le secret est qu’eux-mêmes ne possèdent pas toute la connaissance… Ils chercheraient donc à obtenir une indistinction fonctionnelle de laquelle naissent des problèmes éthiques.
Dans son deuxième chapitre, l’auteur constate que l’information est « asémantique » pour l’ordinateur. Il propose de conférer à l’objet informatique le statut spécial d’« individu numérique » (p. 75). Celui-ci est conçu pour l’information et donc aussi la délation, pas pour la vérité. Il n’a que des moyens programmés, finis, probables, corrélatifs pour distinguer vérité et mensonge. Dès lors comment lui demander de trancher dans un conflit insoluble ? Cela reviendrait à questionner la machine, le concepteur et l’utilisateur ; chacun risquerait d’être en cause et responsable ! C’est pourquoi le thème principal de l’auteur est que « recourir au hasard est la seule solution dès lors qu’un système informatique est impliqué dans un dilemme éthique. » (p. 22) Il s’agit de poser un geste méta-éthique : « affranchir l’intelligence artificielle de tout jugement éthique » (p. 101), par-delà le bien et le mal. De là, Alexei Grinbaum va déduire la valeur éthique du hasard (chapitre 4). Puisque notre conscience ne peut être pleinement éclairée, il nous faut un espace pour la confiance. Or le hasard, en abolissant le calcul – donc l’intention (cachée) du concepteur –, favorise la confiance.
En lui-même l’individu numérique ne partage pas de valeur éthique avec nous ; cela ne veut pas dire qu’il n’a pas de valeur éthique… ose l’auteur dans le dernier chapitre. Il pose ici une métaphysique de l’individu numérique : une métanumérique.
L’on sera intéressé par l’application subtile de l’homologie à des éléments de culture grecque ou biblique. Cette méthode permet de dégager des réflexions innovantes et convaincantes.
Ouvrage : https://www.editionsddb.fr/livre/fiche/les-robots-et-le-mal-9782220095721
Paru le 1er avril 2020 dans la Lettre n°139 du CEERE (Centre Européen d’Enseignement et de Recherche en Ethique).
Laisser un commentaire