En compagnie des robots

De
Publié par

Tentons une expérience de pensée. Imaginons un monde où des robots nous tiendraient compagnie. Des machines aux traits humains, tour à tour souriantes et geignardes, qui nous accompagneraient au quotidien. Nous leur serions aussi attachés que nous le sommes à nos animaux domestiques. En vérité, ce monde est déjà en partie le nôtre. Ces robots d'un nouveau genre sont déjà dans les maisons de retraite, dans les écoles. Ils génèrent un attachement très puissant. Comment un tel lien peut-il se nouer ? Que dit-il de nous ? Quels risques prenons-nous en faisant confiance à ces logiciels incarnés, potentiellement espions ? Faut-il, pour se protéger d'eux, leur octroyer un statut juridique spécifique ?


Publié le : jeudi 7 avril 2016
Lecture(s) : 5
Licence : Tous droits réservés
EAN13 : 9791094841167
Nombre de pages : 128
Voir plus Voir moins
Cette publication est uniquement disponible à l'achat

 

 

ISBN : 979-10-94841-16-7

© Premier Parallèle, 2016

À l’exception de

© Kate Darling, 2012, pour « Extending Legal Protection to Social Robots »
© Premier Parallèle, 2016 pour la traduction française.

© Carolyn Alcott pour The Robot and the Baby
© Premier Parallèle, 2016 pour la traduction française.

Alain Bensoussan
Yannis Constantinidès
Kate Darling
Jean-Gabriel Ganascia
Olivier Tesquet

En compagnie des robots

 

 

image

 

 

La collection « Gaîté lyrique » des éditions Premier Parallèle a pour objet de questionner les nouvelles frontières technoscientifiques.

Chaque livre est issu d’un débat organisé autour d’un article de recherche proposant un point de vue fort sur un sujet émergent. Le livre reproduit l’article en question, ainsi que la retranscription, corrigée et augmentée, des échanges.

Nous avons souhaité, ici, inclure en sus la nouvelle de John McCarthy, L'Histoire du robot et du bébé, qui illustre à la perfection les thèmes abordés dans les deux premières parties de cet ouvrage.

 

 

Les auteurs

ALAIN BENSOUSSAN est avocat à la cour d’appel de Paris, spécialiste en droit des technologies avancées, et auteur du livre Droit des robots (avec Jérémy Bensoussan, Larcier, 2015).

YANNIS CONSTANTINIDÈS est agrégé et docteur en philosophie, professeur d’éthique médicale à l’Espace éthique de la région Île-de-France. On lui doit Le Nouveau culte du corps (François Bourin, 2013), qui traite notamment de notre perception du corps à l’heure de l’hybridation.

KATE DARLING est chercheuse au Medial Lab du Massachusetts Institute of Technology (MIT). Elle étudie les interactions hommes-robots. « Extending Legal Protection to Social Robots », écrit pour la conférence « We Robot » de l'université de Miami, en 2012, a été publié dans Robot Law (éd. R. Calo, A. M. Froomkin, I. Kerr), Edward Elgar, 2016.

JEAN-GABRIEL GANASCIA est professeur de sciences informatiques à l’université Pierre-et-Marie-Curie (Paris-VI), chercheur au Laboratoire d’informatique de l’université Paris-VI, membre du COMETS (Comité d’éthique du CNRS). Il a participé au rapport du CERNA (Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistène), dont il est membre, sur l'éthique de la recherche en robotique. Il est notamment l’auteur de L’Âme Machine (Seuil, 1999), 2001, L’Odyssée de l’esprit (Flammarion, 1999), Idées reçues sur l’intelligence artificielle (Le Cavalier Bleu, 2007), et Voir et pouvoir, qui nous surveille ? (Le Pommier, 2012).

JOHN MCCARTHY (1927-2001) est l’un des pères de l’intelligence artificielle. The Robot and the Baby, écrit en 2001, illustre ce à quoi, selon lui, « les robots domestiques devraient ressembler ».

OLIVIER TESQUET est journaliste à Télérama, en charge des cultures numériques.

 

 

« Chère Mademoiselle, les robots ne sont pas des hommes.
Du point de vue mécanique, ils sont plus parfaits que nous,
ils ont une étonnante intelligence rationnelle, mais ils n’ont pas
d’âme. Vous voyez, Mademoiselle, le produit de Rossum
est techniquement supérieur au produit de la nature.»

Karel Capek, R.U.R.

« Si un homme a le droit de donner à un robot n’importe quel ordre
qui ne porte pas atteinte à un être humain, il devrait avoir la
décence
de ne jamais donner à un robot un ordre qui porte atteinte à
un robot, à moins que la sécurité humaine ne l’exige. Un grand
pouvoir donne
de grandes responsabilités, et si les robots disposent des Trois Lois
pour protéger les hommes, est-ce trop demander que les hommes
disposent d’une loi pour protéger les robots ? »

Isaac Asimov, L’Homme bicentenaire

INTRODUCTION

À la mort de son grand-père, Wareheim hérite d’un robot-phoque. Devant cette chose idiote et infantilisante que l’on donne aux vieilles personnes pour conjurer la solitude, il a un premier mouvement d’agacement. Mais voici que, quelques jours plus tard, à la faveur d’un gémissement, il sort la bête mécanique de son étui et la prend dans ses bras. Trop tard, le mal est fait. Pris au piège, il devient aussi gâteux que l’était son grand-père. Au point de souhaiter bientôt se débarrasser de la machine, encombré par la puissance de ses propres sentiments. « Goodbye, friend », lui lance-t-il, attendri, en la mettant finalement dans les bras d’une autre future victime. Avant de s’enfuir loin de la tentation.

La scène se passe dans la série américaine Master of None. Mais Paro existe bel et bien. Il est utilisé, en France, dans de nombreuses maisons de retraite, en tant que robot thérapeutique. Vos parents, vos grands-parents le connaissent peut-être déjà. Vous-même aurez peut-être affaire à lui, un jour prochain.

« Salut, l’ami », lance donc Wareheim, la larme à l’œil. Et comment ne pas se prendre d’affection pour cette grosse peluche soyeuse qui geint quand on la brusque, ronronne sous les caresses, et lève ses grands yeux noirs vers notre visage quand nous nous adressons à elle ? En compagnie des robots propose de penser ce lien étrange et singulier que nous tissons avec ces machines d’un nouveau genre.

Les robots ne se contentent plus, en effet, de faire le café et de hacher le persil. Ils nous tiennent désormais compagnie. Dans les maisons de retraite, mais aussi dans les écoles et bientôt sous nos toits, où ils « lisent » des histoires à nos enfants. Revêtus de fourrure artificielle, perchés sur des roulettes ou surmontés d’une tablette en guise de visage, ils ne sont désormais plus seulement conçus pour nous soulager de tâches pénibles ou ennuyeuses, mais pour nous solliciter et nous impliquer émotionnellement.

« Le premier robot qui relie, protège et interagit avec chaque membre de la famille », « toujours là pour les choses importantes », Buddy, nouveau venu sur le marché, « fait partie de votre vie quotidienne. Il est votre assistant personnel. Ou simplement votre compagnon amical »1. Il est « mon nouvel ami », se réjouit une petite fille dans le spot publicitaire qui lui est consacré. Quant à Nao, « il n’a cessé, depuis sa conception en 2006, d’évoluer pour vous être agréable, vous distraire, vous comprendre et vous aimer2. » Pepper, le « petit frère » de Nao dans la gamme d’Aldebaran Robotics, s’apprêterait de son côté à devenir « un membre de la famille ». « Il va changer notre manière de vivre, de penser et de travailler, s’enthousiasmait Bruno Maisonnier, fondateur d’Aldebaran, en 2015. Souvenez-vous des premiers téléphones portables, lourds, grands, et regardez ce qu’ils sont devenus. La même histoire se répète en robotique. Le futur commence3. »

Le futur commence – certes. Pour l’instant, cependant, aucun Real Human à l’horizon, mais plutôt, comme en témoignent les difficultés éprouvées par Alain Bensoussan lors de ses interactions avec Nao (voir p. 21), des machines dotées d’une intelligence assez rudimentaire et d’un « corps » gauche. Pourtant, Nao, Pepper, Buddy et Milo sont des promesses d’eldorado. Les start-up spécialisées dans la robotique de service fleurissent, rêvant peut-être de devenir l’équivalent de US Robots, la multinationale qui règne dans l’œuvre d’Isaac Asimov. On leur promet en tout cas une croissance vertigineuse4.

Cette présence de compagnons d’un nouveau genre réjouit au-delà des investisseurs : les robots thérapeutiques, tel Paro, ne parviennent-ils pas à réduire l’anxiété des personnes âgées, leur permettant ainsi d’éviter l’usage de médicaments ? Ne nous délestent-ils pas du poids de tâches quotidiennes pénibles ? Ne sont-ils pas, simplement, amusants ? Mais cette irruption de ces étranges doubles inquiète tout autant. Parmi les risques que nous redoutons, trois, de natures très différentes, sont débattus dans ce volume. Celui, d’abord, mis au jour par Kate Darling, d’un trouble potentiel à l’ordre social : si nous acceptons de vivre avec des machines pour lesquelles nous ressentons de l’affection, de la pitié, de la colère, si nous interagissons avec elles comme nous interagissons avec d’autres êtres humains ou avec nos animaux, comment préserver les règles de la vie en société ? Comment apprendre à un enfant qu’il peut frapper son jouet, mais pas son frère ? Celui, ensuite, philosophique et anthropologique, d’une humanisation des robots qui annoncerait, en miroir, une robotisation de l’espèce humaine. Enfin, dernière inquiétude, la protection de notre vie privée. Derrière un robot, aussi autonome qu’il paraisse, se trouve toujours un homme. Si les sourires de ces petites machines nous encouragent à baisser la garde, quitte à leur livrer nos secrets sur un plateau, que deviennent ces données ? Qui en fait quoi ? Ce sont de potentiels espions, armés de caméras et de micros, que nous invitons à partager notre intimité.

Qu’est-ce qui distingue l’homme du robot ? La question, qui court depuis le mythe du Golem jusqu’aux purs esprits algorithmiques prédits par la théorie de la singularité technologique (voir p. 57), en passant par la figure de l’automate, a été auscultée par la philosophie et par la science-fiction. Les robots, force de travail « sans âme », sont-ils supérieurs aux hommes ? nous demandait Karel Capek en 1920, dans R.U.R. Les androïdes avec des souvenirs sont-ils humains ? s’interrogeait Philip K.Dick en 1968 dans Les Androïdes rêvent-ils de moutons électriques ? Les sentiments peuvent-ils être algorithmiques ? susurrait, en 2014, la voix de Scarlett Johansson dans Her. « Bonjour, comment vas-tu ? » nous demandent aujourd’hui, plus modestement, Nao, Buddy et autre Milo. Mais cette fois, cela ne se passe ni dans un livre, ni sur un écran, mais sur la terre ferme – et nous leur répondons poliment : « Bien, et toi ? »

Soyez le premier à déposer un commentaire !

17/1000 caractères maximum.

Diffusez cette publication

Vous aimerez aussi

Jane et le Boxeur Offensé

de les-editions-du-zenith-ltee

« La rencontre de deux âmes »

de le-nouvel-observateur