Rapport sur la création d’un comite d’éthique en Sciences et Technologies du Numérique

Dowek, Kirchner, Oudeyer, Guiraud, Lemetayer

Informations

• Publié par: ISN-numerique
• Publié le: 24 juin 2015
• Nombre de lectures: 8
• Langue: Français

Extrait

Rapportsurlacreation´ d’uncomite´ d’ethique´
en
SciencesetTechnologiesduNumerique´
Groupedereflexion´ surlacreation´ potentielled’uncomite´ d’ethique´ a` l’INRIA
GillesDowek DavidGuiraud ClaudeKirchner DanielLeMetay´ er
Pierre YvesOudeyer
Mai20092´ ´RESUME
Les Sciences et Technologies du Numerique´ sont au coeur de l’ev´ olution profonde et rapide de nos
societ´ es.´ Elles posent des questions fondamentales d’ethique´ que ce rapport analyse a` la demande du
PDGdel’INRIA.
Realis´ e´ apres` audition de personnalites´ ayant des responsabilites´ dans divers comites´ en lien avec
l’ethique´ ainsi que des chercheurs confrontes´ dans leur quotidien a` ces problematiques,´ ce rapport fait
une synthese` des questions relevant de l’ethique´ dans les disciplines des Sciences et Technologies du
Numerique,´ incluant l’informatique, les mathematiques,´ la robotique. Il prend en compte les situations
internationalesetcellesdesautresdisciplinesscientifiques.
Ilressortdecetteetude´ lanecessit´ e´ delamiseenplacerapided’uncomite´ d’ethique´ desscienceset
technologiesdunumerique´ a` l’INRIAetplusgen´ eralement´ enFrance.Cerapportenproposeledomaine
de competence,´ les fonctions, la composition, les moyens et les interactions avec les comites´ existants.
Il propose eg´ alement la creation´ a` l’INRIA d’une cellule de liaison avec les Comites´ de Protection des
Personnes.
34Tabledesmatieres`
1 Resum´ e´ desrecommandations 7
1.1 Objectifsdugroupeetmethode´ detravail . . . . . . . . . . . . . . . . . . . . . . . . . 7
´ ´1.2 Resumedesrecommandations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
´2 L’EthiqueenSciencesetTechnologiesduNumerique´ 9
´ ´2.1 Terminologie:ethique,deontologieetmorale . . . . . . . . . . . . . . . . . . . . . . . 9
2.2 Unpaysagedescomites´ concernes´ parl’ethique´ enFranceeta` l’etranger´ . . . . . . . . . 10
2.2.1 EnFrance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.2.2 Al’etranger´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.3 Exemplesdeproblemes` ethiques´ relatifsauxSciencesetTechnologiesduNumerique´ . . 15
2.3.1 Robotiqueandro¨ıde . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.3.2 Robotiqueautonomea` usagemilitaire . . . . . . . . . . . . . . . . . . . . . . . 15
2.3.3dere´education´ physiqueetsuppleance´ fonctionnelle . . . . . . . . . 15
2.3.4 Robotique sociale pour la therapeutique´ de l’autisme ou l’accompagnement so
cialdespersonnesagees´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3.5 Biometrie´ etinteractionaveclesservicesdepolice . . . . . . . . . . . . . . . . 16
2.3.6 Bioinformatiqueetdetection´ demaladiesgen´ etiques´ . . . . . . . . . . . . . . . 16
2.3.7 Reconnaissanced’emotions´ paranalysevisuelleetauditive . . . . . . . . . . . . 17
2.3.8 LeBioscanner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.9 Interfacescerveau ordinateur . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.10 Methodes´ algorithmiques de simulations d’explosions et interactions avec les
organismes/entreprisesdedefense´ . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.11 Biologiesynthetique,´ informatiqueetNBIC . . . . . . . . . . . . . . . . . . . . 18
2.3.12 Lalocalisationpair-a pair` . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.13 L’etude´ devirusinformatiques . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
´ ´2.3.14 Leslaboratoireshautesecuriteinformatique . . . . . . . . . . . . . . . . . . . . 19
2.3.15 Ledev´ eloppementd’outilsdeprofilage . . . . . . . . . . . . . . . . . . . . . . 19
2.3.16 Lagouvernanced’internet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.3.17 Lesprotocolesd’experimentation´ surpersonnesagees´ . . . . . . . . . . . . . . 19
2.3.18 Lesechanges´ internationauxdedonnees´ surl’humain . . . . . . . . . . . . . . . 19
2.3.19 Ethiquedelamemoire´ etdel’oubli . . . . . . . . . . . . . . . . . . . . . . . . 20
3 Elements´ desynthese` issusdesauditionsetdenosreflexions´ 21
3.1 Un comite´ d’ethique´ en Sciences et Technologies du Numerique´ : bonne ou mauvaise
idee´ ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2 Uncomite´ proprea` l’INRIAoupluslarge? . . . . . . . . . . . . . . . . . . . . . . . . 22
3.3 Quelsthemes` aborderdansuntelcomite´? . . . . . . . . . . . . . . . . . . . . . . . . . 22
3.4 Commentconstituercecomite´? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3.5 Modededesignation´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.6 Quelmodedefonctionnementadopter? . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.7 Commentetreˆ procheduquotidiendeschercheurs? . . . . . . . . . . . . . . . . . . . . 23
5´ ´ ´ ´4 Recommandationssurl’opportunitedecreeruncomited’ethiqueenSciencesetTechnolo
giesduNumerique´ 25
4.1 Domainesscientifiquesdecompetence´ . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.2 Entites´ decompetences´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.3 Avisducomite´ d’ethique´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.4 Rolesˆ ducomite´ d’´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.5 Composition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.6 Nominationetduree´ desmandats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
4.7 Saisines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
´4.8 Moyensducomite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
5 Recommandationssurlanecessit´ e´ decreer´ unecelluledeliaisonCPPa` l’INRIA 29
6 Remerciements 31
61
Resum´ e´ desrecommandations
...le scientifique a, pour moi, un triple roleˆ : d’abord un roleˆ de professionnel, etrˆ e un bon scientifique.
Ensuite, il est engage´ vis a vis` de la soci et´ e´ car il est paye´ par elle. Ainsi, j’utilise l’impotˆ des
contribuables pour, a` leur place, participer a` la grande aventure du savoir. Donc, deuxieme` roleˆ :
rendre compte. Troisieme` roleˆ , tres` important : compte tenu de ma specificit´ e´ professionnelle, je suis en
quelque sorte juche´ sur un point eminent´ d’ou` je peux voir les consequences´ nefastes,´ les dangers
eventuels. J’ai donc la responsabilite d’avertir la societe quand c’est necessaire. Enfin, il existe un´ ´ ´ ´ ´
quatrieme` roleˆ qui n’est pas propre au scientifique : je suis un citoyen et avec la societ´ e´ je participe
naturellement a` la discussion consistant a` connoter positivement ou negativement´ un risque ou une
action.
Vous voyez que la science n’a pas a` determiner´ de valeurs morales, mais le scientifique ne doit pas
pour autant se comporter de manier` e parfaitement immorale car il est aussi un citoyen.
AxelKahn:interviewa` “LaCroix”18/03/2002
1.1 Objectifsdugroupeetmethode´ detravail
Le dev´ eloppement fort de la recherche en sciences et technologies du numerique,´ incluant en
particulier l’informatique, la robotique et les mathematiques,´ et les implications de ces disciplines a` tous
les niveaux de la societ´ e,´ de la science et des technologies, a invite´ l’INRIA, Institut National de Re
chercheenInformatiqueet Automatique,a` aborderlesquestions d’ethique´ relativesa` larecherchedans
cesdomaines.
A la demande de Michel Cosnard PDG de l’INRIA, un groupe de refle´ xion constitue´ de Gilles
Dowek, David Guiraud, Claude Kirchner (president),´ Daniel Le Metayer´ et Pierre Yves Oudeyer
(secretaire)´ atravaille´ dejuina` decembre´ 2008avecpourobjectifsdecomprendre:
1. si nous devrions creer´ un comite´ d’ethique´ INRIA, ou STIC avec d’autres partenaires, ou encore
susciterlacreation´ d’une”sectionSTIC”dansuncomite´ existant;
2. quellepourraitetreˆ lacompositiond’untelcomite´;
3. quels sont les sujets qui relev` eraient d’un tel comite´ et ceux qui devraient plutotˆ etreˆ traites´ par
unecommissiondedeontologie´ ;
4. quellessontlespratiquesa` l’etranger´ ,enparticulierenEuropeetauxUSA.
7Pour avancer dans ce travail, nous avons auditionne´ des personnalites´ qui nous ont fait