La lecture en ligne est gratuite
Le téléchargement nécessite un accès à la bibliothèque YouScribe
Tout savoir sur nos offres
Télécharger Lire

Rapport sur la création d’un comite d’éthique en Sciences et Technologies du Numérique

De
31 pages
Rapportsurlacreation´ d’uncomite´ d’ethique´ en SciencesetTechnologiesduNumerique´ Groupedereflexion´ surlacreation´ potentielled’uncomite´ d’ethique´ a` l’INRIA GillesDowek DavidGuiraud ClaudeKirchner DanielLeMetay´ er Pierre YvesOudeyer Mai2009 2 ´ ´RESUME Les Sciences et Technologies du Numerique´ sont au coeur de l’ev´ olution profonde et rapide de nos societ´ es.´ Elles posent des questions fondamentales d’ethique´ que ce rapport analyse a` la demande du PDGdel’INRIA. Realis´ e´ apres` audition de personnalites´ ayant des responsabilites´ dans divers comites´ en lien avec l’ethique´ ainsi que des chercheurs confrontes´ dans leur quotidien a` ces problematiques,´ ce rapport fait une synthese` des questions relevant de l’ethique´ dans les disciplines des Sciences et Technologies du Numerique,´ incluant l’informatique, les mathematiques,´ la robotique. Il prend en compte les situations internationalesetcellesdesautresdisciplinesscientifiques. Ilressortdecetteetude´ lanecessit´ e´ delamiseenplacerapided’uncomite´ d’ethique´ desscienceset technologiesdunumerique´ a` l’INRIAetplusgen´ eralement´ enFrance.Cerapportenproposeledomaine de competence,´ les fonctions, la composition, les moyens et les interactions avec les comites´ existants. Il propose eg´ alement la creation´ a` l’INRIA d’une cellule de liaison avec les Comites´ de Protection des Personnes. 3 4 Tabledesmatieres` 1 Resum´ e´ desrecommandations 7 1.1 Objectifsdugroupeetmethode´ detravail . . . . . . . . . . . . . . .
Voir plus Voir moins

Rapportsurlacreation´ d’uncomite´ d’ethique´
en
SciencesetTechnologiesduNumerique´
Groupedereflexion´ surlacreation´ potentielled’uncomite´ d’ethique´ a` l’INRIA
GillesDowek DavidGuiraud ClaudeKirchner DanielLeMetay´ er
Pierre YvesOudeyer
Mai20092´ ´RESUME
Les Sciences et Technologies du Numerique´ sont au coeur de l’ev´ olution profonde et rapide de nos
societ´ es.´ Elles posent des questions fondamentales d’ethique´ que ce rapport analyse a` la demande du
PDGdel’INRIA.
Realis´ e´ apres` audition de personnalites´ ayant des responsabilites´ dans divers comites´ en lien avec
l’ethique´ ainsi que des chercheurs confrontes´ dans leur quotidien a` ces problematiques,´ ce rapport fait
une synthese` des questions relevant de l’ethique´ dans les disciplines des Sciences et Technologies du
Numerique,´ incluant l’informatique, les mathematiques,´ la robotique. Il prend en compte les situations
internationalesetcellesdesautresdisciplinesscientifiques.
Ilressortdecetteetude´ lanecessit´ e´ delamiseenplacerapided’uncomite´ d’ethique´ desscienceset
technologiesdunumerique´ a` l’INRIAetplusgen´ eralement´ enFrance.Cerapportenproposeledomaine
de competence,´ les fonctions, la composition, les moyens et les interactions avec les comites´ existants.
Il propose eg´ alement la creation´ a` l’INRIA d’une cellule de liaison avec les Comites´ de Protection des
Personnes.
34Tabledesmatieres`
1 Resum´ e´ desrecommandations 7
1.1 Objectifsdugroupeetmethode´ detravail . . . . . . . . . . . . . . . . . . . . . . . . . 7
´ ´1.2 Resumedesrecommandations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
´2 L’EthiqueenSciencesetTechnologiesduNumerique´ 9
´ ´2.1 Terminologie:ethique,deontologieetmorale . . . . . . . . . . . . . . . . . . . . . . . 9
2.2 Unpaysagedescomites´ concernes´ parl’ethique´ enFranceeta` l’etranger´ . . . . . . . . . 10
2.2.1 EnFrance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.2.2 Al’etranger´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.3 Exemplesdeproblemes` ethiques´ relatifsauxSciencesetTechnologiesduNumerique´ . . 15
2.3.1 Robotiqueandro¨ıde . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.3.2 Robotiqueautonomea` usagemilitaire . . . . . . . . . . . . . . . . . . . . . . . 15
2.3.3dere´education´ physiqueetsuppleance´ fonctionnelle . . . . . . . . . 15
2.3.4 Robotique sociale pour la therapeutique´ de l’autisme ou l’accompagnement so
cialdespersonnesagees´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3.5 Biometrie´ etinteractionaveclesservicesdepolice . . . . . . . . . . . . . . . . 16
2.3.6 Bioinformatiqueetdetection´ demaladiesgen´ etiques´ . . . . . . . . . . . . . . . 16
2.3.7 Reconnaissanced’emotions´ paranalysevisuelleetauditive . . . . . . . . . . . . 17
2.3.8 LeBioscanner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.9 Interfacescerveau ordinateur . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.10 Methodes´ algorithmiques de simulations d’explosions et interactions avec les
organismes/entreprisesdedefense´ . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.11 Biologiesynthetique,´ informatiqueetNBIC . . . . . . . . . . . . . . . . . . . . 18
2.3.12 Lalocalisationpair-a pair` . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.13 L’etude´ devirusinformatiques . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
´ ´2.3.14 Leslaboratoireshautesecuriteinformatique . . . . . . . . . . . . . . . . . . . . 19
2.3.15 Ledev´ eloppementd’outilsdeprofilage . . . . . . . . . . . . . . . . . . . . . . 19
2.3.16 Lagouvernanced’internet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.3.17 Lesprotocolesd’experimentation´ surpersonnesagees´ . . . . . . . . . . . . . . 19
2.3.18 Lesechanges´ internationauxdedonnees´ surl’humain . . . . . . . . . . . . . . . 19
2.3.19 Ethiquedelamemoire´ etdel’oubli . . . . . . . . . . . . . . . . . . . . . . . . 20
3 Elements´ desynthese` issusdesauditionsetdenosreflexions´ 21
3.1 Un comite´ d’ethique´ en Sciences et Technologies du Numerique´ : bonne ou mauvaise
idee´ ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2 Uncomite´ proprea` l’INRIAoupluslarge? . . . . . . . . . . . . . . . . . . . . . . . . 22
3.3 Quelsthemes` aborderdansuntelcomite´? . . . . . . . . . . . . . . . . . . . . . . . . . 22
3.4 Commentconstituercecomite´? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3.5 Modededesignation´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.6 Quelmodedefonctionnementadopter? . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.7 Commentetreˆ procheduquotidiendeschercheurs? . . . . . . . . . . . . . . . . . . . . 23
5´ ´ ´ ´4 Recommandationssurl’opportunitedecreeruncomited’ethiqueenSciencesetTechnolo
giesduNumerique´ 25
4.1 Domainesscientifiquesdecompetence´ . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.2 Entites´ decompetences´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.3 Avisducomite´ d’ethique´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.4 Rolesˆ ducomite´ d’´ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.5 Composition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.6 Nominationetduree´ desmandats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
4.7 Saisines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
´4.8 Moyensducomite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
5 Recommandationssurlanecessit´ e´ decreer´ unecelluledeliaisonCPPa` l’INRIA 29
6 Remerciements 31
61
Resum´ e´ desrecommandations
...le scientifique a, pour moi, un triple roleˆ : d’abord un roleˆ de professionnel, etrˆ e un bon scientifique.
Ensuite, il est engage´ vis a vis` de la soci et´ e´ car il est paye´ par elle. Ainsi, j’utilise l’impotˆ des
contribuables pour, a` leur place, participer a` la grande aventure du savoir. Donc, deuxieme` roleˆ :
rendre compte. Troisieme` roleˆ , tres` important : compte tenu de ma specificit´ e´ professionnelle, je suis en
quelque sorte juche´ sur un point eminent´ d’ou` je peux voir les consequences´ nefastes,´ les dangers
eventuels. J’ai donc la responsabilite d’avertir la societe quand c’est necessaire. Enfin, il existe un´ ´ ´ ´ ´
quatrieme` roleˆ qui n’est pas propre au scientifique : je suis un citoyen et avec la societ´ e´ je participe
naturellement a` la discussion consistant a` connoter positivement ou negativement´ un risque ou une
action.
Vous voyez que la science n’a pas a` determiner´ de valeurs morales, mais le scientifique ne doit pas
pour autant se comporter de manier` e parfaitement immorale car il est aussi un citoyen.
AxelKahn:interviewa` “LaCroix”18/03/2002
1.1 Objectifsdugroupeetmethode´ detravail
Le dev´ eloppement fort de la recherche en sciences et technologies du numerique,´ incluant en
particulier l’informatique, la robotique et les mathematiques,´ et les implications de ces disciplines a` tous
les niveaux de la societ´ e,´ de la science et des technologies, a invite´ l’INRIA, Institut National de Re
chercheenInformatiqueet Automatique,a` aborderlesquestions d’ethique´ relativesa` larecherchedans
cesdomaines.
A la demande de Michel Cosnard PDG de l’INRIA, un groupe de refle´ xion constitue´ de Gilles
Dowek, David Guiraud, Claude Kirchner (president),´ Daniel Le Metayer´ et Pierre Yves Oudeyer
(secretaire)´ atravaille´ dejuina` decembre´ 2008avecpourobjectifsdecomprendre:
1. si nous devrions creer´ un comite´ d’ethique´ INRIA, ou STIC avec d’autres partenaires, ou encore
susciterlacreation´ d’une”sectionSTIC”dansuncomite´ existant;
2. quellepourraitetreˆ lacompositiond’untelcomite´;
3. quels sont les sujets qui relev` eraient d’un tel comite´ et ceux qui devraient plutotˆ etreˆ traites´ par
unecommissiondedeontologie´ ;
4. quellessontlespratiquesa` l’etranger´ ,enparticulierenEuropeetauxUSA.
7Pour avancer dans ce travail, nous avons auditionne´ des personnalites´ qui nous ont fait partager leurs
refle´ xionsetleursexperiences´ danscedomaine.Avecl’accorddecespersonnalites,´ notreresum´ e´ deces
auditionsfigureenannexe.
Nous avons eg´ alement mis en place un wiki https://wiki.bordeaux.inria.fr/
ethique nous permettant de structurer notre refle´ xion et de collecter des documents auquels les lec
teursdecerapportpourrontseref´ erer´ .
Il est remarquable qu’en avancant dans nos auditions et l’elaboration´ des el´ ements´ de notre rapport
nousayonssignificativementprogresse´ danslaconvictiondel’importancedelacreation´ d’untelcomite.´
´ ´1.2 Resumedesrecommandations
Ceresum´ e´ denosrecommandationss’appuiesurlerestedurapportquiexplicitetantlecontexteque
les choix que nous proposons. Soulignons que les thematiques´ visees´ sont design´ ees´ dans ce rapport de
maniere` gen´ erique´ sous la forme «Sciences et Technologies du Numerique´ »(STN). Elles concernent
tant gen´ eriquement´ les STIC (sciences et technologies de l’information et de la communication) que
l’informatique,larobotique,l’automatiqueoulesmathematiques.´
1. Les avancees´ scientifiques et technologiques en Sciences et Technologies du Numerique´ ainsi
´ ´ ´que leurs applications et leurs usages demandent et justifient la creation d’un comite d’ethique
specifique´ a` cesdisciplines.
2. Unefoisconstitue,´ cecomite´ avocationa` etreˆ independant,´ consultatifetsesavisrenduspublics.
3. L’INRIAdevraetreˆ fondateuretmoteurdanssamiseenoeuvreetsonfonctionnement.
´ ˆ ` ` ´ ´4. Untelcomitepourraetrecommunaplusieursvoireatouteslesentitesdeveloppantdesrecherches
danscesdisciplines.
5. La mise en place d’un tel comite´ devra etreˆ operationnelle´ rapidement tant pour repondre´ aux
attentes fortes des chercheurs et de la societ´ e´ que pour, entre autres, permettre aux chercheurs de
sepositionnersurlesquestionsd’ethique´ danslesconventionsetcontratsEuropeens.´
6. Nous recommandons qu’il soit constitue´ de 24 personnes nommees´ pour 4 ans renouvelables une
fois.Ilestimportantquelespersonnalites´ impliquees´ danscecomite´ soientpourmoitie´ desscien
tifiquesdudomaineetpourl’autredesexpertsd’autresdisciplines(parexempletroisphilosophes
specialistes´ d’ethique,´ deux juristes, deux sociologues, deux representants´ du monde politique ou
delasociet´ e´ civileettroisrepresentants´ d’autresstructuresliees´ a` l’ethique).´
7. Le comite´ devra avoir les moyens de mener une refle´ xion de fond sur l’ethique´ des recherches
menees´ dans les disciplines concernees´ ainsi que d’aider a` comprendre les consequences´ poten
tiellesdesresultats´ scientifiques,deleursapplicationsetdesconsequences´ desusagesetdestech
nologiesinduites.
8. Le comite´ pourra initialiser des actions de recherche, des groupes de travail et des missions lui
permettantderemplirsesmissions.
9. Souslaresponsabilite´ desonpresident,´ lecomite´ auralesmoyenshumains,materiels´ etfinanciers
´luipermettantdemenersesmissionsavecefficacite.
82
´L’EthiqueenSciencesetTechnologiesduNumerique´
2.1 Terminologie:ethique,´ deontologie´ etmorale
Les notions de morale, d’ethique´ , de deontolo´ gie et de droit ont en commun de faire ref´ er´ ence au
bienetaumaletdeservira` l’edification´ deregles` deconduite,denormes.Nousdonnonsicipoursituer
la question des definitions´ synthetiques´ de ces notions.
Les opinions varient quant a` la caracterisation´ precise´ des notions de morale et d’ethique.´ Pour
certains, le terme d’ethique´ remplace tout simplement dans le langage courant celui de «morale», juge´
vieillot ou connote´ pejorati´ vement (selon Pierre Verdier «on accepte mal qu’on nous fasse la morale;
on comprend mieux qu’on nous rappelle des exigences ethiques´ »). La plupart des auteurs s’entendent
cependant pour associer l’ethique´ a` la notion de principes : l’ethique,´ en tant que science de la mo
rale, s’attache a` en definir´ les fondements, a` nourrir une refle´ xion sur les principes qui permettent de
determiner´ etdejustifierdesregles` deconduite(paroppositiona` desregles` propresa` uneculturedonnee´
´ `etquis’imposeraientdel’exterieural’individu).
La deontologie´ est un ensemble de regles,` s’inspirant notamment de refle´ xions ethiques,´ dont se
dote une profession pour regir´ son fonctionnement au regard de sa mission. Les codes de deontologie´
´ ´regissent aussi bien les activites des membres de la profession que leurs rapports entre eux et avec
l’exterieur´ (clients, patients, administres,´ public, sponsors, etc.). Il existe un lien entre deontologie´ et
droit dans le sens ou` certains codes de deontologie´ sont integr´ es´ dans la loi (codes des architectes,
experts comptables, auxiliaires m edicaux,´ etc.) ou ref´ erenc´ es´ dans la loi (travailleurs sociaux, sport,
etc.). Dans d’autres cas, le droit positif prev´ oit simplement une procedure´ de production et d’approba
tion de tels codes (notaires, huissiers, etc.). Notons eg´ alement qu’une autorite´ independante´ comme la
CNILpeutaussireconnaˆıtreofficiellementdescodesdedeontologie´ (ausensdeleurconformite´ a` laloi
«Informatiqueetlibertes´ »).C’estactuellementlecasdecodesdedeontologie´ emanant´ d’organisations
professionnellesdemarketing.Danscertainscas,lescodesdedeontologie´ peuventdoncetreˆ vuscomme
desmodesparticuliersd’elaboration´ etd’applicationdelaloi(demaniere` ascendanteetenquelquesorte
decentralis´ ee).´
Pourcequiconcerneledomainedelarecherche,onpourraconsiderer´ quelesquestionsquirelev` ent
de l’activite´ des chercheurs et de leurs rapports (dans ces activites)´ avec le public, les industriels ou
les organismes d’etat´ relev` ent de la deontologie.´ On peut classer dans cette categorie´ notamment les
regles` en matiere` d’experimentation´ (manipulation de virus, experimentation´ sur des humains, etc.), de
publication scientifique (integrit´ e´ scientifique, non plagiat, etc.), d’ev´ aluation et de financement de la
9recherche (conflits d’inter´ ets,ˆ independance´ vis a vis` des sources de financement), de gouvernance de
la(choixdesdirectionsscientifiques).Parcontre,touteslesquestionsliees´ auxconsequences´
potentielles des resultats´ de recherche sur la societ´ e´ relev` ent de l’ethique´ stricto sensu (atteintes a` la vie
privee,´ a`ladignite´despersonnes,applicationsa`desfinsmilitaires,etc.).Lafrontiere` entredeontologie´ et
ethique´ n’estpasabsoluecependant,puisquedesquestionsliees´ a` l’activite´ memeˆ derecherchepeuvent
avoir des repercussions´ plus gen´ erales´ : les choix en matiere` de droits de propriet´ e´ sur les resultats´ de
recherche(etdeleurbrevetabilite)´ fournissentunexempledesujetrelevantautantdeladeontologie´ que
del’ethique.´
2.2 Un paysage des comites´ concernes´ par l’ethique´ en France et a`
l’etranger´
De nombreuses instances traitent des questions d’ethiques´ en France, en Europe et dans le monde.
Nous donnons ici quelques el´ ements´ de contexte, de roleˆ et de constitution de ces instances pour nous
permettre de situer ensuite nos propositions.
2.2.1 EnFrance
LeCCNE
´«LeComite´ ConsultatifNationald’Ethiquepourlessciencesdelavieetdelasante´ apourmission
de donner des avis sur les problemes` ethiques´ et les questions de societ´ e´ souleves´ par les progres` de la
connaissancedanslesdomainesdelabiologie,delamedecine´ etdelasante.´ »(loidu6aoutˆ 2004).
` ´LapremieremissionduComiteestdeproduiredesavisetrapportssurlesquestionsdontilestsaisi.
Saliberte´ etsonindependance´ donnenta` sesrecommandationsunereelle´ legitimit´ e.´ LeCCNEs’attache
a` livrerauxauteursdelasaisine,unerefle´ xionapprofondiepermettanta` chacundeseforgeruneopinion.
TouteslesmissionsduCCNEsontdesormais´ inscritesdanslaloidebioethique´ du6aoutˆ 2004(loi2004
800) qui lui confere` le statut d’autorite´ independante.´ Sa composition, 40 membres dont le president´
nomme´ par le president´ de la republique,´ ainsi que les details´ de son fonctionnement sont disponibles
surlesitehttp://www.ccne ethique.fr .Ilestinteressant´ denoterqueleCCNEpeutetreˆ saisi
par un etablissement´ d’enseignement superieur´ (grandes ecoles,´ universites)´ ou un etablissement´ public
comme les EPST. Il est certain que des questions aussi gen´ erales´ que l’impact des nanotechnologies
sur le vivant ou la biometrie´ (deux exemples de sujets traites)´ recouvre potentiellement le travail que
pourrait accomplir un comite´ d’ethique´ plus specifique´ aux Sciences et Technologies du Numerique.´ Il
semblenaturelquecescomites´ travaillentdeconcertsurcertainssujets.
LeCOMETS
Le COMETS (Comite´ d’ethique´ du CNRS) http://www.cnrs.fr/fr/organisme/
ethique/comets/index.htm comporte 13 membres nommes´ en Conseil d’administration. Sa
composition reflete` une volonte´ d’ouverture a` une variet´ e´ de sensibilites´ et de points de vue et le sou
hait d’une representation´ equilibr´ ee´ des sciences humaines et des sciences «dures». Plusieurs de ses
membressontexternesauCNRS.Ilnecomportepasactuellementderepresentants´ dumondeindustriel
nidelasociet´ e´ civile,maisilnes’agitpasd’unchoixdelib´ er´ e.´ Parailleurs,s’adjoignenta` cegroupeun
certain nombre d’invites´ permanents : un representant´ du Cope´ (Comite´ operationnel´ pour l’ethique´ en
sciencesdelavie),unrepresentant´ duCCNE(Comite´ consultatifnationald’ethique´ pourlessciencesde
la vie et la sante),´ le President´ du CNRS, le President´ du Conseil scientifique du CNRS et le Mediateur´
du CNRS. Le COMETS peut etreˆ saisi par le Conseil d’administration, le Conseil scientifique et le
Directeurgen´ eral´ duCNRS.Ilaenoutrelafaculte´ d’autosaisine.
10

Un pour Un
Permettre à tous d'accéder à la lecture
Pour chaque accès à la bibliothèque, YouScribe donne un accès à une personne dans le besoin