Big Brother is driving you. Brèves réflexions d'un informaticien obtus sur la société à venir

Hugues Bersini

Description

2e édition, revue.

L’informatique seule est capable d’apporter les solutions qui s’imposent derechef à la complexification du monde et la multiplication des menaces écologiques, économiques et sociétales. La virtualisation de toute information, la multiplication des modes de connexion, la transformation de tout objet en un ordinateur rendent possible la prise en charge totalement automatisée de nos biens publics. Après-demain, des transports en commun impossibles à frauder optimiseront le trafic pour un coût écologique minimum, des senseurs intelligents s’assureront d’une consommation énergétique sobre, les contrats financiers et autres ne souffriront d’aucune défection possible et des algorithmes prédictifs préviendront toute activité criminelle. Face à l’urgence, nous accepterons de confier notre société aux mains d’un big brother « bienveillant ». L’interdit le deviendra vraiment et la privation remplacera la punition. Mais le souhaitons-nous vraiment ?

Hugues Bersini est professeur d’informatique à l’Université libre de Bruxelles et directeur du laboratoire d’intelligence artificielle de cette même université. Ses travaux de recherche couvrent l’intelligence artificielle, la bioinformatique, le génie logiciel, les systèmes complexes et les sciences cognitives.

Sujets

• Informatique
• Big Brother

Informations

• Publié par: Académie royale de Belgique
• Nombre de lectures: 7
• EAN13: 9782803106622
• Langue: Français

Extrait

BIG BROTHER IS DRIVING YOU

H UGUES B ERSINI

Big Brother is driving you

Brèves réflexions d’un informaticien obtus sur la société à venir

Académie royale de Belgique rue Ducale, 1 - 1000 Bruxelles, Belgique www.academieroyale.be

Informations concernant la version numérique ISBN : 978-2-8031-0662-2 © 2018, Académie royale de Belgique. 2e edition.

Collection L’Académie en poche Sous la responsabilité académique de Didier Viviers Volume 88

Diffusion Académie royale de Belgique www.academie-editions.be

Crédits Conception et réalisation : Laurent Hansen, Académie royale de Belgique

Couverture : Loredana Buscemi, Académie royale de Belgique

Publié en collaboration avec/avec le soutien de

C 1 HAPITRE Login : La supériorité du complexe

L E MONDE EST DEVENU BIEN TROP COMPLEXE POUR EN CONFIER LA SEULE GESTION À DES GOUVERNANTS EN  . L ’ , ’ CHAIR ET EN OS ES LOURDS NUAGES NOIRS CHARGÉS D ORAGE QUI NOUS MENACENT COMME L ÉCONOMIE MONDIALISÉEETLESCRISESQUIS ’ ENSUIVENTRÉGULIÈREMENT , L ’ EXPLOSIONDESINÉGALITÉS , LE  ’ , ’ , RÉCHAUFFEMENT CLIMATIQUE ET LA DÉGRADATION DE L ENVIRONNEMENT LA DÉTÉRIORATION DE L HABITAT LA  , ’ ’ TRANSITION ÉNERGÉTIQUE INÉLUCTABLE L AGRICULTURE QUI S INTENSIFIE EN TOUT SAUF EN BIENFAITS POUR LA , , SANTÉ LES FRACTURES COMMUNAUTAIRES ET LA FLAMBÉE DU TERRORISME EXIGENT UNE MEILLEURE  , COMPRÉHENSION ET INTERPRÉTATION DES PHÉNOMÈNES SUIVIES DE DÉLIBÉRATIONS APPROFONDIES POUR EN trouver les parades et les issues. D ESONCÔTÉ , L ’ INFORMATIQUE  — MEILLEURJOUEURD ’ ÉCHECS , MEILLEURJOUEURDEGO , CH ONAMPI DE 1 POKER , DUJEUTÉLÉVISÉ  « Q UESTIONSPOURUNCHAMPION , » CONDUCTEURIRRÉPROCHABLE , MÉDECIN , , INFAILLIBLE MEILLEUR PRÉVISIONNISTE DES SOUBRESAUTS ÉCONOMIQUES ET DES VARIATIONS CLIMATIQUES 2  , — , TRADUCTEUR LE PLUS SOLLICITÉ MEILLEUR DÉCIDEUR EST CAPABLE PAR SA BOULIMIE DE DONNÉES  ’ , MULTIPLES À TRÈS HAUTE FRÉQUENCE D ACQUISITION ET SON POUVOIR DE SIMULATION POUR EN FAIRE SENS ’ , . C D APPRÉHENDER CE MONDE SON ÉVOLUTION ET LES MEILLEURES FAÇONS DE LE REMETTRE SUR LES RAILS ETTE 3  ’ - - , , MÊME INFORMATIQUE QUE L ON MAGNIFIE CES JOURS CI DE SUPER INTELLIGENTE ET QUI DE SURCROÎT ’ ’ , S IMMISCE DANS TOUS LES RECOINS DE NOS EXISTENCES EST CAPABLE D EXPLORER À PARTIR DE CES , ’ , SIMULATIONS CES ÉTATS DES LIEUX D UNE PRÉCISION ENCORE JAMAIS ATTEINTE LES MANIÈRES LES PLUS  ’ ’ ’ EFFICACES D AFFRONTER L ENSEMBLE DE CES DIFFICULTÉS ET D EN DÉCOUVRIR LES REMÈDES LES PLUS . E , ’ APPROPRIÉS T SI ELLE PARVIENT À CELA C EST EN EXÉCUTANT À LA VITESSE DE LA LUMIÈRE DE MULTIPLES  : ALGORITHMES DONT LES FONCTIONS SONT NOMBREUSES ET VARIÉES PLANIFIER ET TESTER DES FUTURS ALTERNATIFS , RECUEILLIRDESMYRIADESDEDONNÉES , LESSTOCKERINTELLIGEMMENTPOURMIEUXLES , S ’ ENSERVIRENEFFETPOURLACONCEPTIONDEMODÈLESAUPOUVOIRPRÉDICTIF , EXPLOITERCES EXPLOITER MODÈLESJUSQU ’ ÀPLUSSOIFPOURTESTERÀPARTIRDECEUX - CILESOPTIONSPOSSIBLES , AJUSTER , OPTIMISER  , ’ CES DERNIÈRES ET ALLER JUSQU À LA PRISE DE CONTRÔLE DE NOS VIES ET LE TRACÉ DE NOS EXISTENCES VERS davantage d’harmonisation sociale dans un monde préservé et pacifié. N , , ’ , ’ - - OUS PARLERONS DANS CET ESSAI ESSENTIELLEMENT D ALGORITHMIQUE C EST À DIRE DU LANGAGE DE  , , PRÉDILECTION DES ORDINATEURS QUI SONT COMME CHACUN LE SAIT DES PENSEURS FROIDS ET FONCIÈREMENT , ’ . U RATIONNELS MAIS D UNE RATIONALITÉ HYPERTROPHIÉE ET SANS FAILLE N ALGORITHME EST UNE RECETTE SUIVIE  ’ : ’ , SANS DÉTOUR PAR L ORDINATEUR UNE SUCCESSION D OPÉRATIONS ARITHMÉTIQUES ET LOGIQUES PARFOIS  , , SUJETTES À DES ALTERNATIVES SELON LE RÉSULTAT COURANT DE CES OPÉRATIONS ET PLUS ENCORE CE QUI EN FAIT TOUTESAPUISSANCE , SUJETTESÀDESRÉPÉTITIONS . T OUTESLESFACETTESDEL ’ INTELLIGENCEARTIFICIELLE —  , , , , , , , VOIR ET SE MOUVOIR PARLER RAISONNER COMPRENDRE TRADUIRE JOUER AU GO COMME AU FOOTBALL FAIRE ŒUVREARTISTIQUE  — SELIMITENTÀCELA  : DEMULTIPLESALGORITHMES . C HOISIRSONPROCHAINCOUPÀ ’ , N IMPORTE QUEL JEU DE SOCIÉTÉ EST LE RÉSULTAT DANS NOS CERVEAUX COMME DANS LES PROGRAMMES , ’ . T , INFORMATIQUES D UNE DÉMARCHE ALGORITHMIQUE OUTE ARITHMÉTIQUE TOUTE DÉMARCHE DE PLANIFICATION , TOUTRAISONNEMENT , TOUTECONDUITEAUTOMATISÉEDEPROCÉDÉS , ESTLERÉSULTATD ’ UN . L ’ , ALGORITHME A COGNITION INFORMATIQUE SE RAMÈNE À CETTE SÉQUENCE RIGIDE D OPÉRATIONS QUE SOIT L ’ INFORMATICIENINSCRITDETOUTESPIÈCESDANSLESCIRCUITSDUPROCESSEUR , SOITL ’ ORDINATEURDÉCOUVRE  - , , ’ , , DE LUI MÊME PAR ESSAIS ET ERREURS SELON UNE LOGIQUE D APPRENTISSAGE QUI LÀ ENCORE LUI EST AU départ édictée par son programmeur. U NALGORITHMEPENSEETCALCULE , PRENDDESDÉCISIONSSELONLERÉSULTATDECESCOGITATIONS PROGRAMMÉESETLERÉSULTATDECESCALCULS . I LPEUTMÊMEPROGRESSERPARLUI - MÊME , APPRENDREPAR ESSAISETERREURSÀMIEUXSECOMPORTERSELONL ’ ÉVALUATIONREÇUEÀLASUITEDECESOPÉRATIONS , SELON  . L ’ , LES INDICATIONS QUE LUI FOURNIT SON PROGRAMMEUR E JOUEUR INFORMATISÉ DE GO OU D ÉCHECS TIRE EN , , ’ , EFFET PROFIT DE SES ERREURS TOUT COMME LE PROGRAMME INFORMATIQUE AU VOLANT D UNE VOITURE OU LE  . C , LOGICIEL DE DIAGNOSTIC MÉDICAL ETTE RATIONALITÉ ALGORITHMIQUE PREND NAISSANCE ET DANS LA LOGIQUE , , BOOLÉENNE UNIQUEMENT BASÉE SUR LE VRAI ET LE FAUX ET LES DIFFÉRENTES MANIÈRES DE LES ASSOCIER ET

DANSL ’ EXPLOITATIONDESNOMBRESETDELEURORDONNANCEMENTINTRINSÈQUE . C ESEXTRAORDINAIRES  ’ ’ FACULTÉS COGNITIVES PROVIENNENT DE LA QUANTITÉ INCOMMENSURABLE D INSTRUCTIONS QUE L ORDINATEUR ( SEULOUREGROUPÉAVECDESMILLIONSD ’ AUTRES ) PEUTEXÉCUTERÀLASECONDEETDELAQUANTITÉTOUT  ’ ’ , ’ AUTANT INCROYABLE D INFORMATIONS QU IL PEUT STOCKER GÉRER ET MANIPULER LORS DE L EXÉCUTION DE CES instructions. I ’ L N Y A PLUS GUÈRE UN SEUL OBJET DE NOTRE QUOTIDIEN QUI NE RECÈLE QUELQUE INTELLIGENCE , ALGORITHMIQUE QUI NE SOIT CAPABLE DE PERCEVOIR SON ENVIRONNEMENT ET DE DÉCIDER DE MANIÈRE  . I AUTONOME DE LA MEILLEURE ACTION À ENTREPRENDRE L DÉCIDE EN EFFET TOUT SEUL OU DE FAÇON , . N COORDONNÉE DIALOGUANT AVEC SES PARTENAIRES DISTRIBUÉS À TRAVERS LE GLOBE OUS VIVONS À LA FOIS l’ère de la super-intelligence informatique, des objets connectés et de l’informatique ubiquitaire. D , ’ ÈS LORS IL NE VOUS SURPRENDRA GUÈRE QUE SI L ORDINATEUR PREND EN CHARGE UNE PARTIE DE NOS , , EXISTENCES IL NE POURRA LE FAIRE QUE DE MANIÈRE FONCIÈREMENT RATIONNELLE SELON UNE ALGORITHMIQUE , . Q RIGIDE INCARNÉE DANS SES CIRCUITS ET IMPRÉGNÉE DE NOMBRES ET DE VÉRITÉS BINAIRES UELS POURRAIENT ÊTRE LES FONDEMENTS DE CETTE GOUVERNANCE ALGORITHMIQUE QUE NOUS DÉCRIRONS ET  ? S - , ’ PLÉBISCITERONS LARGEMENT DANS CET ESSAI OMMES NOUS EN TRAIN DE VIVRE COMME L ÉCRIT DE 4  ’ Y N H , ’ ? MANIÈRE SAISISSANTE L ESSAYISTE UVAL OAH ARARI UN HACKING DE L HUMANITÉ PAR LES MACHINES E NQUELQUESMOTS , LESSYSTÈMESINFORMATIQUESDEVRAIENTRESTREINDRENOSESPACESDELIBERTÉETNOS ALTERNATIVES DÉCISIONNELLES DE TELLE MANIÈRE QUE LES SEULES OPTIONS QUI SOIENT LAISSÉES  , ’ - - ’ , RATIONNELLEMENT À CHACUN C EST À DIRE EN VUE D OPTIMISER SA SATISFACTION PERSONNELLE OPTIMISENT , , ’ . E , ÉGALEMENT ET COMME PAR MAGIE L INTÉRÊT DU PLUS GRAND NOMBRE N EFFET POURQUOI NE PAS SE ERÀNDONNERÀCESALGORITHMES , QUASIMENTINFAILLIBLES , LACONDUITEDENOSTRANSPORTSEN RÉSIGN ABA , ( COMMUN LA GESTION DE NOTRE CONSOMMATION ÉNERGÉTIQUE EN LA PERSONNE DE THERMOSTATS AUSSI QU ’ ÉCOLOS ), LEDENOSIMPÔTS , LAPRISEENCHARGED ’ UNEPARTDENOTRESANTÉ , INTELLIGENTS PRÉLÈVEMENT la sécurité de nos cités et bien d’autres choses encore ? C , ’ OMME LE DIRAIT UN ÉCONOMISTE IL FAUT QUE L ORDINATEUR QUI NOUS SUPERVISE ET NOUS  ’ , ’ , TÉLÉCOMMANDE S EMPLOIE PAR LES RESTRICTIONS ET LES ENCOURAGEMENTS QU IL PROMEUT À ALIGNER ’ ( ’ ) ’ ( ’ ) . I L INTÉRÊT OU L UTILITÉ INDIVIDUEL AVEC L INTÉRÊT OU L UTILITÉ COLLECTIF L FAUT QUE SON GÉNIE  ’ ’ CALCULATOIRE ANTICIPE LA MANIÈRE DONT LA CONSÉQUENCE DE NOS ACTES S AJUSTE SUR L INTÉRÊT DU PLUS GRANDNOMBRE , PUISTÉLÉGUIDECESMÊMESACTESENVUEDESECONFORMERAUXRÉSULTATSOBTENUSLORS  ’ . L’ DE L ÉTAPE PRÉCÉDENTE ALGORITHME DOIT BALISER ET CANALISER NOS EXISTENCES DE MANIÈRE À LES  ’ , . C SOUMETTRE À UNE FONCTION D INTÉRÊT ÉTABLIE CALCULÉE SUR LA COLLECTIVITÉ E MÊME ÉCONOMISTE  ’ SUPPOSE QUE CHAQUE INDIVIDU AGIT SELON UNE LOGIQUE RATIONNELLE D OPTIMISATION DE SA SATISFACTION LE , CEQU ’ ILAPPELLEENEFFETSONUTILITÉ . S I M R X PRÉFÈRELESAUCISAUXCHIPS , POURUN PERSONNEL SON MÊMEPRIX , ILFERASANSAUCUNDOUTELECHOIXDUSAUCISSONDANSLESRAYONSDUSUPERMARCHÉ . S’ IL  ’ , ’ PRÉFÈRE LES ROMANS POLICIERS AUX HISTOIRES D AMOUR CELA CONDITIONNERA ET LE PROCHAIN FILM QU IL  ’ . T CHOISIRA DE VOIR ET LE PROCHAIN LIVRE QU IL PRÉFÉRERA FEUILLETER OUTE LA SCIENCE ÉCONOMIQUE  . REPOSE SUR CE POSTULAT DE RECHERCHE DE LA SATISFACTION MAXIMALE ET DE LA RATIONALITÉ DE NOS CHOIX Q ’ , ’ UOI QU EN DISENT LES NOMBREUX POURFENDEURS DE CETTE SCIENCE CE POSTULAT N A VRAIMENT RIEN ’ . S , ’ D INSOLITE I LE TEMPS ET LES CONDITIONS PSYCHOLOGIQUES LE LUI AUTORISENT C EST LA MANIÈRE DONT UN CERVEAUBIENIRRIGUÉPRENDSESDÉCISIONS . S I  M R  X VITUNESATISFACTION  S( T ) AUMOMENTTETQUE  ’ , ’ ’ ’ PLUSIEURS DÉCISIONS S OFFRENT À LUI IL N EST PAS IRRAISONNABLE DE S ACCORDER SUR LE FAIT QU IL  ’ S( + ) - S( ), ’ - - PRIVILÉGIERA LA DÉCISION ET EFFECTUERA L ACTION QUI MAXIMISE T DT T C EST À DIRE SON  - . O ’ ’ ACCROISSEMENT DE BIEN ÊTRE COMME RÉSULTAT DE CETTE DÉCISION N NE S OCCUPERA PAS POUR L INSTANT  ’ , , S( ), DE L EXISTENCE OU NON DE CE THERMOMÈTRE HÉDONIQUE CAPABLE EN EFFET DE MESURER CE T MAIS  . L CLAIREMENT NOS CERVEAUX EN SONT DOTÉS ES NEURONES RESPONSABLES DE LA PRISE DE DÉCISION SONT EN  ’ CONNEXION DIRECTE AVEC CEUX CAPABLES D ÉVALUER LA PRODUCTION HORMONALE DE NOS PLAISIRS ET DÉPLAISIRS . C ESDERNIEGISSENTDEMANIÈREÀARROSERD ’ HORMONESPOSITIVESOUNÉGATIVESL RS A ES zones les plus sensibles de nos cortex. S’ ’ ’ ’ ’ IL N EST PAS TROP DIFFICILE DE SE METTRE D ACCORD SUR L EXISTENCE D UNE UTILITÉ PERSONNELLE QUE ’ , L INDIVIDU CHERCHE À MAXIMISER PAR LE CHOIX DE SES ACTES IL EST BEAUCOUP PLUS DÉLICAT DE ’ ’ , ’ S ACCORDER SUR LA NATURE DE L INTÉRÊT PUBLIC OU COLLECTIF POURTANT CELUI QU IL IMPORTERA CETTE FOIS AUXORDINATEURSDEMAXIMISER . D ESSIÈCLESDEPHILOSOPHIEMORALEONTDÉMONTRÉCOMBIENLES  . D , POSITIONS À CE SUJET POUVAIENT ÊTRE DIVERGENTES ÈS QUE PLUSIEURS INDIVIDUS ENTRENT EN SCÈNE  , ’ CHACUN PROMPT À MAXIMISER SA SEULE UTILITÉ PERSONNELLE ET QUE CETTE QUÊTE HÉDONIQUE N EST PAS  ’ , . L SANS EFFET SUR CELLE D AUTRUI TOUT DEVIENT NETTEMENT PLUS COMPLIQUÉ E BONHEUR DES UNS FAIT LE

 . C MALHEUR DES AUTRES OMMENT DÉFINIR ET PLUS ENCORE PROGRAMMER UN INTÉRÊT COLLECTIF À LA JONCTION  ? L ’ , , « DE TOUS A PREMIÈRE POSSIBILITÉ QUI VIENT À L ESPRIT LA PLUS ÉVIDENTE EST LA PROPOSITION DITE » ’ . P UTILITARISTE CONSISTANT À RECHERCHER LE MAXIMUM DE L AGRÉGATION DES SATISFACTIONS DE CHACUN OUR ’ , , L INFORMATIQUE CETTE VERSION QUANTITATIVE DEVIENT ÉVIDEMMENT DU PAIN BÉNIT CAR CELA SE RÉSUME À  - . L UNE SIMPLE SOMME SUR TOUTES LES UTILITÉS ET LA POURSUITE DU MAXIMUM DE CELLES CI ES ORDINATEURS  . I . C - ’ EXCELLENT EN CELA LS SOMMENT ET MAXIMISENT DIVINEMENT BIEN ETTE VISION SOUS TEND D AILLEURS  ’ TOUTE L ÉCONOMIE ET ELLE EXPLIQUE POURQUOI VOUS ÉCHANGERIEZ VOTRE SAUCISSON AVEC LES CHIPS DE  , ’ ’ . C VOTRE VOISIN SI CHACUN S Y RETROUVE DAVANTAGE AVEC LA GÂTERIE DE L AUTRE ET ÉCHANGE VOUS PERMET ’ - . M - D ACCROÎTRE TOUS DEUX VOTRE UTILITÉ ET BIEN ÉVIDEMMENT LA SOMME DE CELLES CI AIS EST CE LÀ LA seule possibilité ? I . V , MAGINEZ LA SITUATION SUIVANTE OUS ÊTES INVITÉS À UN DÎNER CHEZ DES AMIS ET AU MOMENT DU DESSERT , LAMAÎTRESSEDEMAISONS ’ APPRÊTEÀPARTAGERUNPOTDESORBETAUCITRONDELAMANIÈRELA  , ’ - - . O , PLUS ÉQUITABLE QUI SOIT C EST À DIRE LE MÊME NOMBRE DE BOULES POUR CHACUN R CERTAINS ADORENT  , ’ ’ , ’. CETTE GLACE D AUTRES LA DÉTESTENT ET LES TROISIÈMES N EN ONT CURE C EST UN DESSERT COMME UN AUTRE S ILAMAÎTRESSEDESLIEUXCHERCHEÀEXAUCERAUMIEUXL ’ INJONCTIONUTILITARISTE , ELLEDEVRAITPARTAGER  , LE SORBET EN CONSÉQUENCE ET ADAPTER LE NOMBRE DE BOULES EN FONCTION DES GOÛTS DE CHACUN AUCUNE POURCEUXQUIDÉTESTENTCEDESSERTETUNMAXIMUMPOURCEUXQUECETTEMÊMEDOUCEURRAVIT . S’ ’ ’ AFFRONTENT ICI DEUX MANIÈRES DE CALCULER L INTÉRÊT COLLECTIF ET LEUR DIFFÉRENCE EST LOIN D ÊTRE négligeable : la version utilitariste et la version égalitariste. En présence des utilités de chacun, la  ’ ’ VERSION UTILITARISTE SEMBLE NATURELLEMENT S IMPOSER ET C EST CLAIREMENT CELLE QUE FAVORISE L ’ ÉCONOMIETHÉORIQUE ( ETLEPETITORDINATEURQUITRÔNESURLEBUREAUDEL ’ ÉCONOMISTE ) : PARTAGERUN  , , BIEN EN FONCTION DE LA SATISFACTION QUE CHACUN EST CENSÉ EN RETIRER OU PLUS GÉNÉRALEMENT AGIR SUR CHACUNENFONCTIONDELAQUANTITÉDEPLAISIRQU ’ UNETELLEACTIONESTCENSÉELUIPROCURERAUDÉPART de ses goûts propres. C ’ E N EST CEPENDANT PAS LA VERSION ÉGALITARISTE QUI RÉPARTIT SA GÉNÉROSITÉ DE MANIÈRE PARFAITEMENT  . U : ÉQUITABLE QUEL QUE SOIT LE RÉSULTAT DE CETTE GÉNÉROSITÉ SUR CHACUN N SIMPLE EXEMPLE LA VOITURE  , - - - AUTONOME QUI DEMAIN CONDUIRA UN MINISTRE DEVRA T ELLE LE MENER À SON RENDEZ VOUS À LA MÊME VITESSEQUECELLEQUICONDUIRAL ’ AUTEURDECETESSAI L’ ? UTILITARISTEDÉFENDRAQUELETEMPSDU  , ’ ’ ’ . C MINISTRE EST PLUS COMPTÉ QUE LE MIEN MAIS CE N EST PAS L AVIS DE L ÉGALITARISTE E QUI RASSURE DE  , NOMBREUX ÉCONOMISTES EST QUE LES DEUX VERSIONS FINISSENT PAR SE REJOINDRE SI LES CONSOMMATEURS se lassent au fur et à mesure de leur consommation. Ainsi, si l’on s’intéresse au bonheur cumulé et  , QUE LA SATISFACTION VA DÉCROISSANTE AU FUR ET À MESURE DES BIENS CONSOMMÉS ON COMPREND  ’ . D AISÉMENT QU IL DEVIENT GRADUELLEMENT PRÉFÉRABLE DE FAVORISER LES INDIVIDUS INASSOUVIS ANS LE CONTRAIRE , LEDENTREUTILITARISMEETÉGALITARISMECONTINUEDEFAIRERAGE , DENOMBREUX CAS ÉBAT  ’ ’ PHILOSOPHES S OPPOSANT À CE QUE L ON PUISSE SACRIFIER CERTAINS INDIVIDUS AU PROFIT DU PLUS GRAND , NOMBRE OU SIMPLEMENT PRÉFÉRANT UNE SOCIÉTÉ CONSTITUÉE DE DEUX INDIVIDUS DONT LES BONHEURS  4 5 2 10. C , MESURÉS SERAIENT ET À CELLE OÙ LES BONHEURS MESURÉS SERAIENT ET HEZ LES UTILITARISTES LES  . J R , ’ PLUS HEUREUX TIRENT TOUTE LA COUVERTURE DU BONHEUR À EUX OHN AWLS L UN DES PHILOSOPHES AYANT e  XX , LE PLUS MARQUÉ LE SIÈCLE PAR SA CONCEPTION DE LA JUSTICE NE TOLÈRE UNE DIFFÉRENCE ENTRE CES DEUX BONHEURS QUE DANS LA MESURE OÙ QUELQUE ACCROISSEMENT QUI SOIT FAVORISE TOUJOURS LE MOINS  . E , J R , AVANTAGÉ DES DEUX N SUBSTANCE SI OHN AWLS DEVAIT SERVIR LE SORBET IL AGIRAIT DE MANIÈRE À  ’ . I SATISFAIRE DAVANTAGE CEUX QUE LE REPAS A JUSQU ICI LAISSÉS SUR LEUR FAIM LS POURRONT DAVANTAGE SE consoler avec le sorbet. C ES DIFFÉRENTES MANIÈRES DE CONSIDÉRER LES OBJECTIFS AGRÉGÉS ET DE COMPARER LEURS AVANTAGES  ’ , , . C RESPECTIFS N ONT DE SENS QUE POUR DES SATISFACTIONS MESURABLES DÉNOMBRABLES ORDONNABLES E N ’ ESTPASPOURRIENQUELECOMPORTEMENTENMATIÈREDECONSOMMATIONSETROUVEAUXPREMIÈRES LOGESDANSCETYPED ’ ANALYSE . O NPEUTASSEZFACILEMENTCOMPARERLASATISFACTIONQUENOUS  , , ’ PROCURENT DEUX ALIMENTS DEUX FILMS OU DEUX CHEMISES MAIS C EST UNE TOUTE AUTRE AFFAIRE D ’ ANALYSERETD ’ ÉVALUERDESACTIVITÉSAUXIMPACTSPSYCHOLOGIQUESAUTREMENTPLUSSUBTILS , TELSLES  . B , TORTS OU LES BIENFAITS ENVERS AUTRUI PAR DE SIMPLES PAROLES OU ATTENTIONS IEN SÛR ON POURRA  ’ ’ , ’ - TOUJOURS AFFIRMER QU IL EST MOINS AGRÉABLE DE RECEVOIR DEUX GIFLES QU UNE SEULE MAIS QU EST CE  , , UNE GIFLE COMPARÉE À UNE PAROLE EXTRÊMEMENT BLESSANTE OU À UN MAL DE DENT ET LEQUEL DE CES DEUX  ? C ’ COURRIERS INSULTANTS VOUS MEURTRIT LE PLUS ELA SE COMPLEXIFIE D AUTANT QUE LE BONHEUR AVOUÉ ’ ’ , ’ N EST PAS TOUJOURS CELUI RESSENTI ET QUE TOUT N EST PAS FORCÉMENT QUANTIFIABLE MÊME S IL EST TOUJOURS POSSIBLE DE PROPOSER AU SUJET INTERROGÉ DE PLACER SES CHOIX SUR UN AXE SELON LEUR

préférence croissante. D , ’ ’ EPUIS DES LUSTRES LA PHILOSOPHIE ACCEPTE TROIS MANIÈRES D APPRÉHENDER LA VALEUR ÉTHIQUE D UN . L ’ , ’ , COMPORTEMENT A PREMIÈRE EST CELLE ENVISAGÉE JUSQU ICI L UTILITARISME CONSISTANT À FAVORISER DES  . I COMPORTEMENTS AUX CONSÉQUENCES LES PLUS PLAISANTES POUR LE PLUS GRAND NOMBRE L EN EXISTE UNE DEUXIÈME , QUINERECOURTPLUSCETTEFOISÀL ’ ARITHMÉTIQUEHÉDONISTEDESCONSÉQUENCES ; ONLADOIT  E K : , AU PHILOSOPHE MMANUEL ANT FAVORISER DES COMPORTEMENTS DONT LA SIMPLE UNIVERSALISATION ’ , . A , , L IMITATION PAR TOUS DÉBOUCHE SUR UNE SOCIÉTÉ VIABLE INSI SELON LUI IL FAUT TOUJOURS DIRE LA , ’ - , ’ VÉRITÉ NE COMMETTRE AUCUNE VIOLENCE QUEL QU EN PUISSE ÊTRE LE BIEN FONDÉ ET S INTERDIRE TOUTE  , , ’ ’ ATTITUDE DOMMAGEABLE ENVERS AUTRUI EN FAIT TOUT ACTE DE QUELQUE NATURE QU IL SOIT DONT L IMITATION  . L ’ PAR TOUS CONDUIRAIT À UN CHAOS GÉNÉRALISÉ A TROISIÈME EST GÉNÉRALEMENT DÉSIGNÉE D ÉTHIQUE DES  , , , , VERTUS ET APPARAÎT POUR BEAUCOUP COMME LA PLUS RÉALISTE MAIS AUSSI LA PLUS RELATIVISTE LA MOINS . E ’ K , DOGMATIQUE LLE REJETTE LES ABSOLUTISME ET UNIVERSALISME DE L IMPÉRATIF CATÉGORIQUE DE ANT ET  , ’ TOLÈRE UN CERTAIN RELATIVISME MORAL TENANT COMPTE DU FAIT QUE CE QUI PLAÎT À L UN PEUT  ’ , , PROFONDÉMENT DÉPLAIRE À L AUTRE QUE LES CULTURES IMPRÈGNENT LES JUGEMENTS MORAUX ET QUE CE QUI ESTADMISAUJOURD ’ HUIPOURRAITNEPLUSL ’ ÊTREDEMAIN . E LLES ’ AVÈREPLUSDESCRIPTIVEQUE  ’ , ’ PRESCRIPTIVE ET ACCEPTE QUE DANS L URGENCE ET EN PROIE AUX ÉMOTIONS LES HOMMES PEUVENT S AVÉRER incapables et de l’universalisation kantienne et de l’arithmétique utilitariste. T , , RAITANT DANS CET ESSAI DE GOUVERNANCE ALGORITHMIQUE IL ME PARAÎT INCONTOURNABLE ET CE PARCE  ’ , ’ QUE CETTE ALGORITHMIQUE CALCULATOIRE L EXIGE DE PRIVILÉGIER PLUS SOUVENT QU À SON TOUR LA VERSION , ’ UTILITARISTE DÈS LORS QU UN LOGICIEL SE DOIT DE CHOISIR ENTRE PLUSIEURS OPTIONS DONT LES EFFETS SONT QUANTIFIABLES . C EDERNIERESTINCAPABLETANTD ’ IRRATIONALITÉ , QUED ’ ACTEDEFOI , D ’ ÉMOISBIENSÛR , MAISAUSSIDEPÉTITIONDEPRINCIPEOUDERELATIVISME , ETC ’ ESTBIENPOURCELAQU ’ ONLESOLLICITE . D U 5 , ! E ! N ’ ’ CALCUL RIEN QUE DU CALCUL T MAXIMISONS LE BONHEUR NATIONAL BRUT OTEZ QUE L EXISTENCE D UNE  / , ’ K ’ , QUANTIFICATION COÛT BÉNÉFICE SI ELLE ÉCARTE D OFFICE ANT OU L ÉTHIQUE DES VERTUS NE PERMET PAS UN POSITIONNEMENTFERMEETDÉFINITIFENTREUT ARISME , ÉGALITARISMEOULASATISFACTIONILIT TOUTE  ’ . L RAWLSIENNE DES MOINS BIEN LOTIS JUSQU ICI ORSQUE LE CHOIX ENTRE CES DIFFÉRENTES OPTIONS  , , , PHILOSOPHIQUES RESTE TENDANCIEUX INCERTAIN SUJET À DISPUTE ET À ACTE DE FOI IL DEMEURE TOUT À FAIT  , , POSSIBLE DE LAISSER QUELQUES HOMMES LES SEULS RESTANT NÉCESSAIRES ET QUE LE SUFFRAGE AURA ÉLUS  ’ ’ , DÉCIDER DE L UNE OU L AUTRE OPTION LAISSANT PAR LA SUITE AUX ALGORITHMES LE SOIN DE RÉALISER CETTE  . L’ , ’ MISSION DE LA MEILLEURE DES MANIÈRES ALGORITHME NE DÉCIDE PAS DE LA FONCTION COÛT IL S ASSURE simplement de sa maximisation. P - ROJETONS NOUS DONC DANS CETTE SOCIÉTÉ EN DEVENIR OÙ TOUTE ÉCHAPPATOIRE AU BIEN COMMUN DEVIENDRA IMPOSSIBLE TANT LES SYSTÈMES ALGORITHMIQUES MIS EN PLACE NE RENDRONT DISPONIBLES QUE  . C , , LES COMPORTEMENTS VERTUEUX ETTE INFORMATIQUE OBJETS CONNECTÉS ET AUTRES RÉSEAUX SOCIAUX STIMULENTL ’ IMAGINATIONRÉPRESSIVE . D ENOMBREUXPENSEURSAUJOURD ’ HUIVOIENTDANSCETTEINVASION , ’ ALGORITHMIQUE DANS CE TÉLÉGUIDAGE LOGICIEL DE NOS MODES D EXISTENCE ET DE RÉGULATION SOCIALE LA possibilité du pire comme du meilleur, des opportunités comme il n’y...