Quel avenir pour l’individu et ses libertés à l’ère de l’algorithme tout-puissant ? Pour y répondre, Gaspard Koenig signe “La fin de l’individu”, un essai brillant racontant les inquiétantes mutations technologiques et politiques qui nous attendent…
C’est un livre à l’ambition monde. Une enquête menée tambour battant, entre deux avions et quatre continents, des États-Unis à la Chine, au contact de cent-vingt scientifiques et intellectuels (Cédric Villani, Yann Le Cun, Nassim Nicholas Taleb, Yuval Noah Harari…) qui dessinent les contours de notre avenir en commun. Un avenir technologique. Un avenir qui, sous couvert de progrès, nous ferait basculer dans un monde aux contours relativement inquiétants… En enquêtant sur l’Intelligence Artificielle (AI) et les profonds bouleversements que le machine learning (c’est-à-dire la machine apprenant seule, nourries des millions de données que nous lui fournissons) promet, Gaspard Koenig ne pensait surement pas remettre en cause jusqu’au fondement de notre démocratie. Et pourtant, l’ancienne plume de Christine Lagarde, romancier à ses heures, essayiste bien connu et figure dépoussiérant l’idéologie libérale, signe avec La fin de l’individu, un livre qui donne à réfléchir.
Disons-le d’emblée : cet essai publié aux éditions de l’Observatoire fera date ! Car les réponses que nous apporte Koenig donnent 
au lecteur comme un avant-gout du monde de demain, lorsque l’IA sera devenue toute-puissante. N’en déplaise aux scenarii catastrophes, celle-ci ne menacera pas l’existence d’Homo sapiens. Pas plus que les robots ne voleront pas nos emplois, bien au contraire. En vertu du principe de la destruction créatrice, il se pourrait même que les véhicules sans chauffeur et autres usines sans ouvriers ouvrent de nouveaux horizons professionnels pour l’heure inconnus. En revanche, en déployant des techniques d’optimisation, de prédiction et de manipulation à grande échelle, l’IA remettra très probablement en cause le fondement même de nos Lumières : l’idée d’un individu autonome et responsable. Et devinez-quoi… Demain commence aujourd’hui ! Vous qui lisez cet article êtes ainsi quotidiennement sujet aux manipulations technologiques vous poussant à lire tel article plutôt que tel autre, à préférer tel candidat aux élections, à acheter telle paire de chaussures, à sélectionner telle école pour vos enfants…
L’intelligence artificielle nous prépare ainsi des droits sans démocratie, un art sans artiste, une science sans causalité, une économie sans marché, une justice sans coupable, des amours sans séduction… à moins que nous ne reprenions le contrôle en forgeant pour nous-mêmes un droit à l’errance. On verra ainsi dans cet essai brillant une exhortation à quitter vite, très vite les réseaux sociaux sur lesquels nous croyons exercer notre libre arbitre et qui, au lieu d’étendre le périmètre de nos libertés, les limitent chaque jour un peu plus. A lire, Gaspard Koenig, il nous prendrait des envies pressantes de déconnexion.
Un essai qui fera date
Longtemps, on a pensé que la Silicon Valley constituait le siège même du progrès, l’endroit où les cerveaux les plus performants de la planète travaillaient au l’établissement du bien-être commun et à l’épanouissement de chacun. Or, il se trouve que la Californie a muté… En 2019, ce pays du cool se trouve peuplé de nihilistes. Ces derniers se gaussent des nobles principes démocratiques ; leur objectif est ailleurs. Exit les Lumières ! Il s’agit de créer des formules permettant l’organisation ultra-efficace de la société, le paramétrage parfait des êtres et de leurs actions. « Tant mieux, clament Yuval Harari et ses suiveurs, explique Koenig. Grâce aux données collectées, nous allons nous connaître parfaitement. Il y aura de moins en moins de souffrance et de plus en plus de plaisir. Mon livre s’intitule La fin de l’individu. Cela peut paraître un peu sombre. Mais pour beaucoup de gens en Chine et aux États-Unis, la mort de l’individu constitue une excellente nouvelle ! L’individu est, en effet, perçu comme source de misère et de guerres. Il est un être égoïste et incontrôlable. Si on peut arriver à une société plus lisse et mieux organisée, à leurs yeux, on atteindra un nouveau stade dans l’humanité et le développement des espèces ». Sur le papier, l’IA nous permettrait, il est vrai, de résoudre bien des problèmes théoriques et concrets, du sens de la vie à la faim dans le monde. Elle constitue, de fait, « le rêve de tout philosophe » en ce qu’elle permettrait, grâce au génie prédictif d’une « machine pensante », de nous « dispenser des fautes de logique, des préjugés individuels et des errements conceptuels ». Finies les approximations ! Grâce à la surpuissante tech, Il y aurait bientôt un algorithme, enivré de vérité, « capable de répondre à nos questions existentielles ».
Une perspective qui excite évidemment toute la communauté scientifique, des faubourgs poussiéreux de Tel-Aviv au laboratoires tokyoïtes. Transhumanisme mon amour, en somme…Pour le meilleur comme pour le pire.
Depuis des années déjà, la machine parvient à surpasser l’homme. Kasparov l’a appris à ses dépens au cours d’une mémorable partie d’échecs tandis que nos meilleurs professeurs en médecine s’avèrent incapable de diagnostiquer certaines maladies avec la puissance de la machine. Reste que l’IA, encore largement perfectible, demeure encore « une illusion » écrit Koenig. Pourquoi donc ? Car « elle reproduit un résultat, non un processus ». La machine ne pense pas, pas plus qu’un avion ne bat des ailes pour voler. « Il ne faudrait pas confondre la finalité visée (penser, voler) avec les méthodes employées » écrit l’essayiste.
Largement déficiente, l’Intelligence Artificielle n’en est encore qu’à son stade primaire. Pour l’heure, elle s’abreuve de nos données. On tente, par tous moyens, de la rendre plus fiable, plus précise, plus performante. Il y a des réussites avérées, telles Uber et le service de géolocalisation Waze. Ceux-ci orientent chauffeurs et utilisateurs avec précision, en composant avec les données de trafic, les prévisions de bouchons, travaux et autres accidents. La précision de ces outils est d’ores et déjà diabolique. Et plutôt perverse quand on y regarde de plus près. Koenig nous dévoile ainsi dans son livre que Google Maps, en plus de rétrécir nos capacités cérébrales en nous mâchant tout le travail d’orientation que nous nous évertuons à effectuer jadis, nous donne l’illusion d’un service personnel qui en fait compose avec la masse. Il arrivera ainsi régulièrement que les applications routières nous fasse emprunter un chemin un peu plus long pour permettre de fluidifier la route des autres utilisateurs.
En un mot résumé : elles nous sacrifient nous pour permettre à la majorité de bénéficier de meilleures conditions de trafic. Il y a pire, et plus inquiétant. A mesure que l’IA progresse, l’homme est tenté, chaudement invité même, à lui confier son destin, puisque la machine, le code, l’algorithme effectuent plus efficacement certaines tâchent. Dès à présent, nos messageries électroniques nous invitent à utiliser des formules de politesse et autres phrases calibrées, améliorant la qualité de nos échanges. Dans le même temps, les algorithmes Deezer, Spotify ou Netlfix sont à même, au bout de quelques mois, de mieux cerner nos gouts que nous ne le ferions nous-mêmes. Cela ne s’arrête pas à la sphère du divertissement. Nos relations intimes et amoureuses ont déjà fait l’objet d’une OPA. Comme le souligne les divers spécialistes interrogées par Koenig : « A quoi bon laisser faire le hasard en matière d’amour lorsqu’une application peut, en quelques minutes, cerner plusieurs profils promettant de merveilleuses idylles ? ». Ce qui vaut pour l’amour vaut également en politique. Le pouvoir chinois l’a bien compris. Depuis longtemps déjà, il nudge ses citoyens, autrement dit les incite-t-il à se comporter comme il le souhaite. A Pékin, l’arsenal du progrès sert le pouvoir le plus angoissant et répressif : il épie les moindres mouvements de la population, l’écoute, l’espionne. Il opte pour la reconnaissance faciale, désamorce toute possibilité de libre arbitre pour, dit-il, le bien de la collectivité. Or, « Comment être libre et responsable quand notre pensée est le simple produit d’un champ de forces qui la dépasse ? » se demande Gaspard Koenig dans La fin de l’individu ? L’interrogation est profonde. Et nous ne sommes qu’au début du processus de questionnement
Toutes les enquêtes d’Ernest sont là.
