Entre 2015 et 2018, Éric Sadin, vous avez publié aux éditions L’échappée une trilogie d’ouvrages de philosophie critique sur l’industrie numérique, dénonçant l’assujettissement grandissant de l’humanité à l’IA. Depuis 2018, les technologies ayant évolué, estimez-vous que vos réflexions restent fondées ?

Éric Sadin – Plus que jamais ! J’ai très tôt saisi une chose que peu de monde avait relevée, il me semble. À savoir que des fantômes ne cessent de s’adresser à nous. Les fantômes, ce sont des systèmes qui nous écrivent, nous envoient des notifications, ou nous parlent via des enceintes connectées. Ils interprètent nos comportements dans le but de les orienter en permanence. Ce phénomène, que j’ai appelé « l’accompagnement algorithmique de la vie », était d’ores et déjà à l’œuvre à l’époque et ne cessait de s’étendre. Aujourd’hui, plus que jamais, celui-ci ne cesse de s’intensifier par les développements de l’intelligence artificielle. Cette IA, dont tout le monde parle, mais sans jamais en donner une définition claire. En cela, nous souffrons d’un manque de définition.

L’intelligence artificielle est une puissance de diagnostic automatisée. C’est-à-dire d’expertise, souvent opérée en temps réel, de situations d’ordres toujours plus divers. Mais elle est aussi une puissance de recommandation. Ainsi, pour la première fois dans l’histoire de l’humanité, nous voyons des technologies nous suggérer, nous inciter et, parfois, nous obliger d’agir de telle manière, plutôt que de telle autre. C’est une rupture juridico-politique et civilisationnelle gigantesque. Dans la mesure où ces systèmes opèrent une pression sur la décision humaine.

Dans quel but, selon vous ?

E. S. – Principalement en vue de deux objectifs. Le premier est d’engager ce que j’ai appelé une « marchandisation intégrale de la vie ». Autrement dit, plus je connais vos comportements, plus je vous suggère continuellement d’acheter tel produit, de choisir tel séjour à la montagne, tel restaurant, etc.

Le second objectif, c’est l’organisation toujours plus rationalisée, hyper-optimisée, voire hygiéniste de la société. Dimension prioritairement en vigueur dans le champ du travail. Par exemple dans les entrepôts d’Amazon ou de Nespresso, où les salariés sont guidés via des oreillettes, se trouvant ainsi réduits à des robots de chair et de sang.

Pour ses concepteurs, l’IA est censée faciliter la vie humaine. De votre côté, vous estimez plutôt qu’elle menace les facultés fondamentales de l’humain. Pour quelles raisons ?

E. S. – Qu’on ne s’y méprenne pas, en aucune manière nous n’avons affaire à un capitalisme de surveillance. Les entreprises sont totalement indifférentes à cela. Elles collectent des données en vue, supposément, d’organiser notre bien-être et nous faciliter l’existence. Simplement, je remarque que ces systèmes opèrent en continu une pression sur nos conduites. C’est-à-dire qu’ils éradiquent toujours plus notre autonomie de jugement, qui est pourtant au cœur de l’humanisme européen, lequel vise à permettre à chacun de se déterminer en conscience, en pleine liberté et en responsabilité.

Il y a des systèmes, au stade incitatif, qui nous recommandent d’acheter tel ou tel produit, et des systèmes, à un stade impératif, qui signalent les bons gestes à entreprendre, par exemple, lors de recrutements en entreprise. Soit un processus d’automatisation croissante des affaires humaines.

Le problème majeur de cette automatisation, c’est que cela entraîne, de façon corollaire, une privatisation des affaires humaines ! C’est-à-dire qu’il y a de plus en plus d’acteurs qui font des profits grâce à cette automatisation qui oriente, décide, ou parle de plus en plus à notre place.

Cependant, cette automatisation basée sur des algorithmes a été créée par l’humain. De surcroît, elle s’appuie sur des ressources numérisées d’origine humaine, qu’elles soient artistiques, littéraires, photographiques, scientifiques… Donc le produit de l’IA n’est-il pas quelque part encore de l’ordre de l’humain ?

E. S. – En aucune manière. Prenons l’exemple de la mise en ligne de ChatGPT, le 30 novembre 2022. Laquelle a provoqué un ouragan culturel et civilisationnel puisque, pour la première fois dans l’histoire de l’humanité, des systèmes produisent du langage. Je parle de langage, mais je devrais dire un pseudo-langage. Une langue morte. Privée de toute vitalité. Pourquoi ? Parce que ChatGPT s’appuie sur des systèmes qui ingurgitent des éléments dans des myriades de corpus déjà existants sur Internet.

Analysés par des statistiques et des analyses sémantiques mathématiques, ces éléments du passé sont alors agencés d’après des équations probabilistes les uns aux autres, de sorte à restituer un langage machinique. Or, nous, humains, et à l’opposé, pour produire du langage, nous entretenons un lien éminemment subjectif avec les règles, la grammaire, l’orthographe, etc. C’est un rapport entre le commun et chacun d’entre nous.

Lorsque nous produisons du langage, ce n’est pas dans une dimension probabiliste, mais indéterministe ! Il se crée au moment présent, dans les flux de la vie. Cela suppose qu’il y a de l’invention à chaque instant, de la singularisation, de la subjectivité propre qui s’exprime. Avec ChatGPT, le rapport est mathématisé, automatisé et schématisé.

D’ailleurs, pour moi, ce n’est pas ChatGPT qu’il faudrait dire mais ChatACC : pour « abjection culturelle et civilisationnelle ». Il faut nommer les choses telles qu’elles sont. De plus, c’est une logique du zéro effort qui est appelée à prévaloir. Sur une simple instruction, ce qu’on appelle des prompts, on va dire : « ChatGPT, rédige-moi ma thèse, une lettre d’amour, une recette de cuisine… » Nous sommes en 2023 et voyons-nous le désert culturel et civilisationnel qui pointe ? Et la mort qui rôde ?

L’engouement des populations pour ces technologies est pourtant au rendez-vous…

E. S. – L’utilitarisme à l’œuvre dans les sociétés modernes depuis plus d’un siècle, en est arrivé à tellement infiltrer nos cervelles, devenues très malades, que ces systèmes ont été adoptés avec docilité. En outre, divers secteurs de la société se sont « adaptés » à ces évolutions, que personne n’a délibérément souhaitées. Or, l’adaptation, à force, c’est de la soumission. Et tout cela se fait avec l’aval du monde politique qui, au nom du primat économique, accompagne et soutient ce renoncement de nous-mêmes, à coups de fonds publics.

Il ne faut pas s’imaginer qu’il y a un méchant loup derrière tout ce mouvement. Il y a simplement une industrie numérique toujours plus puissante, qui exploite sans fin cette capacité d’analyse et de diagnostic à des vitesses sans cesse croissantes, avec un nombre de données toujours plus volumineux et des algorithmes toujours plus affinés. Je vous donne rendez-vous dans trois, quatre ans pour constater ce que nous serons devenus. Tout le monde ne fera qu’émettre des prompts, faisant alors émerger ce que j’appelle un « devenir légume de l’humanité ».

Le « promptisme » généralisé signifie que ces technologies vont de plus en plus interférer dans les rapports interpersonnels, et devenir, à terme, le régime de langage majoritaire. C’est de l’antihumanisme radical. Ce que je disais dès 2018. Et plus que jamais, nous devrions nous y opposer corps et âme. Hélas, cela n’a pas lieu. Tout le contraire même. Et ce déni de responsabilité de notre part fait le lit d’une société vidée de toute vitalité.

Les « cellules de réflexion éthique », mises en place par les industries du numériques elles-mêmes, ne sont-elles pas utiles, selon vous ?

E. S. – Vous me provoquez… Pour moi, les ingénieurs et les industriels du numérique ne cessent de dévoyer le terme « éthique ». Cela fait quinze ans qu’ils le mobilisent sans produire le moindre effet tangible. Du pur blabla, en somme. L’heure nous appelle à user de notre responsabilité individuelle et collective pour être à la hauteur des enjeux. Qu’est-ce qu’être à la hauteur des enjeux ? C’est faire valoir la plus grande des morales, c’est-à-dire faire en sorte que les grands principes qui nous animent soient farouchement sauvegardés. Et nous en sommes très loin.

La grève des scénaristes de films et de séries aux États-Unis doit vous satisfaire, alors ?

E. S. – Évidemment ! D’ailleurs, ne serait-ce pas salutaire que d’autres métiers se lèvent et disent : « Nous ne voulons pas de cela ! Que la société nous accompagne au nom de la créativité, au nom de l’honneur des professions que nous exerçons ! Et ce n’est pas ce mouvement développé par une poignée d’individus qui va nous mettre à la rue ! »

J’aimerais, par exemple, que les professeurs agissent ainsi, plutôt que d’envisager d’apprendre à travailler avec ChatGPT ! Et les avocats, qui ont fait tant d’années d’études, vous trouvez normal qu’ils en viennent à écrire une plaidoirie avec ChatGPT ? Quel renoncement, et quelle tristesse ! Idem pour les journalistes. La liste des métiers inventifs dès maintenant mis en péril par l’IA est très longue.

Concernant la médecine, l’IA est pourtant perçue comme un atout, en particulier dans la prédiction de maladies…

E. S. – Qu’il y ait des avancées, peut-être, mais il faut les voir au cas par cas. Et le résultat ne sera certainement pas un très grand miracle. Il faut surtout savoir pourquoi l’industrie de l’IA s’intéresse à la médecine. C’est là un gigantesque marché. Depuis dix ans, l’industrie du numérique s’est lancée à l’assaut de la médecine, afin d’en devenir un grand acteur alors qu’elle n’y connaît rien. Comment ? Tout simplement, en développant des systèmes d’expertise très coûteux et toujours basés sur la même logique, à savoir que des procédés automatisés feront toujours mieux que l’humain. Parce que, c’est bien connu, le diagnostic établi par les médecins est toujours erroné !

Voilà le prérequis de l’industrie, c’est l’idéologie de la Silicon Valley : les systèmes assurent toujours mieux que nous des tâches. C’est oublier que lorsqu’un diagnostic d’une extrême gravité est établi par un médecin, un contre-diagnostic est toujours réalisé. En réalité, les erreurs de diagnostic sont très rares, mais, malgré cela, cette industrie essaie de vendre ses systèmes aux hôpitaux et aux cliniques. Regardez, en 2019, pendant la Covid, ce n’étaient pas les systèmes de diagnostics automatisés qui manquaient, mais du matériel de soins et des ressources : des respirateurs, des lits, du personnel qualifié, etc.

En fait, ce qui est insinué dans le déploiement de ces systèmes, c’est l’idée d’arrêter le paiement à l’acte en faveur de l’abonnement. C’est donc une immense marchandisation de la médecine qu’entend opérer l’industrie des données et de l’intelligence artificielle.

A votre avis, comment l’industrie numérique peut-elle aller plus loin que le métavers, qui est déjà le paroxysme de la désincarnation humaine ?

E. S. – Le métavers, en réalité, n’est que le nom de la pixellisation sans cesse croissante de nos existences. Le fait que l’écran soit de plus en plus l’organe d’interférence majeure de nos relations au réel, aux autres, mais aussi à nous-mêmes. Car les systèmes nous orientent par nos écrans. Un enfant ne prendra plus le crayon devant une feuille de papier pour dessiner un mouton, mais le demandera à une IA et face à son écran !

Cette évolution nous entraîne vers un isolement collectif et vers une humanité absente à elle-même. En résumé, c’est une « vie spectrale », une vie où des fantômes et des voix nous parlent, nous orientent continuellement et finissent par parler en notre nom ! C’est une société fantôme, comme on a pu le voir pendant les confinements, où les grandes villes étaient totalement vides, sauf que d’un seul coup les fantômes sont entrés dans nos domiciles via tous nos appareils connectés.

L’urgence est à une reconquête de nos capacités sensibles, cognitives et intellectuelles. Faute de quoi, des intérêts et une vision strictement utilitariste du monde s’imposeront de façon unilatérale et unique.

Dernier ouvrage d’Éric Sadin :

"La vie spectrale - Penser l'ère du métavers et des IA génératives". Éditions Grasset, octobre 2023.

La vie spectrale – Penser l’ère du métavers et des IA génératives.

Éditions Grasset, octobre 2023.