Qu’est-ce que la Right Tech et comment penser le monde à l’heure du dérèglement climatique ? Quel apport de la Science-Fiction pour nos scénarios d’avenir ? Qu’en est-il des algorithmes et des conséquences de l’IA ?
À l’occasion de la nouvelle édition de l’USI, Umanz a interviewé le philosophe au CEA, Vincent Bontems, pour une réflexion dense et argumentée et des perspectives inédites sur le progrès, le futur et la technologie.
Umanz – Qui pense l’avenir aujourd’hui ?
Vincent Bontems : Il y a une première réponse inquiétante qui tendrait à dire que plus personne n’a le temps de penser l’avenir. Que la tentation, ou le plus simple, serait de remettre l’avenir entre les mains d’IA à hautes fréquences et d’agents conversationnels. Mais je ne sais pas si cette réponse est si intéressante.
Il y a une autre manière de penser qui découle du « principe de Gabor » (Dennis Gabor, prix Nobel de physique 1971) qui affirme que « tout ce qui est techniquement possible sera réalisé un jour » et qui pose une sorte de transcendance de la technique par rapport à la morale. Or, cette manière de penser est fausse épistémologiquement et axiologiquement et nous mène à une sorte de fatalisme qui cherche à faire de la technique un bouc émissaire.
Je pense, comme l’expliquait Gilbert Simondon parlant du mode d’existence des objets techniques, que notre culture est malade non pas parce qu’elle est « technicienne » mais parce qu’elle est « mal technicienne ».
Nous arrivons au cœur de la question, car si l’on vérifie ce que Gabor a dit dans Inventing the Future : « on ne peut pas prédire l’avenir mais inventer des futurs ». C’est-à-dire que nous ne devons être ni dans la déploration, ni dans l’enthousiasme, mais que nous avons un devoir d’invention et de divergence.
Une grande partie de ma démarche s’inscrit dans le fait de faire apparaître ces divergences. Cette approche des divergences est inspirée de philosophes comme Bachelard avec la psychanalyse de l’imaginaire, ou Simondon avec l’idée de progrès métamorphosé. On la retrouve dans la conscience écologique, chez certains penseurs spirituels, dans l’analyse de Greta Thunberg par Stiegler comme variante de la « parrhèsia » d’Antigone, c’est-à-dire de la jeune fille qui fait la leçon à des ainés irresponsables, dans le manifeste Laudato Si, dans le Bio Art et dans les entreprises à mission qui tentent de réinvestir l’entreprise avec du sens. Et ce que disent ces approches, c’est que toutes les technologies d’avenir méritent d’être révisées. Qu’il faut également se pencher sur les technologies Zombies qui, même si elles sont viables économiquement, ne devraient pas exister. Elle se prolonge aussi avec la notion de vieillesse d’une civilisation qui sait que pour faire mieux, il faut faire moins.
Umanz – Le monde est-il trop foutu pour faire émerger le futur ?
Vincent Bontems : Il y a indéniablement une crise dans le rapport traditionnel de confiance dans l’idée de progrès qui a fini par être une idée paresseuse. On s’est en quelque sorte habitué à une idée linéaire selon laquelle le progrès scientifique menait au progrès technique, d’où découlait tout naturellement les progrès sociaux et moraux.
Il y a un optimisme qui a déserté la société et dont les premiers soubresauts remontent aux années 1970 et aux premières tentatives de détachement de la société de consommation.
Il y a aussi ce sentiment honteux de complicité avec les ravages en cours et ce sentiment de déprise né avec le Covid qui vient renforcer la quête de sens.
Il y a enfin cette incommensurabilité entre les moyens d’action individuels et l’échelle des problèmes, la puissance des mécanismes qui font évoluer les choses dans une direction non souhaitable.
Mais ce que je constate à différents niveaux, c’est que chaque engagement et action collective donnent un sens puissant et que ce sont ceux qui restent dans des situations défensives qui sont les plus menacés. J’ai pu voir, dans les rencontres de Cerisy, des acteurs qui projetaient la notion d’entreprise à mission sur des territoires hyperlocaux, en Poitou-Charentes. Des territoires où se concrétisent chaque jour de nouveaux paradigmes en matière d’alimentation et de coexistence entre la vie animale, humaine et végétale.
Umanz – Quelle est votre définition de la Right Tech ?
Vincent Bontems : La Right Tech, c’est la bonne technologie, au bon rythme et au bon endroit, avec un principe de « moindre puissance » comme principe directeur.
C’est une approche qui permet d’éviter que la technologie serve d’alibi à la dérive de nos sociétés. C’est aussi un concept qu’il convient de déployer avec un minimum de tact. La technologie peut servir de bouc émissaire à la dérive de nos sociétés.
Les techniques portent le nom de leur fonction, de ce à quoi elles servent, alors que ce qui compte, c’est comment elles fonctionnent. Et c’est là qu’il convient d’être précis, il n’y a, par exemple, aucun rapport entre un moteur à explosion, un moteur électrique et un moteur à ressort. Leur identité est liée à leur fonctionnement et celui-ci n’est possible qu’en relation avec un « milieu associé » comme disait Gilbert Simondon.
Aujourd’hui, c’est le moteur à explosion qui est en accusation, mais le moteur électrique est tout aussi porteur de conséquences en terme de pollutions liées à l’extraction de métaux rares. À ce stade, il n’est pas réaliste de penser aujourd’hui que toutes les voitures thermiques seront remplacées par des voitures électriques.
Il faut donc se méfier des raccourcis simplistes et être très attentif à la réalité des cycles de vie.
Les Hollandais font, par exemple, pousser une partie de leur alimentation en mode hydroponique dans des serres hermétiques, où il n’y a aucune perte en eau, où aucun intrant ne pollue le sol, et qui sont chauffées en hiver et refroidies en été avec des moteurs des serres. Tous les gaz d’échappement sont retenus dans la serre où l’on rentre avec des masques à gaz, car les plantes peuvent supporter jusqu’à 20 fois plus de CO2 que les humains. Voici un milieu ultra-artificialisé qui concilie l’existence du moteur à explosion et de l’individuation vitale des plantes.
Il faut également penser la technologie en la rapportant aux différentes échelles. L’analyse de la Turbine de Guimbal, chez Simondon, ne prenait pas en compte les effets de l’usine marémotrice sur la Rance sur l’environnement immédiat. Dans un premier temps, il y a eu de graves problèmes d’envasement, de désalinisation, mais après 10 ans, un nouvel écosystème s’est mis en place avec l’apparition de nouvelles espèces opportunistes, comme les moules, et de prédateurs, dauphins et céphalopodes.
Le deuxième écosystème n’est pas forcément aussi riche et foisonnant que le premier, mais il faut relever que, grâce à l’énergie verte produite, le modèle de l’usine marée-motrice est vertueux à une autre échelle.
Penser la Right Tech, c’est penser le couplage entre l’individu-technique et son milieu associé sur le long terme. C’est une approche technologique qui prend en compte les conditions de la pérennité de la vie humaine et des autres espèces. Elle invite à se réajuster aux ressources qui nous entourent et à repenser le type de technique avec lesquelles nous allons exister.
La Right Tech sait aussi différencier l’intensité et la scalabilité de ses inventions. Elle sait notamment qu’il y a des situations, militaires notamment, où les États ne renonceront pas à des technologies de haute puissance. Mais, dans le même temps, la Red Team envisage d’équiper les soldats du futur de technologies dont la puissance dépend du degré d’engagement.
Les Right Tech ouvrent, in fine, la voie à de nouveaux modèles d’affaires basés sur le recyclage, la durée de vie, la maintenance et la fin de l’obsolescence programmée. Une société électrique fournit un éclairage plutôt que des ampoules, une société de literie un « bon couchage » plutôt qu’un lit. Darty réalise ainsi une part croissante de son chiffre d’affaires sur la maintenance et non la vente d’appareils. La Right Tech interroge aussi la possibilité de diminuer la pub, la pollution mercatique et l’incitation à l’achat. Elle vise à abolir cette société de la provocation dont parle Romain Gary dans Chien blanc.
Le but final est de faire ralentir le système, de comprendre ce qu’il faut faire sauter comme verrous pour déclencher des cycles d’actions positives.
Umanz : Comment, dans les systèmes actuels de captation de l’innovation par les Big Tech, peut-on faire émerger la Right Tech ?
Vincent Bontems : Il y a plusieurs approches que je vois émerger qui constituent des avancées, comme la loi Pacte. Je constate d’ailleurs que certains chefs d’entreprises sont prêts à aller plus loin dans la remise en cause de la dictature de l’actionnariat volatile.
Je vois de nouvelles possibilités de réinventer la gouvernance et l’actionnariat des sociétés dans lesquelles toutes les parties prenantes, scientifiques, syndicats, les pouvoirs publics (selon l’échelle de l’entreprise : la commune, la région, l’Etat, les institutions internationales, etc.) limiterait le droit de vote des actionnaires. Des gouvernances où la concession des droits de vote à l’assemblée générale serait conditionnée à la présence de plus d’un an des actionnaires dans l’entreprise. Cela éviterait l’influence des fonds vautours ou opportunistes, et restaurerait des systèmes où les entrepreneurs pourront rester les arbitres des décisions.
Autant de systèmes qui remettent l’ensemble des acteurs et parties prenantes dans une communauté de destin.
Concernant plus spécifiquement les produits nocifs de la Big Tech, je vois également émerger une phase de désaffection et de désintoxication des réseaux sociaux qui ont désormais un effet prouvé et délétère sur la psyché humaine et particulièrement chez les jeunes femmes.
Sur le sujet des réseaux sociaux et de la santé mentale, nous arrivons en effet à une situation où les entreprises se retrouvent avec une main-d’œuvre fragile et potentiellement inemployable.
En prolongeant les réflexions de Bernard Stiegler sur la destruction de l’attention, je pense que le capitalisme va se poser des questions quand une frange trop importante de cohortes qui arriveront sur le marché du travail ne sera plus en assez bonne santé mentale…Ce n’est pas un hasard si les milliardaires de la Silicon Valley mettent leurs enfants dans des établissements scolaires bannissant les smartphones et si les Chinois ont limité les jeux en réseau à deux heures par semaine.
Umanz – Quelles leçons la science-fiction apporte-t-elle face à nos polycrises ?
Vincent Bontems : Je fais souvent des ateliers de simulation avec les dirigeants sur ce que cela impliquerait d’habiter la planète Arrakis dans Dune de Frank Herbert.
Cela permet de prendre des concepts, les replacer dans un autre monde pour mieux revenir au nôtre.
Cet exercice de décentrement du regard et de diffraction libère l’imagination et évite les biais effondristes ou survivalistes ainsi que leurs effets secondaires en matière de résurgence du fascisme ou d’un ressentiment qui n’aboutit jamais à résoudre des injustices.
Dans ces exercices, je m’inspire également des Dépossédés d’Ursula Le Guin et de l’utopie d’Anarres. Un roman qui, en écho, invite à jeter un regard sur l’obscénité de certains de nos objets ou institutions modernes comme le Mall américain ou les supermarchés où nos produits sont fardés comme des prostitués, où l’on a effacé toute trace des gens qui les ont produits. Des produits que l’on condamne d’un pouce tourné vers le bas, ou que l’on condamne à mort en les jetant après une courte utilisation. Des réflexions qui invitent à repenser la responsabilité vis-à-vis des objets, à dissocier l’usus de l’abusus.
Nous avons petit à petit construit une relation despotique et malveillante avec les objets qui est tout le contraire de la relation qu’un musicien entretient avec son Stradivarius.
Ces exercices que nous menons au CEA, dans le cadre du master MTI (Management de la technologie et de l’Innovation), amènent à déconstruire certains leurres ou visions technosolutionnistes à la Elon Musk qui, sous couvert de servir à coloniser Mars, ne visent qu’à la survie d’une minorité sur une terre dégradée.
Umanz – Que faire quand la mise en réseau du monde est dominée par des algorithmes à la fois privés et blackbox ?
Vincent Bontems : Nous n’avons pas résolu nos problèmes de coexistence avec la machine, encore moins avec les algorithmes. Nous sommes pris dans une intensification de la logique du champ décrite par Bourdieu : nous sommes tous des classés classant, qui luttent pour améliorer leur classement, mais désormais nous n’avons plus le pouvoir de changer les classifications. Ce sont les algorithmes qui les déterminent !
Et les algorithmes nous privent en quelque sorte de notre capacité de régulation de la société. La chose la plus difficile, c’est que nous n’avons pas encore résolu nos problèmes de coexistence avec la machine, que nous sommes déjà soumis à une nouvelle aliénation.
Face à l’extrême difficulté à faire exercer des choix éthiques et politiques dans un monde algorithmique, l’éthique du Juste Milieu (une vertu s’oppose à deux vices, l’un par excès, l’autre par défaut, de même que le courage s’oppose à la fois à la rareté et à la témérité) ne suffira plus.
Pour se retenir de liker ou de retweeter telle ou telle provocation, il faut prendre le temps de réfléchir deux secondes. On peut ainsi apprendre à ralentir pour diminuer la nocivité. Comprendre que les réseaux sociaux sont des excitants comme le sucre. Laisser faire l’expérience de l’écoeurement plutôt que le sevrage ou le rationnement. Mais le mieux serait de réguler le rythme du fonctionnement des technologies de l’information, d’en faire des right techs, et que l’humain redevienne, comme le préconisait Simondon, le chef d’orchestre des machines.
Umanz- Vous avez écrit : “la machine se dérègle mais ne se révolte pas. » Contrairement à beaucoup d’ingénieurs et d’intellectuels, vous ne voyez pas l’IA se tourner contre les hommes, pourquoi ?
Vincent Bontems : Je pense que ce type de menace mise en avant est assez mal posée et assez hypocrite.
Hypocrite parce que le moratoire demandé vient de Peter Thiel qui, constatant le biais woke des premières IA conversationnelles, veut simplement gagner du temps pour développer ses IA libertariennes.
Il n’existe pas d’IA non biaisée. Un agent conversationnel n’est ni un moteur de recherche ni un agrégateur de connaissances. C’est un Sophiste qui ne sait pas où est la vérité. Il apprend d’une manière différente de nous à travers les co-occurrences multi-échelles qu’il recombine.
Ensuite, il fait appel à de nombreux filtres humains pour expurger ses incorrections, c’est-à-dire être conforme à un certain référentiel, et pour vous faire plaisir (piéger votre attention) on lui a appris à faire semblant d’être un individu humain, à exploiter les ressorts de la projection anthropomorphique.
Le vrai danger de l’IA, à mon sens, n’est pas tant dans les menaces existentielles qu’elle ferait peser sur l’espèce humaine, il est dans cette généralisation sophistique de la non-vérité, d’un flux permanent d’informations non pertinentes et l’avènement d’une société du bullshit… Une société qui peut se passer de la vérité.
Or, nous prévient Platon depuis 2500 ans, une société qui peut se passer de la vérité est une société qui se détruit.
Biographie de Vincent Bontems
Vincent Bontems est philosophe des sciences et des techniques, directeur de recherches au CEA, co-directeur du master Management de la technologie et de l’innovation à l’INSTN, et directeur de la collection L’Âne d’or aux éditions Les Belles Lettres.
Il organise un colloque de Cerisy-la-Salle du 30 août au 5 septembre sur « Où sont les technologies d’avenir (pour vous inscrire cliquez ici22) ? De Simondon à la science-fiction » et sort prochainement un livre sur l’innovation : Au Nom de l’Innovation. Finalités et modalités de la recherche au XXIe siècle, Les Belles Lettres, octobre 2023.