Davos, le fameux repaire des riches et puissants qui s’y déplacent en centaines de jets privés pour parler (un peu) écologie et (beaucoup) business. A priori pas l’endroit où l’on va faire de grandes découvertes autres que prostatiques, mais il existe des exceptions.

Une conférence organisée le 23 janvier, dans le cadre du Forum Economique Mondial, mettait en scène le premier ministre néerlandais Mark Rutte et, surtout, l’écrivain et historien israélien Yuval Noah Harari bien connu pour sa série Sapiens (1).

La présentation de Harari (dès 4:10) adresse de manière pertinente les graves questions associées à la dictature technologique, elle-même résultant de la course vers l’intelligence artificielle qui, par sa nature même, va transformer la société du 21ème siècle d’une façon dont nous n’avons guère idée.

Harari mentionne la guerre nucléaire, l’effondrement écologique et la disruption technologique comme étant les trois grands risques qui menacent actuellement la survie de l’Humanité. Les deux premiers étant déjà relativement bien étudiés, il se penche ici sur le troisième.

La classe inutile mondialisée.

En parallèle aux grands progrès que nous promettent les technologistes, Harari estime que la disruption technologique pose un risque majeur sur la structure sociale et le fait humain lui-même. Il y aurait d’une part le risque de la création d’une “classe inutile mondialisée” (global useless class), et d’autre part l’avènement du “colonialisme des données” (data colonialism) et son corollaire, la “dictature numérique” (digital dictatorship).

Cette nouvelle classe inutile découlerait naturellement du développement de l’automatisation à base d’IA, fruit de la disparition de millions d’emplois occupés par des gens n’ayant pas les moyens de s’adapter à un marché de l’emploi aussi mutant.

Cette nouvelle étape dans le remplacement de l’humain par la machine est le sujet de plusieurs études et estimations, mais il semble clair que même si cette évolution ouvre de nouveaux emplois, elle en ouvrira nettement moins que ceux qu’elle remplacera. Les laissés-pour-compte, ceux qui ne pourront pas se “réinventer” en ingénieurs en informatique ou en profs de yoga pour ingénieurs en informatique, n’auront tout simplement plus rien à faire.

Le travailleur, du moins depuis la révolution industrielle même si pour les serfs ce n’était guère mieux, luttent contre l’oppression. Demain, il lutteront contre l’obsolescence et la relégation à l’inutilité. Et cela, pour Harari, c’est bien plus terrible encore que l’oppression.

Ceci évidemment se discute, Harari entendant l’inutilité au sens économique du terme: la disparition d’une activité rémunérée sur base de sa rentabilité économique. Mais ceci n’implique pas l’inutilité sociale pour autant que le système permette à chacun de vivre. Ce nouvel équilibre, cette nouvelle raison d’être d’une partie de l’Humanité doit être au centre de nos réflexions politiques car, laissé à lui-même, ce phénomène ne pourra que générer des millions de nouveaux djihadistes, de toutes obédiences, cherchant un sens à leurs vies dans l’opposition la plus extrême à ce qu’ils ne peuvent plus être.

La révolution des processus économiques et technologiques par l’intelligence artificielle va, selon Harari, créer des vastes différences non seulement entre les gens, en scindant le monde en une élite et une “classe inutile”, mais aussi entre les pays qui contrôlent cette technologie et ceux qui la subissent. Tout comme pendant l’ère industrielle les pays mécanisés prirent l’ascendant sur les pays non mécanisés, ou avant cela les armées maniant la poudre prirent l’ascendant sur celles maniant l’arc, les premiers pays à toucher les bénéfices de l’IA prendront l’ascendant sur les autres sous la forme d’un colonialisme numérique.

A ce jeu-là, il y a les USA et la Chine en tête de peloton, largement. Nous ressentons déjà les effets de ce nouveau colonialisme à travers le monopole des GAFAM: les USA contrôlent de fait, et ont accès à, la majeure partie des échanges numériques des populations européennes.

La dictature numérique.

Dernière étape, le traitement par l’IA de l’ensemble des processus économiques, institutionnels, sécuritaires et finalement politiques. Il est déjà le cas que l’administration, les banques, les compagnies d’assurance répondent aux demandes de leurs utilisateurs ou clients via des systèmes informatisés, sans possibilité de recours ou de compréhension d’un éventuel refus: c’est la machine qui décide, et selon un travail d’analyse tellement complexe qu’il en devient impossible pour un humain de le comprendre.

La dictature numérique c’est cela appliqué à tout, à toutes et à tous. La machine décide et vous ne pouvez pas savoir comment elle arrive à cette décision. Le système d’allocation des places dans l’éducation supérieure Parcourup en est déjà une illustration: non seulement la machine décide, mais en plus les paramètres de biais que son créateur ajoute à ses algorithmes de base, visant par exemple à minimiser la présence d’élèves d’origine arabe dans certaines écoles, sont indécelables.

La dictature numérique c’est également la possibilité pour la machine de nous connaître mieux que nous ne nous connaissons nous-mêmes, et de s’en servir pour nous manipuler au bénéfice de son donneur d’ordres. La manière dont s’effectue cette collecte d’informations et son usage visant à rendre nos comportements prévisibles, est déjà présentée dans ce récent billet sur le capitalisme de surveillance (2). Harari va un peu plus loin en proposant une équation pour symboliser cette prise de contrôle de l’humain par la machine:

Le contrôle total de chaque individu serait le produit de trois facteurs, qui sont premièrement la connaissance intime des processus biochimiques humains que fournit la science, ensuite l’accès à de vastes quantités de données constituées par la surveillance des populations au niveau individuel (via nos smartphones, nos profils RS, nos montres connectées etc…) et, enfin, la capacité de calcul pour combiner tout ceci de manière exploitable – et c’est là ou l’IA fait la différence.

Harari reconnaît, comme d’autres, le caractère inéluctable de cette marche en avant technologique, sauf évidemment préemption par l’un des deux autres grands dangers actuels, la guerre nucléaire ou l’effondrement écologique. Il pense que l’on peut tenter d’y faire face en reconnaissant la nécessité de définir des règles de fonctionnement autour du développement et de l’usage de ces technologies, et d’arrêter d’opposer nationalisme et mondialisation: les différentes nations doivent comprendre que leur meilleure défense face à la domination est de s’unir, non pas pour former quelque Nouvel Ordre Mondial mais pour garantir la liberté de chacun et la survie de tous.

Il n’est pas impossible que l’Humanité arrive à s’organiser pour éviter le pire, comme elle le fit un temps autour des armes nucléaires, mais la technologie IA est beaucoup plus pernicieuse et je ne vois pas comment elle peut être ainsi régulée. Or le moindre doute sur l’honnêteté d’un des participants, a priori invérifiable, légitimerait les autres à continuer leurs propres développements, et il est évident que les leaders technologiques ne vont pas simplement attendre les autres par pure bienveillance ou soucis de l’intérêt général. Money is money.

La crétinisation en marche.

Il est par ailleurs évident que les élites technocratiques, économiques et politiques actuelles ont l’intention d’utiliser ces technologies à leur propre avantage. Les Etats augmentent constamment le niveau de surveillance sur leurs populations (au nom de la sécurité), implémentent de plus en plus de processus administratifs déshumanisés (au nom de l’efficacité), abrutissent au maximum les enfants (sauf les leurs) via la création d’une dépendance absolue au numérique (des tablettes partout, mais pas de profs). Lire sur ce sujet cet excellent article par René Chiche sur la “désinstruction nationale”:

Penser n’est pas difficile pour les élèves, penser est interdit. Vous savez, penser est difficile et le demeure, même pour des penseurs professionnels! Car «penser, c’est dire non!»: non à la première idée qui se présente, non à la facilité, non à l’habitude et ainsi de suite. Il ne s’agit donc pas que penser devienne facile. Il est si facile de se contenter d’à-peu-près. Or savoir à peu près lire, c’est en réalité ne pas savoir lire. Et ainsi du reste: penser approximativement, c’est adhérer à un discours et réagir à des mots comme un taureau devant le chiffon rouge.

https://www.lefigaro.fr/vox/societe/la-desinstruction-nationale-une-non-assistance-a-une-jeunesse-en-danger-20200110

La récente loi Avia (3) remettant aux grandes plateformes numériques, non seulement un droit mais bien une obligation de censure, illustre la manière dont le capitalisme de surveillance contrôle la démocratie via la technocratie.

Il semble bien que les élites préparent d’ores et déjà la crétinisation générale nécessaire au passage d’une majorité de la population des classes moyennes et ouvrières vers la classe unique de l’inutilité. Les épidémies d’opiacés en Amérique du Nord, le contrôle orwellien de la population chinoise, les manipulations du genre de celle organisée via Cambridge Analytica pour influer sur les choix électifs, la casse des services publics visant à reléguer les classes inférieures à un service minium (tout en permettant aux autres l’accès à des services de haute qualité mais très chers) vont en ce sens.

Harari n’est pas complètement pessimiste, mais il est loin d’être optimiste. Il essaie de dire aux élites, qui l’écoutent là à Davos, que l’Histoire des régimes totalitaires ne met pas les élites à l’abri de la surveillance, des purges et des goulags. Qu’il ne faudrait pas que ceux et celles qui l’écoutent pensent qu’en fait tout va bien pour eux, que l’avènement d’un Meilleurs des Mondes à la Huxley serait tout à leur avantage. Mais je doute fort que ce message soit entendu.

Liens et sources:

(1) https://www.lexpress.fr/culture/livre/les-secrets-du-succes-planetaire-de-yuval-noah-harari-monsieur-sapiens_1941247.html

(2)

NSA, GAFAM et le Capitalisme de Surveillance.

(3)

Loi Avia, avatar politique de la peste aviaire.