Ray Kurzweil, la loi du retour accéléré, la Singularité vous disent quelque chose? Bienvenue à une vision de l’avenir proche (vers 2045) proposé par ce fameux Ray Kurzweil, aujourd’hui le prévisionniste en chef de Google mais ayant derrière lui une brillante carrière dans les hautes sphères technologiques, et auteur de plusieurs livres sur l’intelligence artificielle. Le personnage est particulier, comme on peut le découvrir dans ce reportage parût (en français) sur le site du Financial Times. Il est notamment obnubilé par l’allongement de la durée de vie, à commencer par la sienne, qu’il “soigne” avec force pilules et régimes stricts. Mais il est aussi l’inventeur du scanner à plat et du synthétiseur à base de sons échantillonnés, permettant de reproduire le son de n’importe quel instrument “réel”.

Voici comment le site Automatesintelligents.com introduisait, en 2005, le livre que publiait alors Kurzweil sous le titre “The Singularity is near” (La Singularité est proche):

Ray Kurzweil vient de faire paraître un nouveau livre, The Singularity is Near (Penguin Group, 2005) qui explicite avec des arguments considérablement enrichis la principale thèse qui l’a rendu célèbre : celle selon laquelle la convergence et le développement exponentiel des nouvelles technologies conduisent à l’émergence d’un monde complètement transformé. L’homme et les réseaux technologiques s’interpénétreront et se renforceront réciproquement d’une façon qui reculera sans limites prévisibles les frontières de la vie intelligente. Il appelle ce bouleversement la Singularité, parce que rien de ce qui était admis jusqu’alors ne demeurera valide et parce qu’en contrepartie tout ce qui était considéré comme impossible deviendra possible.

Autrement dit, la Singularité (actuellement prévue pour 2045, donc) est cet instant où l’intelligence artificielle se mettra à croître de manière exponentielle, laissant dans la poussière l’intelligence humaine, voire l’humanité tout entière. Cet instant est calculé par la “loi” dite du retour accéléré, qui est une combinaison de la loi de Moore sur l’accroissement exponentiel de la puissance informatique (doublement tous les 18 mois, loi empirique vérifiée jusqu’à présent mais qui pourrait atteindre sa limite d’ici 2018, selon Intel), et de l’impact proportionnel que cet accroissement a sur les autres disciplines. En effet l’informatique est aujourd’hui au coeur de tous les métiers technologiques, et l’augmentation de la puissance de calcul a un effet direct sur l’innovation et la productivité.

Dans la vision transhumaniste, la frontière entre l’homme et la machine est appelée à disparaître. L’humain pourra avoir plusieurs corps, vaincre toutes les maladies, devenir immortel peut être. Son esprit pourra quitter le confinement de la boîte crânienne, s’augmenter par la puissance de la machine, accéder à de nouveaux possibles. Mais on peut aussi bien voir l’inverse: la machine qui dévore l’homme. Comme le faisait remarquer Eric Schmidt, patron de Google:  “il y a une course entre l’ordinateur et l’être humain….. et j’espère que c’est l’être humain qui va gagner“. L’homme technologiquement augmenté à l’assaut des étoiles d’un côté, Terminator de l’autre.

Et cela dépasse largement le cadre de la science-fiction: l’association”Future of Life” regroupant des centaines de personnalités du monde de la science et de l’entreprise, de Stephen Hawking à Elon Musk (Space X) en passant par Noam Chomsky ou Steve Wozniak (co-fondateur d’Apple), a récemment publié deux lettres ouvertes intitulées “Autonomous weapons: an open letter from AI & Robotics researchers” et “Research priorities for robust anf beneficial AI: an open letter“. (AI = Artificial Intelligence).

La première met en garde contre le développent de systèmes d’armes autonomes, ou “robots tueurs”, drones armés autonomes capables de détecter et mitrailler des cibles sans intervention humaine. Exactement le contexte de Terminator, où le réseau de défense super intelligent Skynet, qui contrôle les systèmes d’armes, s’emballe et décide que son ennemi est l’humanité. Le reste fait partie de l’histoire du cinéma, mais peut être un jour de notre histoire à nous si on laisse faire les technocrates psychopathes et politiciens irresponsables qui cautionnent ce type de développements.

La seconde appelle à la prise en compte sociétale de l’intelligence artificielle: les systèmes doivent êtres fiables et au service de la société, ce qui ne va pas nécessairement de soi. Il est donc impératif de tracer dès aujourd’hui les lignes de conduite des développements futurs de l’intelligence artificielle et ses dérivés.

Que l’intelligence artificielle et la puissance informatique continuent à se développer à une cadence élevée ne semble guère faire de doute. L’usage qui en sera fait sera, comme toujours, un mélange de réel progrès et de nouvelles contraintes et menaces. Tout comme Internet est en même temps un espace de liberté et la planète Big Brother, le combat entre la face émancipatrice de la technologie et sa face sombre va continuer. Mais la vision transhumaniste 2.0 à la Kurzweil, d’une Singularité propulsant d’ici 30 ans l’Humanité vers un nouvel avenir où, grâce à l’intégration intelligence humaine + artificielle, elle se débarrassera de ses problèmes domestiques pour accéder à quelque chose qu’il nous est même difficile d’imaginer, a t’elle ne serait-ce qu’une once de crédibilité?

Cette vision n’est a priori pas raccord avec le constat actuel d’un monde perclus par l’hypocrisie et la corruption, les démocraties de pacotille, la prédation économique, l’obscurantisme, le recul des libertés et l’accroissement des inégalités. Bien sûr, il se vend plus d’un milliard de smartphones par an et il y a aujourd’hui plus de trois milliards d’internautes. A l’heure actuelle cela ne fait jamais que 42% de la population disposant d’un accès Internet, mais cette proportion augmente continuellement. Le monde de 2045 sera t’il plus bienveillant et intelligent, avec moins de barbelés, de guerres, de replis identitaires et religieux que le nôtre, ou au contraire un patchwork de féodalités se regardant en chiens de faïence? L’intelligence artificielle aura t’elle contribué à l’émancipation de l’humanité, ou à son servage?

Un scénario possible est qu’une toute petite partie de l’humanité bénéficie directement des avancées technologiques pour muter en une sorte de super-race humaine “augmentée”, alors que la grande majorité doive continuer à travailler pour survivre, à ne compter que sur ses propres muscles et son cerveau naturel. Peut être l’image antique des demi-dieux vivant parmi les simples humains est-elle en fait une réminiscence d’un passé lointain où certains hommes, déjà, disposaient de capacités augmentées?

Une autre possibilité est que le transhumanisme ne soit que pure illusion. Certes on pourra se doter d’exosquelettes ou d’implants technologiques divers et variés, voir se faire greffer un calculateur nous permettant de réaliser des parties d’échecs complexes en quelques minutes, mais cette puissance technologique n’augmenterait ni notre intelligence – et encore moins notre niveau de conscience, dont la nature même est sujette à débat, sujet présenté dans mon billet “Etre ou ne pas être… une simulation” – ni notre durée de vie même si la baisse de la pénibilité de nombreuses tâches serait certainement bénéfique à la qualité de vie.

Reste que, par définition, la Singularité est une porte vers l’inconnu et que si la technologie, d’ici 30 ans, en arrive à un niveau de performance nous permettant, en principe, de régler de nombreux problèmes matériels, économiques et énergétiques, peut être l’humanité se trouvera t’elle prête pour un nouveau départ?