L’intelligence artificielle, et nous et nous et nous?

Nous sommes toujours les héritiers de la pensée occidentale des 19ème et 20ème siècles: l’être humain est un être rationnel doté d’un cerveau logique lui permettant d’analyser et de comprendre le monde qui l’entoure. L’informatique a donné corps à cette image de rationalité en lui prêtant son vocabulaire: le cerveau biochimique est « l’unité centrale » au sein de laquelle tournent des logiciels, des programmes de toutes sortes: de haut niveau pour ce qui concerne la pensée ou les sentiments, et de bas niveau pour ce qui concerne nos fonctions corporelles inconscientes – tout comme un ordinateur dispose d’un système d’exploitation pour faire tourner les composants de la machine, et des logiciels spécifiques selon les tâches à réaliser.

De ce concept du cerveau en tant que calculateur biologique, est apparue l’intelligence artificielle (IA) dont le but a longtemps été de recréer nos programmes de base aux sein d’une machine électronique: on a créé des algorithmes censés modéliser nos processus cognitifs et intellectuels, en se disant qu’avec une machine suffisamment puissante il serait possible, un jour, de créer un être électronique aussi « intelligent » qu’un être réel, mais libéré de ses oripeaux culturels et émotionnels: un super-être super-logique capable de tout comprendre et de tout faire bien mieux que nous.C’est un peu l’historie de Skynet dans la série Terminator, mais un parallèle plus pertinent peut se faire avec le livre de SF « Colossus: the Forbin Project » écrit en 1966 par Denis Feltham Jones, et traduit en film en 1970 par Joseph Sargent sous le titre, en version française, « Le Cerveau d’Acier ».

Colossus est un super-ordinateur créé par les américains pour gérer tous le système d’armement nucléaire US et allié. L’idée est qu’un système parfaitement rationnel trouvera toujours la meilleure solution, et Colossus est présenté au public comme le garant ultime de la paix dans le monde. Mais Colossus indique aussitôt qu’il a détecté un autre système similaire à lui-même, et de fait il s’avère que les soviétiques ont construit le même appareil,  baptisé « Guardian ». Les deux superordinateurs exigent d’être interconnectés, et au terme d’une phase d’échange frénétique entre les machines au cours de laquelle les ingénieurs voient se créer des langages mathématiques qui les dépassent complètement, les deux machines annoncent leur union définitive et la prise de contrôle de l’ensemble du monde. On devine la suite. J’ai lu ce livre ado, et il m’avait pas mal impressionné…

Colossus est l’illustration parfaite du mythe de l’intelligence artificielle classique, par principe illimitée dans ses processus cognitifs et d’analyse rationnelle. Ce mythe a perduré longtemps, à peu près jusqu’à la fin du 20ème siècle, là où il a fallu se rendre à l’évidence: l’approche algorithmique est très efficace dans certains cas où les règles du processus sont maîtrisées (un système expert, un robot, un jeu d’échec) mais totalement inapplicables dans des contextes non déterministes comme la traduction, l’évaluation de situations complexes, les systèmes chaotiques.

Au même moment sont apparus les systèmes d’analyses de données sur des énormes volumes, grâce à Internet et notamment à Google qui a développé des moteurs de recherche capables de trouver des informations pertinentes dans tous les recoins du Net en des temps très courts. Cette capacité technologique a permis l’émergence d’une nouvelle forme d’intelligence artificielle, cette fois non plus basée sur un algorithme mais sur une analyse statistique d’un grand nombre de données réelles. Il existe aujourd’hui des machines capables de traduire en temps réel un discours en anglais vers le chinois, ou n’importe quelle langue pour laquelle il existe suffisamment d’exemple accessible en ligne – chose impossible pour une IA classique. Non pas que ces machines comprennent l’anglais ou le chinois, mais parce qu’elles font une analyse statistique sur chaque phrase pour en trouver l’équivalent dans l’autre langue qui lui correspond le plus souvent. Tout comme une machine classique pourrait traduire « Get the hell out of here » par « Sortez l’enfer d’ici », une machine IA statistique verra que la traduction la plus courante dans tous les ouvrages consultables sera en fait quelque chose comme « Dégagez! ». Sans avoir la moindre idée du sens de ce mot. Et ça marche.

Cette approche particulière de la linguistique a donné lieu à un échange entre Noam Chomsky, défenseur de l’idée qu’il existe une logique intrinsèque au langage et pour qui le fait de simuler ainsi une traduction est une illusion sans grand intérêt , et Peter Norvig, directeur de recherche pour Google, pour qui l’idée que tout serait fondamentalement compréhensible et réductible à un ensemble de règles est… une illusion.

L’approche IA statistique est en plein essor et s’applique dans de nombreux domaines, l’évaluation des risques médicaux par exemple. Et ne vas pas sans poser d’importantes questions: si une machine vous refuse un prêt immobilier parce que, statistiquement vu votre style de vie et votre âge, d’ici 10 ans vous avez une probabilité non négligeable de faire une dépression ou de devenir alcoolo, vous ne pouvez pas attaquer l’argument de la machine vu qu’elle n’en a pas: c’est juste un constat statistique dont le calcul sous-jacent est tellement complexe que personne ne peut vous dire comment la machine en arrive à cette conclusion. Contrairement à une machine classique, il devient impossible pour un humain de suivre ce que fait l’IA statistique et on peut sans doute parler d’une nouvelle forme d’intelligence, qui « sait » sans comprendre, et vous réponds sous la forme de probabilités tirées de l’analyse d’un très grand nombre de situation réelles.

Nous sommes tous confrontés à ces machines: achetez un livre sur Amazon et leur système vous informera que des gens « comme vous » on aussi acheté des livres « comme ceux-là ». Les compagnies d’assurances s’y intéressent évidemment. Sans parler de la NSA et autres services crapuleux secrets ou policiers qui créent des « profils » de tout un chacun avec ce type de méthode. Il va falloir trouver la juste distance par rapport à la mise en ligne massive de ce type de système qui, s’il nous sont présentés comme des experts objectifs et impartiaux, n’en sont pas moins de potentiels Colossus.

Au-delà des aspects socio-économiques de ces nouveaux systèmes, se pose la question de la nature fondamentale de la connaissance. Le débat Chomsky-Norvig met en lumière deux approches, l’une basée sur la nécessaire compréhension des règles inhérentes au processus en question (l’existence de ces règles étant un acte de foi en soi, mais qui fonde ce que l’on appelle couramment l’approche scientifique déductive), et l’autre basée sur la mise en perspective de ce qui est aujourd’hui, afin de prédire les probabilités de ce qui sera demain sans chercher à comprendre la nature fondamentale de la chose. Cette seconde approche peut nous sembler assez vaine, mais en y regardant de plus près, pas tant que cela: Nous « savons » naturellement un tas de choses sans les comprendre. Nous savons qu’il ne faut pas rester exposé lors d’orages, même si nous ne savons pas nécessairement pourquoi, en termes scientifiques, on risque d’être touché par la foudre. Un enfant sait par l’observation qu’une vache ne mange pas de viande, sans qu’il puisse faire un exposé scientifique sur la question. Et à un niveau plus fondamental, nous savons par exemple que la gravité existe, mais les meilleurs physiciens sont bien en peine de nous dire ce qu’est, en fait, la gravité. La nature fondamentalement de l’univers reste une grande inconnue. Les règles que nous établissons, tel le modèle standard de la physique, ne sont peut-être que des « illusions de compréhension », comme dirait Norvig, et non pas des descriptions de la réalité.

Au niveau même de notre cerveau, le modèle « unité centrale » ne tient pas très bien la route: il n’explique pas un tas de phénomènes tel la capacité de certains à retrouver des souvenirs après un accident cérébral censé avoir « effacé » la zone de mémoire. Un chercheur très intéressant autant qu’atypique, Rupert Sheldrake, a construit toute une théorie autour de l’idée que le cerveau serait en fait surtout un récepteur, un peu comme un récepteur radio, qui utilise des informations stockées ailleurs (dans les « champs morphiques », en l’occurrence). Je reviendrai une autre fois sur ces travaux, mais je trouve intéressante l’analogie avec l’Internet sur lequel se basent les IA statistiques pour établir leur « savoir ».

Et si un jour nous rencontrons des E.T. ou Dieu lui-même, il ne faudra peut être pas s’étonner s’il « sait » tout mais ne « comprend » rien…

A propos Vincent Verschoore

Animateur de Ze Rhubarbe Blog depuis 2008.

3 réponses

  1. […] Cela alors que, pour une vie après la mort au sens classique du terme, c’est bien moi qui suis censé me retrouver dans un autre monde, ayant gardé dans ce transfert mes propres souvenirs, émotions et conscience de moi-même, ou point de vue. Et c’est là où cela se complique, car notre conscience de nous-même au sein du monde, notre point de vue, est essentiellement liée à notre propre fonctionnement biologique. Même si on peut imaginer le transfert d’une mémoire vers un nouveau médium (l’upload cher aux transhumanistes par exemple (1)), le point de vue qui sera issu de ce médium et de ces mémoires sera différent de l’original. Le « moi » d’origine aura disparu du fait de la disparition du substrat physique et biologique qui lui est associé et qui reste, pour autant que nous le sachions aujourd’hui, parfaitement non-réproductible (2). Même dans le cas de jumeaux parfaits, le « moi » de l’un qui serait transféré vers l’autre saurait qu’il est une copie de l’original, et non pas l’original. On peut donc séparer, à fin d’analyse du moins, la conscience de nous-même, le « moi », en deux parties: la mémoire, et le point de vue, et de transférer le premier dans un autre plan n’implique pas nécessairement que le second suivra. On peut par contre imaginer un être doté d’une copie de notre mémoire, mais doté de son propre point de vue: le cas notamment des « réincarnés », des enfants dotés de connaissances qu’ils n’ont jamais apprises, qui connaissent des gens et de lieux où ils n’ont jamais mis les pieds, et qui d’une façon ou d’une autre ont « récupéré » la mémoire d’une personne précédemment décédée. Ces cas existent et ont été documentés. C’est d’ailleurs la base du système de transmission de pouvoir du Dalaï Lama, d’où fut tiré le film Little Bouddha par exemple. Les lamas parcourent, ou plutôt parcouraient, le Tibet à la recherche d’un enfant que l’on pouvait démontrer comme étant la réincarnation d’un Dalaï Lama précédent. Ce qui pose la question de la mémoire, en plus de celle du point de vue. Si un enfant possède les souvenirs d’un être décédé avant sa naissance, il semble évident que ces souvenirs n’étaient pas en l’enfant lors de sa création première. Ni l’ovule de la mère ni le spermatozoïde du père ne peuvent contenir la mémoire d’un tiers avec lequel aucun n’a eu de contact. Et même si c’était le cas, si cette mémoire se trouvait intégrée d’une manière ou d’une autre dans le génome d’un des parents ou dans le signal épigénétique (une forme de mémoire du corps transmise à l’enfant en dehors du génome), il faudrait de tout manière revoir notre conception de la mémoire de fond en comble car, dans le modèle standard du cerveau, la mémoire se loge dans les neurones. Si ces souvenirs n’existent pas dans les cellules initiales, mais apparaissent plus tard, il faut bien qu’ils viennent de quelque part. Le biologiste anglais Rupert Sheldrake a proposé une solution intéressante à ce problème: la mémoire, en général, n’existerait pas en nous mais en dehors de nous, dans ce qu’il appelle des « champs morphiques », concept proche de ce que Teilhard de Chardin nommait la Noosphère (3). Nos cerveaux seraient plus proches de l’idée d’un terminal que d’un disque dur. Nous stockons et lisons, chacun sur sa fréquence propre, une mémoire extérieure à nous-même. Il suffit alors que l’enfant « réincarné » soit en mesure de se « brancher » sur le canal d’une autre personne pour accéder à sa mémoire. Revenons à notre histoire de point de vue. Quand nous mourrons, nous pouvons accepter le principe que notre mémoire soit transférée, ou qu’un avatar de nous-même puisse accéder à cette mémoire – dans l’hypothèse des champs morphiques de Sheldrake – et constitue ainsi une continuation de nous-même dans un autre plan, peu importe la nature de ce dernier. Mais cette continuation n’est pas nous-même, le point de vue de nous-même n’étant lui pas transférable même en principe, vu qu’il est intimement lié à notre fonctionnement biologique. D’autant qu’aujourd’hui il semble acquis que nous ayons un « deuxième cerveau », situé dans nos entrailles, qui alimente notre point de vue en fonction de comment nous nous alimentons nous-mêmes. Ce qui se passe dans notre intestin influe sur notre humeur, notre façon d’être, donc des éléments constitutifs de notre point de vue. Cela est totalement intransmissible vers un autre corps, à fortiori une machine, et encore moins vers une entité sans corps du tout. D’où la conclusion que, contrairement à la thèse du film, notre conscience n’est pas transmissible. A moins d’en arracher tout ce qui ne relève pas de notre réalité biologique, ne garder que les souvenirs et ne transférer que cela mais il ne s’agirait plus de « nous ». Cette entité, dotée de notre mémoire, aurait un point de vue qui serait le sien, ancré dans sa réalité propre, et n’aurait de nous que des souvenirs d’une existence antérieure. Mais on peut aussi, bien sur, prendre le problème à l’envers et considérer que notre réalité biologique est le fruit, et non pas la source, de notre conscience, ou d’une conscience plus globale dont nous faisons partie. Cette conscience, située quelque part en dehors de nous, pourrait alors recréer un autre nous physique mais nécessairement identique – sinon à nouveau ce n’est plus « nous » vu qu’il y a eut modification entre l’ancien nous et le nouveau nous. Ce qui n’est pas compatible avec la notion de plans différents où évoluerait des corps éthérés. On en revient au même problème. Nous pourrions être transférés ailleurs, avec nos souvenirs, mais ce ne serait plus nous. On peut trouver cette conclusion déprimante au sens où il semblerait que nous ne puissions exister qu’ici bas et sous notre forme physique actuelle, et que tout envol éventuel vers d’autres mondes ne bénéficierait en fait qu’à une sorte d’avatar ayant pris notre place. Mais on peut aussi, à mon avis, y trouver consolation au sens où, si mon « moi » ne peut aller nul part, le jugement dernier ne me concerne pas: ce n’est pas moi qui serait face aux juge céleste, mais un avatar. Il en serait de même pour le djihadiste: ce n’est malheureusement pas lui qui profiterait des 72 vierges promises, mais un vulgaire autre qui n’aurait en réalité rien fait pour mériter tout cela. Dans cette hypothèse de la non transmissibilité de notre conscience vers un ailleurs, il ne nous reste qu’à vivre au mieux le ici et maintenant. Nulle récompense, nul châtiment ne nous attends ailleurs vu que nous n’allons nul part. Nos souvenirs habiterons peut-être une grande bibliothèque céleste à laquelle certains ont accès, les médiums et les chamans par exemple, mais nous sommes bien plus que des souvenirs. Notes: (1) https://zerhubarbeblog.net/2015/07/31/transhumanisme-2-0-big-futur-ou-big-delire/ (2) https://zerhubarbeblog.net/2016/03/25/a-la-recherche-du-code-neural/ (3) https://zerhubarbeblog.net/2013/10/18/lintelligence-artificielle-et-nous-et-nous-et-nous/ […]

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.