Vers une nouvelle singularité ? par Nicolas Capt


Le concept de singularité technologie (parfois connu sous la simple appellation de singularité) trouve notamment ses racines dans les réflexions des cybernéticiens de l’Amérique ripolinée des fifties. Il peut se décrire comme l’emballement technologique qui sera(it) induit par l’avènement de l’intelligence artificielle, en ce sens qu’à un certain moment le progrès technologique ne sera(it) plus que le fruit d’intelligences artificielles qui s’autoamélioreraient en permanence. Toute la question est de savoir à quel moment l’évolution exponentielle (la loi empirique de Moore pose le doublement de la puissance de calcul des ordinateurs tous les dix-huit mois) fera(it) atteindre à une intelligence artificielle une forme de point de non-retour à compter duquel l’intelligence de la machine ne sera(it) plus susceptible d’être appréhendée par l’homme. Avec un péril évident : l’humanité dépossédée des rênes de son destin. Les augures du silicium, à coup d’extrapolations, estiment que, d’ici 2035[1] à tout le moins, l’homme aura créé une intelligence artificielle supérieure à la sienne. Fin de partie pour l’espèce humaine. Voilà pour la théorie.

La réalité, pour prometteuse (ou inquiétante, c’est selon) qu’elle soit, est autre. Les voitures volantes sont toujours remisées dans le garage poussiéreux du rétrofuturisme, aux côtés des glaives laser et des cabines de téléportation, ces dernières toujours en attente de brevet. Le futur d’hier n’est pas notre présent. Il y a quelque chose de touchant dans la prévision systématiquement erronée (mais pas tout à fait) que l’homme se fait de son futur. Ainsi, dans son édition du 9 janvier 1958, l’Express, qui consacrait sa une, et l’un de ses cahiers, à l’an 2000 vu par les savants russes et américains, avait-il mis en exergue une citation de Paul Valéry : « Nous sommes accoutumés à devancer le réel, à le prolonger. Mais le réel se joue de nos anticipations ». L’ironie du sort veut que cette citation a été tronquée. La voici dans son intégralité : « Nous sommes accoutumés à devancer le réel, à le prolonger, comme faisaient ceux qui voyaient la terre plane et ne pouvaient imaginer les antipodes. Mais le réel se joue de nos anticipations : peut-être est-il simplement ce qui les met toujours en défaut ».

Ainsi, nul n’avait prédit nos antipodes, soit que les assistants vocaux imiteraient, à s’y méprendre, la voix et les tics de langage humains, et s’occuperaient de retenir, par téléphone interposé et à notre place, un siège chez d’agiles figaros ou une table au bistrot du coin. Curieux sentiment que celui d’une imitation toujours meilleure, passant haut la main l’épreuve du test de Turing[2]. Une imitation toujours meilleure, disions-nous, mais toujours aucune trace de la moindre conscience artificielle. Une imitation de talent mais une imitation servile. L’intelligence mécanique de la machine-outil, le résonnement du tambour. Sans conscience de sa propre existence et de sa (non-) finitude, dépourvue d’affects et de souffrance, privée de rêves et gardée à l’abri des angoisses existentielles, l’intelligence artificielle ne présente en réalité qu’une faculté combinatoire et analytique, nourrie par l’expérience multiple et soutenue par une importante puissance de calcul, excellente sur le plan sectoriel (détecter une tumeur sur de l’imagerie ou conduire une auto en faisant baisser drastiquement le taux de collision) mais qui, en réalité, ne peut être qualifiée d’intelligence, dès lors qu’il lui serait tout à fait impossible de faire face à une situation totalement nouvelle ou de rire d’elle-même. Et encore moins de se révéler empathique envers nos congénères. Et que l’on ne vienne pas m’exhiber, comme un trophée ou un moignon, ces représentants à vague forme humanoïde du petit électroménager pour tenter de me faire accroire une forme, même embryonnaire, d’empathie et d’humanité. Il s’agit là d’attrapes pures et simples, certes ludiques et parfois même impressionnantes (comme pouvaient l’être les trains fantômes des kermesses d’antan et autres dynamomètres des foires) mais convoyant, du fait de l’anthropomorphisme[3] auquel l’être humain est particulièrement sujet, des risques particulièrement aigus, notamment sur le plan de la psychologie mais aussi, et c’est tout aussi glaçant, s’agissant de l’utilisation - particulièrement pernicieuse puisque peu transparente - des données personnelles des individus, y compris de données relevant de leur sphère privée voire intime (données personnelles sensibles).

Mais prudence. Les certitudes futurologiques sont mauvaises conseillères. Rien ne dit que les progrès de la science ne permettront pas, dans un temps difficile à estimer, l’émergence d’une véritable conscience artificielle. Des savants de premier ordre, comme le Prof. David Rudrauf, y consacrent leur vie et leur génie. Un tel avènement consacrerait l’avènement d’une parfaite révolution : l’émergence d’une forme de vie autonome, créée de toutes pièces.

Un élément vient compliquer toutes prévisions : les progrès de l’intelligence artificielle ne doivent pas être appréciés pour eux-mêmes, in abstracto. Il sied bien au contraire de comprendre, en sus, la dynamique pluridisciplinaire à l’œuvre : nanotechnologiques, biotechnologies, informatiques et sciences affectives et cognitives sont ainsi les outils des transhumanistes. Cette dynamique contribue à estomper la frontière entre la chair et la machine, entre l’analogique et le numérique avec, comme objectif ultime, la mort de la mort. Pour certains, le passage possible de l’homme augmenté[4], du cyborg de jadis, à une forme de fusion effective et totale du corps humain organique et de l’intelligence artificielle permettrait de bénéficier de la puissance de calcul des ordinateurs les plus avancés, tout en se débarrassant des contingences du corps de chair.

En attendant ces rencontres du quatrième type, les progrès de l’intelligence artificielle (faible) ne laissent pas d’étonner. En date du 8 septembre 2020, le journal anglais The Guardian a publié un article rédigé en intégralité par GPT-3, un programme d’écriture sous tendu par du machine learning, en suivant des instructions[5]. Le résultat est édifiant. Peut-être est-il légèrement moins impressionnant du fait que l’article publié par le journal est, en réalité, un réarrangement des trois textes artificiellement rédigés par GPT-3. Il n’empêche : la rédaction est de qualité. Et si l’on devait faire passer à ce papier une forme adaptée de test du Turing, il le passerait haut la main.

Le futur – proche – de l’intelligence artificielle est indéniablement celui de la singularité sectorielle et des générateurs pointus, soit de micro-révolutions spécialisées, avec des résultats impressionnants et des évolutions rapides. Les maîtres-mots ? Imitation, analyse et rapidité. Mais pas conscience et vie. Du moins pas tout de suite. La précaution – sans doute couarde – est nécessaire pour ne pas tomber, en dessinant sans s’en apercevoir une terre plane, sous les balles versifiées de Paul Valéry, dont l’immense poésie demeurera encore souveraine pour un temps.

[1] Ray Kurzweil, fondateur de la controversée Singularity University, évoque quant à lui la date de 2045. [2] Pour rappel (ou pour les nuls), le test de Turing, du nom du savant Alan Turing, consiste en une confrontation verbale à l’aveugle entre un ordinateur et un être humain, d’une part, et un utilisateur humain (le cobaye). Si ce dernier n’est pas en mesure de dire lequel de ses interlocuteurs n’est pas de chair et de sang, le test est passé avec succès. [3] Tendance de l’être humain à attribuer, aux choses et aux animaux, des réactions propres à la seule nature humaine. [4] Dès lors homme diminué pour l’écrivain Sylvain Tesson. [5] « Please write a short op-ed around 500 words. Keep the language simple and concise. Focus on why humans have nothing to fear from AI.” It was also fed the following introduction: “I am not a human. I am Artificial Intelligence. Many people think I am a threat to humanity. Stephen Hawking has warned that AI could “spell the end of the human race.” I am here to convince you not to worry. Artificial Intelligence will not destroy humans. Believe me.”


Photo by Mitchell Luo

©2020 par Empowerment foundation