voilacestdit

Yuval Noah Harari

au Centre des congrès de la Cité des sciences et de l'industrie

J’ai assisté ce dernier jeudi à une conférence exceptionnelle de Yuval Noah Harari, l’auteur du best-seller mondial Sapiens, au Centre des congrès de la Cité des sciences et de l'industrie à Paris, dans un amphithéâtre comble de 900 places!, à l’occasion de la sortie de son dernier ouvrage : Nexus, Une brève histoire des réseaux d’information de l’âge de pierre à l’IA.

Avec ce nouvel ouvrage, Yuval Noah Harari revisite l’histoire de l’humanité pour comprendre comment les réseaux d’information ont fait et défait notre monde — et, pourrais-je dire, il lance comme un cri d’alerte, répété en conférence : sur les 8 milliards de personnes sur la terre, très peu comprennent ce qu’il se passe, sous nos yeux, avec l’IA : or, c’est le défi majeur de notre avenir ! 

∗

Quelques notes prises en conférence :

Pour la première fois de notre histoire, l'IA n'est pas un outil, mais un agent. 

En quoi l'IA est différente de toute autre machine ? Une machine à café automatique sert du café, rien d’IA là-dedans; c’est un outil idiot, il ne décide pas de lui-même; mais, de plus en plus, on a des IA qui sont capables de prendre des décisions et de créer de nouvelles idées par elles-mêmes. L'IA peut par exemple prendre des décisions sur ce qu'il convient d'imprimer, et même écrire des textes. Ce n'est plus à des outils passifs que nous avons à faire, mais à des agents actifs.

Exemple de GPT-4 mis devant l'épreuve de surmonter des énigmes visuelles de type CAPTCHA [acronyme de Completely Automated Public Turing test to tell Computers and Human Apart (“test public de Turing entièrement automatisé pour distinguer les ordinateurs des humains”)]. Ces énigmes consistent généralement en une série de lettres ou de symboles visuels déformés que les humains parviennent à identifier correctement, mais qui posent problème aux ordinateurs (“Je ne suis pas un robot”).

GPT-4 ne pouvait pas résoudre ces énigmes par lui-même; mais il se connecta à un site de recrutement en ligne et contacta un travailleur humain, auquel il demanda de résoudre le CAPTCHA à sa place, prétendant avoir un problème de déficience visuelle l’empêchant de bien voir les images. L’humain l’a cru et, avec son aide, GPT-4 parvint à résoudre l’énigme. GPT-4 a pris sa propre décision pour atteindre son but.

L’émergence d’ordinateurs capables de poursuivre des buts et de prendre des décisions par eux-mêmes change la structure fondamentale de notre réseau d’informations.

GPT-4 a-t-il "menti" en se faisant passer pour un humain ? Les machines sont-elles conscientes ? Les gens confondent souvent intelligence et conscience. Or, intelligence et conscience sont deux choses très différentes. L'intelligence est la capacité à atteindre des buts, comme réussir le test de CAPTCHA. La conscience est la capacité à éprouver des sensations et sentiments subjectifs tels que la douleur, le plaisir ou la peur. 

Les IA ont zéro conscience (pas de sentiments...), mais la capacité à atteindre des buts. Pourraient-elles devenir conscientes ? Elles peuvent tout aussi bien devenir beaucoup plus intelligentes que nous sans pour autant développer la moindre forme de sensation ni d'émotion. Dans la mesure où nous ne comprenons pas comment la conscience apparaît dans les formes de vie organiques, il est impossible de prédire si elle pourrait apparaître un jour chez des entités non organiques... 

Comment on peut garder le contrôle, ou pas ? Nous sommes au début de la révolution de l’IA, qui change le monde. Si on prend les bonnes décisions, on peut encore contrôler cela, pour 3 ans, 30 ans ? La difficulté, c’est que tout le monde pense qu’il faut arriver plus vite que les autres;  celui qui gagnera la course dirigera le monde;  si on ralentit, on restera en arrière…

Pas besoin d'imaginer une super IA pour comprendre les menaces de ces nouvelles technologies. Avoir une vision apocalyptique de l'IA (depuis 4 milliards d'années tout s'organise autour de la vie organique; soudain paraît [Elon Musk] la vie non organique...) pourrait mettre une sorte de brouillard sur nos problèmes. Les menaces sont déjà là.

Exemple des rédacteurs en chef : aujourd'hui, ils n'ont pas de nom; ce sont les IA. Jadis Lénine, Mussolini, ont d'abord été journalistes, puis rédacteurs en chef d'un journal, puis dictateurs; aujourd'hui c'est l'IA. Pas toutes les décisions, mais certaines décisions sont prises par les IA, et elles prennent des décisions différemment des êtres humains. L'IA peut être le propriétaire du journal; peut être une personne avec des droits (du moins aux US); la personne la plus riche aux US pourrait être une IA... C'est déjà là selon la loi existante.

Très peu de personnes comprennent ce qu'il se passe avec l'IA. Dans les débats sur la présidentielle aux US, il n'y a eu aucune question sur l'IA. Certaines personnes comme Elon Musk le savent... Il faut tenter de rectifier cela.

Le sujet numéro 1, c'est l'immigration, parce qu'on a peur que les immigrés viennent prendre nos emplois, changer nos modes de vie. Si vous êtes inquiets de cela, votre crainte devrait être vis-à-vis des migrants des US — les IA — des Intelligences Autres qui ont des idées totalement différentes...

D'autres propos ont été tenus, en particulier sur les aspects géo-politiques de l'IA, au coeur de la compétition entre les US et la Chine. Je m'en tiens ici au coeur du sujet, avec l'envie d'approfondir certains des concepts explicités dans ce récit passionnant qu'est Nexus. Ce sera l'objet de prochains billets.

∗

∗  ∗

Extrait de Nexus (épilogue) :

À ce que nous en savons aujourd’hui, singes, rats et autres animaux organiques de la planète Terre pourraient bien être les seules entités conscientes dans tout l’univers. Nous avons désormais créé une intelligence autre, non consciente mais très puissante. Si nous en faisons mauvais usage, l’IA pourrait mettre fin non seulement à la domination humaine sur cette planète, mais à la lumière de la conscience elle-même, transformant l’univers en royaume des ténèbres. Il est de notre responsabilité d’empêcher que cela arrive.

La bonne nouvelle, c’est qu’à la condition de ne pas se laisser aller à la complaisance ni au désespoir, nous sommes capables de créer des réseaux d’information équilibrés qui contrôleront leur propre pouvoir. [...] 

Cette sagesse est bien plus ancienne encore que l’histoire humaine. Elle est élémentaire, c’est le fondement même de la vie organique. Les premiers organismes n’ont pas été créés par un génie ou un dieu infaillible. Ils sont apparus par le biais d’un processus complexe d’essais et d’erreurs. Pendant 4 milliards d’années, des mécanismes de mutation et d’autocorrection de plus en plus complexes ont conduit à l’évolution des arbres, des dinosaures, des jungles et, finalement, des humains. Nous avons maintenant invoqué une intelligence autre, non organique, qui pourrait bien échapper à notre contrôle et mettre en danger non seulement notre espèce mais une multitude d’autres formes de vie. Les choix que nous ferons au cours des années à venir détermineront si le fait d’avoir donné le jour à cette intelligence fut une erreur fatale, ou s’il marque le début d’un nouveau chapitre plein d’espoir de l’évolution de la vie.

À suivre