voilacestdit

Suite et fin

Toujours restons les obligés de l’inquiétude.
(René Char)

Si on reprend l’histoire des machines IA (une histoire bien récente), on constate qu’à l’origine, les algorithmes dépendaient des humains pour apprendre. Buts et stratégies étaient codés par des programmateurs humains. Il n’en va plus de même aujourd’hui. Avec le développement de l’apprentissage automatique, les algorithmes sont capables d’apprendre par eux-mêmes de nouvelles choses en interagissant avec le monde, comme le font les humains. Ils ont considérablement gagné en autonomie.

Cette autonomie peut devenir problématique. Cependant, ce n’est pas le lieu, à mon sens, d’évoquer à ce propos, comme il est fait parfois, l’histoire de la créature échappant à son créateur — contée dans le roman d’épouvante de Mary Shelley Frankenstein ou le Prométhée moderne. Je pense qu’on ne gagne rien à jouer sur les émotions; mieux vaut s’employer à considérer la réalité en face. Dans le roman, la créature, devenue vivante, dotée de sa propre personnalité, échappe à tout contrôle et s’enfuit. Rien de tout cela ici.

Les machines IA n’ont pas de vie et ne sont pas dotées de personnalité; mais elles sont capables d’interagir avec le monde, c’est-à-dire, le but étant fixé, de développer par elles-mêmes des stratégies que les humains ne sont pas en mesure de prévoir. L’autonomie des machines IA reste cependant contrôlable, à condition de prendre soin de définir les buts fixés au départ de manière qu’ils soient alignés avec le système de valeurs, et que les humains restent dans la boucle pour identifier et corriger les erreurs algorithmiques — on aurait pu ainsi éviter la catastrophe des algorithmes de Facebook attisant des sentiments racistes au Myanmar (voir billet précédent).

L’IA est une nouvelle technologie, particulièrement puissante, et déjà très répandue, investie d’un pouvoir sans cesse plus grand en matière d’éducation, de santé, de commerce, de maintien de l’ordre etc., et dans nos vies individuelles. Comme toute nouvelle technologie, elle inquiète, le réel étant souvent recouvert par un imaginaire d’autant plus débridé que le champ est libre : on ne sait pas bien à quoi on a affaire. D’où l’effort pour situer les enjeux à leur niveau réel, et tenter de les comprendre au mieux.

Les machines IA les plus avancées sont des agents actifs; leur puissance a considérablement augmenté. Mais — étant reconnu l'apport bénéfique de l'IA dans de nombreux domaines — la question en définitive qui préoccupe concernant ces machines IA, ce n’est pas qu’elles s’échappent comme dans le conte, mais comment échapper, nous les humains, à certains effets possiblement néfastes de leur pouvoir grandissant.

Un problème crucial à mon sens concerne la vérité. Qu’advient-il de la possibilité de vrais débats dans la sphère publique, quand des millions d’agents numériques, capables —tel ChatGPT — de créer par eux-mêmes des contenus, inondent les réseaux d’informations biaisées? ChatGPT, interrogé à ce sujet, reconnaît ce qu’il appelle des «problèmes éthiques» : 

• Biais dans les réponses : Certains chatbots peuvent produire des réponses biaisées, discriminatoires ou offensantes en raison de données d'entraînement inadéquates.

• Collecte abusive de données : Un bot qui demande des informations personnelles sans transparence ou consentement clair.
• Diffusion de désinformation : Lorsqu’un chatbot propage des informations fausses ou trompeuses.

Les biais algorithmiques involontaires peuvent être corrigés par rétrocontrôle. Quid en revanche, lorsqu'on a à faire à des biais intentionnels; non pas avec un, mais avec des millions de bad chatbots qui, de façon simultanée, ordonnée et systématique inondent les réseaux, dans le but d'influencer les opinions? L'enjeu est considérable en termes de débat démocratique. Le problème cependant n'est pas technique (une autorité dotée de puissants mécanismes de correction), mais politique (vouloir cette autorité).

L'IA en définitive, du fait de ses caractéristiques et ses potentialités jamais vues, son emprise sur des pans entiers de l'activité humaine et nos vies individuelles, ses enjeux géopolitiques, n'est pas une innovation comme une autre; c'est plutôt une révolution à dimension planétaire, dont la dynamique complexe n'a pas fini de façonner, différemment, nos vies : au défi pour les humains de garder la maîtrise de leur existence.