A propos de ChatGPT

Depuis quelque temps, et comme beaucoup, je suis intrigué par l'utilité de ChatGPT et la confiance qu'on peut lui attribuer.

À titre d'essai, une fois écrit mes trois derniers billets de blog, j'ai demandé à ChatGPT de m'écrire un article... sur les mêmes sujets : le processus de décivilisation ; le wokisme ; corps, âme et esprit.

Le résultat est bluffant en première impression : en moins d'1 minute, ChatGPT m'a écrit un article sur chacun des sujets demandés, d'une à deux pages pour chacun, des articles qui tiennent la route, écrits en bon français, — mais sans grande profondeur, assez plats, comme une présentation succincte dans un manuel scolaire.

Pour pousser plus loin l'investigation, j'ai demandé à ChatGPT : "Écris-moi un article sur ChatGPT. Est-il utile ? Peut-on lui faire confiance ?"

Je vous livre le résultat, apparu instantanément sur mon écran, du travail rédactionnel de ce robot "conversationnel", comme il s'appelle lui-même :

___________________________________

Titre: ChatGPT : L'intelligence artificielle conversationnelle à votre service

Introduction:

Dans le monde en constante évolution de l'intelligence artificielle, une avancée majeure a été réalisée avec l'émergence de ChatGPT. Ce système d'intelligence artificielle conversationnelle, basé sur l'architecture GPT-3.5 d'OpenAI, est conçu pour répondre aux besoins variés des utilisateurs en matière d'information, d'assistance et de divertissement. Dans cet article, nous allons explorer l'utilité de ChatGPT et examiner la question de la confiance qu'on peut lui accorder.

I. L'utilité de ChatGPT:

Assistance et résolution de problèmes:

ChatGPT est un outil précieux pour fournir des réponses rapides et précises aux questions des utilisateurs. Que ce soit pour des informations générales, des conseils pratiques ou des résolutions de problèmes spécifiques, ChatGPT peut fournir une assistance utile et orientée.
Génération de contenu:

Les écrivains, les rédacteurs et les créateurs de contenu peuvent trouver une grande utilité dans ChatGPT. Il peut générer des idées, des paragraphes ou même des textes entiers sur des sujets variés, offrant ainsi une source d'inspiration et d'aide à la création.
Apprentissage et éducation:

ChatGPT peut servir d'outil d'apprentissage interactif. Il peut expliquer des concepts complexes, fournir des définitions, résoudre des problèmes mathématiques et bien plus encore. Les étudiants peuvent profiter de cette technologie pour approfondir leurs connaissances et consolider leur compréhension des sujets abordés.

II. La confiance accordée à ChatGPT:

Limites et biais:

Bien que ChatGPT soit extrêmement avancé, il a encore ses limites. Il peut parfois générer des réponses incorrectes ou imprécises, en particulier lorsqu'il est confronté à des informations trompeuses ou à des questions ambiguës. De plus, il peut refléter les biais présents dans les données sur lesquelles il a été formé, ce qui peut potentiellement affecter la qualité des réponses fournies.
Améliorations continues:

OpenAI est conscient de ces limites et s'efforce d'améliorer constamment ChatGPT. Des mises à jour régulières et des améliorations de l'architecture et de l'apprentissage sont mises en œuvre pour renforcer la précision et la fiabilité du système.
Utilisation avec discernement:

Il est essentiel de faire preuve de discernement lors de l'utilisation de ChatGPT. Il est recommandé de vérifier les informations importantes auprès de sources fiables supplémentaires et de considérer les réponses fournies par ChatGPT comme des suggestions plutôt que des vérités absolues.

Conclusion:

ChatGPT a indéniablement une utilité considérable dans de nombreux domaines, offrant une assistance précieuse, stimulant la créativité et facilitant l'apprentissage. Cependant, il est important de garder à l'esprit ses limites et de faire preuve de discernement lors de l'utilisation des informations fournies par le système. ChatGPT est un outil puissant qui,bien utilisé, peut apporter de nombreux avantages. En continuant à développer et à améliorer cette technologie, nous nous rapprochons d'une assistance virtuelle plus fiable et précise, tout en maintenant une responsabilité et une vigilance appropriées.

______________________________

Comme on voit, ChatGPT n'est pas pris de court, il répond aux questions posées, mais sans trop approfondir. Comme je disais, tout cela prend la forme d'un bon résumé de l'état des questions-réponses, mais sans plus.

Peut-il en être autrement, d'ailleurs ? ChatGPT n'est pas "intelligent" : je n'aime pas du tout l'expression "Intelligence artificielle"; il n'y a rien d'intelligent dans un robot, il a simplement été nourri par des millions de données, et avec cela, grâce à son énorme capacité de calcul (là, il bat franchement les capacités humaines), il ressort les données pertinentes sous forme d'un discours cohérent. Ce n'est pas basé sur de l'intelligence, mais sur des modèles de langage statistique et des technologies prédictives.

Ceci pose du coup deux questions :

La première, c'est que n'étant capable d'aucune intelligence, ChatGPT ou n'importe quelle machine qui a été nourrie à la même accumulation de données (on appelle cela le machine learning), n'est capable d'aucun discernement. N'attendez pas de ChatGPT qu'il vous livre une quelconque réflexion philosophique originale, vous serez déçus.

Deuxième question, qui découle de la première, et qui est fondamentale quant à la confiance qu'on peut accorder à ChatGPT, c'est que, n'étant capable d'aucun discernement au sens de jugement, ChatGPT base ses réponses sur le nombre de données (plus il est nourri, c'est-à-dire, plus il a accumulé de données, meilleures pour lui sont les réponses), mais non sur la véracité des données.

Autrement dit, ChatGPT ne distingue pas dans les données le vrai du faux. Il se nourrit aussi bien de données vraies que de fake, et brassant toutes ces données mélangées comme dans une soupe, il nous re-sert le tout sans se soucier de véracité, avec un effet boule de neige redoutable.

D'où l'invite prudente, mais sans effet pratique : "Considérer les réponses fournies par ChatGPT comme des suggestions plutôt que des vérités absolues."

J'imagine que ChatGPT peut apporter une aide fantastique, par exemple pour préparer des dossiers techniques, collecter en un temps record des milliers de data — fournir en somme quasi instantanément une matière incroyablement enrichie sur laquelle l'intelligence humaine s'exercera. Mais, encore une fois, je me garderai, quant à moi, de considérer (et donc au bout du compte de penser...) qu'on a affaire à une machine "intelligente", comme le suggère l'expression IA : intelligence artificielle. Il serait préférable de parler de l'IA comme intelligence augmentée : c'est l'intelligence de l'homme qui est augmentée grâce à cet outil, pour autant qu'il est utilisé à bon escient.

Reste un sujet de fond, concernant l'IA en général, mais qui dépasse le cadre de ce billet, c'est la capacité de l'IA en tant que système complexe à développer des propriétés émergentes, c'est-à-dire de nouvelles compétences et capacités qui excèdent le système lui-même...

02/07/2023

1 J'aime 3 Poster un commentaire

A découvrir aussi

Retour aux articles de la catégorie Billets d'humus -

⨯

Inscrivez-vous au blog

Soyez prévenu par email des prochaines mises à jour

Rejoignez les 104 autres membres