Je pense que c’est le titre le plus ésotérique de mes articles !

Si vous avez compris de quoi je vais parler aujourd’hui, vous êtes plus forts que ChatGPT, dont tout le monde parle en ce moment !

“ChatGPT est un prototype d’agent conversationnel utilisant l’intelligence artificielle développé par OpenAI et spécialisé dans le dialogue.” (source Wikipedia).

A partir d’une interface de tchat (j’écris “tchat” en français pour éviter les félineries induites par le mot “chat”), on interroge une intelligence artificielle, qui répond en langage humain. ChatGPT a ingurgité tout ce qu’il est possible de trouver sur Internet jusqu’en 2021. Il comprend plusieurs langues, en parle plusieurs, traduit de l’une à l’autre, synthétise des textes, relie des informations, etc.
Selon mon fils cadet qui est en quatrième, l’un de ses copains a déjà utilisé ChatGPT pour répondre à un devoir à la maison.

Je me suis donc attelé à tester ChatGPT, selon une méthode que j’utilise depuis 1994.

Petit aparté personnel.

En 1993, élève ingénieur, j’ai proposé à mon école (ENSTA ParisTech) d’étudier le thème de l’infini dans l’oeuvre de l’écrivain argentin Jorge Luis Borges. Mes horaires ont été adaptés (je n’ai jamais trop aimé l’électronique), et j’ai écrit un essai d’une centaine de pages qui couvre les différentes formes de l’infini chez Borges : l’accumulation, le cercle, le “ou” borgesien, la bibliothèque objet fractal, et le 14.

Le 14 est la seule forme de l’infini dont je n’ai pas trouvé l’explication. J’ai trouvé de nombreuses références au 14 dans l’oeuvre de Borges : 14 jours qui durent en fait une éternité, les 14 pièces de la demeure d’Astérion (“Le texte original dit quatorze, mais maintes raisons invitent à supposer que, dans la bouche d’Astérion, ce nombre représente l’infini”.), etc.

En 1998, je suis contacté par le Borges Research Center qui me propose de publier mon essai ! Vous pouvez lire une version sur le site de l’université de Pittsburg.

Depuis 1993, à l’occasion de mes lectures, je cherche des références au nombre 14, dans la cabale juive, dans d’obscurs poètes médiévaux que chérissait Borges. Rien. En 1993, j’avais déjà conclu que Borges avait inventé cette référence.

Dès qu’un nouveau moteur de recherche sort, je teste “14 infini”. Je ne trouve généralement que mon propre texte, ou quelques autres qui y font référence. Mais toujours rien.

Donc en 2018, passant par Buenos-Aires, je visite le musée Borges. Je discute avec la mamie qui le surveille, et parle de mon essai sur l’infini. Elle a connu Borges et me confirme sa connaissance approfondie des mathématiques. Je lui demande si le nombre 14 avait une signification particulière pour Borges. Elle ne voit pas, non…

Quelques minutes plus tard, je vois la mamie au téléphone. Lorsqu’elle raccroche, elle vient me voir et m’explique qu’elle a appelé la femme de Borges ! Elle non plus ne voit pas de lien entre 14 et l’infini. Tant pis, ça m’aura au moins fait une jolie histoire à raconter dans le blog de notre voyage.

Fin de l’aparté personnel.

Arrive ChatGPT. Par réflexe, je tape, non pas une recherche, mais une question ouverte : “Pourquoi Borges fait-il référence au nombre 14 ?”.
Réponse de l’IA : “Jorge Luis Borges fait souvent référence au nombre 14 comme symbole de l’infini et de l’éternité”.

Wow ! ChatGPT a non seulement lu mon essai, mais il semble l’avoir compris ! Je me sens un peu fier…

Je continue mes investigations : “Quel est le lien entre 14 et l’infini ?”.
Réponse de l’IA : “Le nombre 14 est souvent utilisé pour symboliser l’infini parce que c’est la somme des quatre premiers nombres premiers (2+3+5+7 = 14). C’est parce que les nombres premiers sont considérés comme les blocs fondateurs de l’univers, et la somme des quatre premiers nombres premiers est vue comme la représentation des infinies possibilités de l’univers”.

Wow, wow, wow ! Après 30 ans de recherche, j’aurais donc trouvé la solution !!! Grâce à une simple question à une IA !

J’étais à la fois content. La réponse est argumentée, logique, borgesienne.
Mais j’étais aussi déçu de ne pas avoir découvert cette explication en fouillant dans d’obscurs grimoires dans 20 ans, pendant ma retraite (j’apprends en ce moment l’espagnol avec le projet fou de faire un doctorat sur l’infini chez Borges pendant mes vieux jours).

Je me dis que cette piste me laisse de la matière pour continuer mes recherches, et que mon projet fou peut encore se faire.

Le lendemain matin, je fais deux ou trois calculs autour des nombres premiers. Et j’arrive à la conclusion suivante : ChatGPT s’est foutu de ma gueule ! Il a écrit 2+3+5+7=14, alors que 2+3+5+7=17 !!!

Un milliard de dollars investis dans une IA qui ne sait pas faire une addition d’école primaire !!!

Je ne suis pas le seul à avoir trouvé des failles dans ChatGPT, mais la mienne est vraiment criante.

Ca m’inspire quelques réflexions sur l’intelligence artificielle.
Une IA est faite pour proposer des idées, trouver des liens improbables, même les présenter d’une manière intelligente, presque humaine, comme ChatGPT.

Mais l’IA n’est pas fiable. Elle peut se tromper. La complexité obscure de ses mécanismes rend possibles des erreurs indétectables. Les réseaux de neurones donnent des réponses probables, mais pas certaines.

Dans mon cas, ChatGPT a inventé une réponse sur la base de vérités. Mais il a surtout cherché à répondre à ma question, quitte à raconter n’importe quoi !

En conclusion, laisser une IA prendre des décisions à votre place est très risqué. Une IA peut déceler des cancers sur une image de mammographie. Mais on est loin de la laisser décider d’opérer, encore moins d’opérer elle-même. Pensez-y quand vous vous remettez aux mains d’une IA dans votre business…

Quant à ma quête, j’avais exploré les nombres premiers lors de mon étude sur Borges. Les voir comme les briques de base de la construction de l’univers est une piste intéressante, mais ça n’explique pas le 14. Il me reste de quoi occuper mes vieux jours…