Quelqu’un a réussi à faire tourner GPT2 dans un tableur

Quelqu'un a réussi à faire tourner GPT2 dans un tableur. Un joli tour de force qui permet de bien comprendre comment les LLM fonctionnent.

Toutes les entreprises présentent leurs produits comme étant magiques, mais ce n’est finalement que du code et des mathématiques, quand on y regarde bien. Vous ne me croyez pas ? Quelqu’un est parvenu à faire fonctionner un modèle IA dans une feuille de calcul Excel. Spreadsheets are all you need (“Les tableurs sont tout ce dont vous avez bien”) est un projet réalisé par Ishan Anand qui lui a permis de recréer un GPT2, précurseur de la technologie derrière ChatGPT, entièrement dans une seule et unique feuille de calcul Excel. C’est l’équivalent IA d’un Doom qui tournerait sur un vieux réfrigérateur connecté, si l’on peut dire.

Quelqu’un a réussi à faire tourner GPT2 dans un tableur

Le fichier pèse, vous l’imaginez bien, lourd : 1,34 Go. Et il ne fonctionne pas sur les versions Mac ou web d’Excel. Vous aurez donc besoin de Windows pour en profiter comme il se doit. Et idéalement, sur une machine avec un processeur assez performant. Et ne vous attendez pas à pouvoir l’utiliser comme vous utilisez aujourd’hui un grand modèle de langage (LLM). Ce projet ne saurait remplacer ChatGPT, et ce n’est d’ailleurs clairement pas le but. C’est simplement un moyen d’apprendre comment fonctionnent les LLM.

Si le projet vous intéresse, vous pouvez télécharger la feuille de calcul en question depuis GitHub. Vous pouvez saisir votre prompt dans la deuxième feuille du fichier. Le prompt doit être entré avec un mot par cellule, et les espaces ajoutés manuellement au début des mots et chaque signe de ponctuation sur leur propre ligne.

Un joli tour de force qui permet de bien comprendre comment les LLM fonctionnent

La feuille de calcul va alors produire un mot unique – le prochain mot de votre phrase. Il vaut mieux s’en tenir à une phrase simple pour laquelle vous voulez laisser l’IA ajouter le prochain mot. J’ai testé avec “Mon chat est tellement…” Une fois le prompt saisi, cliquez sur Calculate Now dans l’onglet Formules pour démarrer le traitement. Le tableur va finir par vous proposer le prochain mot (dans mon cas, “mignon”, ce qui est tout à fait vrai).

Là où ce projet est vraiment intéressant, c’est que vous pouvez explorer toutes les autres feuilles et voir les différentes étapes qui ont conduit à obtenir ce résultat. Si vous souhaitez approfondir le sujet, Ishan Anand a réalisé des vidéos sur le site du projet expliquant parfaitement le fonctionnement global. Difficile d’imaginer plus simple et plus accessible pour bien appréhender les différents principes de fonctionnement des LLM.