Visualisation 3D du fonctionnement d’un LLM

C’est enrichissant. Brendan Bycroft développe depuis tout petit avec une obsession : maîtriser son code pour ensuite l’optimiser ou le débugguer. Ce souci de comprendre jusqu’au moindre détail se ressent dans cette incroyable visualisation sur les différentes versions de ChatGPT. Étape par étape, il a décortiqué les calculs de l’algorithme à partir d’une instruction simple : prendre une séquence de six lettres C B A B B C et lui demander de les trier par ordre alphabétique, c’est-à-dire par « ABBBCC ». Après ça, fini la boîte noire !