3:31:24Andrej Karpathy
C’est sur YouTube la meilleure explication de bout en bout de ce qu’est réellement un LLM — préentraînement, tokenisation, SFT, RLHF, apprentissage par renforcement pour le raisonnement, utilisation d’outils et hallucinations — avec le niveau de détail dont un ingénieur a besoin pour analyser les compromis entre modèles. Après l’avoir regardée, les décisions « modèles de classe GPT, modèles à poids ouverts ou modèles de raisonnement » évoquées dans l’article ne ressemblent plus à des choix de marques, mais à des choix de méthodes d’entraînement.
Ce que vous en retirerez: Comprendre suffisamment bien la pile LLM moderne pour analyser les tokens, l’entraînement, les outils et les défaillances.
À voir ou à connaître au préalable: Un bagage technique aide ; aucun prérequis en ML, mais prévoyez un temps de visionnage de trois heures et demie.
Note d’AI Expert: Les noms, les tarifs et les capacités des modèles évoluent rapidement. Utilisez cette vidéo pour son schéma de décision, puis vérifiez le comportement actuel des modèles avant de les adopter.
