karpathy/llm.c: simplifiez l'entraînement de LLM en C/CUDA (en)

“llm.c” est un projet visant à simplifier l’entraînement des modèles de langage (LLM) en utilisant uniquement C et CUDA, sans dépendre de frameworks lourds comme PyTorch ou cPython. Le projet illustre comment, avec environ 1000 lignes de code propre, il est possible de compiler et d’exécuter un entraînement de modèle GPT-2 de manière instantanée, tout en étant conforme à l’implémentation de référence PyTorch. Cette approche légère promet d’accélérer significativement le développement et l’exécution des LLMs.