Build a Large Language Model (From Scratch)

"Construire un grand modèle de langage (à partir de zéro)" de Sebastian Raschka est un manuel complet qui offre aux lecteurs la possibilité de développer leur propre grand modèle de langage (LLM). Le livre guide pas à pas à travers tout le processus, depuis la planification et la conception jusqu'au pré-entraînement sur un corpus général et au réglage fin pour des tâches spécifiques. Avec des explications claires, des diagrammes et des exemples pratiques, le sujet complexe des LLMs est rendu accessible. Les lecteurs apprennent à préparer des ensembles de données pour l'entraînement, à adapter les LLMs pour des classifications de texte et à utiliser les retours humains pour s'assurer que le modèle suit les instructions. Le livre offre non seulement des connaissances théoriques, mais aussi des directives pratiques pour créer et utiliser un LLM sur un ordinateur portable traditionnel. C'est une ressource précieuse pour tous ceux qui souhaitent acquérir une compréhension plus approfondie du fonctionnement et des possibilités d'adaptation des LLMs.