LLM Course

0. Configuration

1. Les transformers

2. Utilisation de 🤗 Transformers

3. Finetuner un modèle pré-entraîné

Introduction Préparer les données Finetuner un modèle avec l'API Trainer API ou Keras Un entraînement complet Finetuning, coché !Quiz de fin de chapitre

4. Partager des modèles et des tokenizers

5. La bibliothèque 🤗 Datasets

6. La bibliothèque 🤗 Tokenizer

7. Les principales tâches en NLP

8. Comment demander de l'aide

9. Construire et partager des démos

Evènements liés au cours

Glossaire

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

Pytorch TensorFlow

Introduction

Dans le chapitre 2 nous avons étudié comment utiliser les tokenizers et les modèles pré-entraînés pour faire des prédictions. Mais que faire si vous souhaitez finetuner un modèle pré-entraîné pour votre propre jeu de données ? C’est le sujet de ce chapitre ! Vous allez apprendre à :

savoir comment préparer un très grand jeu de données à partir du Hub,
savoir comment utiliser l’API de haut niveau Trainer pour finetuner un modèle,
savoir comment utiliser une boucle d’entraînement personnalisée,
savoir comment tirer parti de la bibliothèque 🤗 Accelerate pour exécuter facilement cette boucle d’entraînement personnalisée sur n’importe quelle configuration distribuée.

Afin de télécharger vos checkpoints entraînés sur le Hub Hugging Face, vous aurez besoin d’un compte huggingface.co : créer un compte

Update on GitHub

←Quiz de fin de chapitre Préparer les données→