Article original : How to Fine-Tune Large Language Models

Le Fine-tuning vous aide à devenir un expert et un professionnel de l'ingénierie de l'IA.

Nous venons de publier un cours sur la chaîne YouTube de freeCodeCamp.org qui propose un guide complet sur le Fine-tuning des LLM, vous accompagnant des bases aux applications pratiques avancées. Il est enseigné par Tatev, une experte avec plus de sept ans d'expérience en science des données, en ingénierie des données et en ingénierie de l'IA. Elle est également la PDG de Lunar Tech.

Tout au long du cours, vous apprendrez les différences clés entre le Fine-tuning, le pré-entraînement et le Prompt Engineering, et vous plongerez dans des méthodologies puissantes telles que le Fine-tuning supervisé et l'apprentissage par renforcement avec feedback humain (RLHF). Le cours traite également de QLoRA, une technique révolutionnaire qui vous permet d'affiner des modèles massifs comme Llama 70B sur une station de travail domestique.

Voici les sections couvertes dans ce cours :

  • Qu'est-ce que le Fine-Tuning et en quoi est-ce différent ?

  • Méthodologies pratiques

  • Plongée approfondie dans le Parameter Efficient Fine-Tuning

  • Exploration de QLoRA : une méthode révolutionnaire

  • Études de cas pratiques

  • Présentation de l'instructrice

  • Plan du cours (plus de détails)

  • Point fort du cours : Parameter Efficient Fine-Tuning

  • À qui s'adresse ce cours ?

  • Module 1 : Introduction au Fine-Tuning

  • Les avantages du Fine-Tuning

  • Première partie : Module sur le Fine-Tuning des LLM

  • Allocation du Fine-Tuning dans le cycle de vie des LLM

  • Modèle pré-entraîné vs Modèle affiné (Fine-Tuned)

  • Comprendre les lacunes et la spécialisation

  • Exemple d'impact du Fine-Tuning : Chatbot

  • Définition formelle du Fine-Tuning

  • Exemples de Fine-Tuning : Médecin et Avocat

  • Pré-entraînement vs Fine-Tuning

  • Prompt Engineering vs Fine-Tuning

  • Avantages et inconvénients du Prompt Engineering vs Fine-Tuning

  • Avantages et inconvénients du Fine-Tuning

  • Processus de Fine-Tuning étape par étape

Regardez le cours complet sur la chaîne YouTube de freeCodeCamp.org (2 heures de visionnage).