# Qu'est-ce que le fine-tuning ? Définition et enjeux pour l'entreprise

> Le fine-tuning est une technique d'adaptation d'un modèle d'IA déjà entraîné, qui consiste à poursuivre son entraînement sur un jeu de données spécifique à votre cas d'usage. Il modifie les paramètres internes du modèle, par opposition au RAG qui injecte simplement du contexte au moment de la requête.

## Définition
Trois familles de fine-tuning coexistent en 2026. Le fine-tuning complet (full fine-tuning) : on réajuste l'ensemble des paramètres du modèle, ce qui exige une puissance de calcul élevée et un volume de données conséquent. Le fine-tuning paramétriquement efficace (PEFT) : on n'ajuste qu'une petite fraction des paramètres, souvent moins de 1 % via la technique LoRA (*Low-Rank Adaptation*, Hu et al., 2021). Dans l'article d'origine, LoRA réduit de 10 000 fois le nombre de paramètres à entraîner et de 3 fois la mémoire GPU nécessaire, par rapport à un GPT-3 175B ajusté en totalité, pour une qualité comparable. L'instruction tuning : variante consistant à apprendre au modèle à suivre des consignes structurées plutôt qu'à adapter un domaine métier. Le fine-tuning est puissant mais coûteux à entretenir : chaque mise à jour de la base de connaissances exige un réentraînement. Pour des cas où les données changent fréquemment, le RAG est généralement préférable.

## Exemple
Cas illustratif. Un cabinet d'audit financier de 200 collaborateurs cherche à automatiser la rédaction de notes d'analyse à partir de jeux de données comptables. Trois options chiffrées. Fine-tuning complet d'un modèle ouvert de 70 milliards de paramètres sur 5 000 notes historiques : coût d'entraînement environ 15 000 euros, qualité optimale mais temps de mise au point de 6 semaines. Fine-tuning LoRA sur le même modèle : coût 800 euros, qualité 90 % à 95 % du fine-tuning complet, temps 4 jours. RAG sur les 5 000 notes sans fine-tuning : coût d'indexation 50 euros, qualité 75 % à 85 %, temps 1 jour, mais réindexation automatique à chaque nouvelle note. Le choix dépend du critère prioritaire : qualité, coût, fraîcheur.

## Pour un dirigeant
Lancer un projet de fine-tuning complet comme premier réflexe d'adaptation IA, en pensant qu'il faut entraîner le modèle sur vos données pour qu'il fonctionne avec votre métier. Cette voie engage un budget significatif, une compétence technique rare (data scientists spécialisés), et un cycle de maintenance lourd : chaque mise à jour documentaire déclenche un réentraînement coûteux. | Suivre une logique d'escalade. Commencer par tester en zero-shot, puis few-shot, puis RAG. Le fine-tuning n'arrive qu'en quatrième position, et seulement pour des cas où le RAG plafonne : style éditorial très spécifique à reproduire, terminologie métier inaccessible aux instructions, latence critique. Privilégier le fine-tuning paramétriquement efficace (LoRA) qui réduit fortement le coût d'entraînement sans dégrader sensiblement la qualité, et garder le RAG en complément pour la fraîcheur documentaire.

## Questions fréquentes

**Qu'est-ce que le fine-tuning, et en quoi diffère-t-il du RAG ?**
Le fine-tuning adapte un modèle déjà entraîné en poursuivant son entraînement sur un jeu de données propre à votre cas d'usage, ce qui modifie ses paramètres internes. Le RAG, lui, se contente d'injecter du contexte au moment de la requête sans toucher au modèle. La différence est structurante pour le coût et la maintenance.

**Quelles formes de fine-tuning existent ?**
Trois familles coexistent. Le fine-tuning complet réajuste tous les paramètres et exige une forte puissance de calcul. Le fine-tuning paramétriquement efficace (PEFT), via la technique LoRA, n'ajuste souvent que moins de 1 % des paramètres et réduit fortement le nombre de paramètres à entraîner et la mémoire nécessaire, sans dégradation de qualité mesurée dans l'article d'origine. L'instruction tuning apprend au modèle à suivre des consignes structurées plutôt qu'à maîtriser un domaine métier.

**Faut-il commencer par un fine-tuning pour adapter l'IA à notre métier ?**
Non, c'est le réflexe à éviter. Mieux vaut suivre une logique d'escalade : tester d'abord en zero-shot, puis few-shot, puis RAG, et ne réserver le fine-tuning qu'en quatrième position. Un projet de fine-tuning complet engage un budget significatif, une compétence rare et une maintenance lourde.

**Combien coûtent les différentes options, concrètement ?**
Cas illustratif. Prenons un cabinet d'audit qui veut automatiser des notes d'analyse à partir de 5 000 notes historiques, sur un modèle ouvert de 70 milliards de paramètres. Fine-tuning complet : environ 15 000 euros et 6 semaines, pour une qualité optimale. Fine-tuning LoRA : 800 euros et 4 jours, pour 90 % à 95 % de cette qualité. RAG sans fine-tuning : 50 euros et 1 jour, 75 % à 85 % de qualité, avec réindexation automatique à chaque nouvelle note.

**Quand le fine-tuning est-il vraiment justifié ?**
Seulement là où le RAG plafonne : un style éditorial très spécifique à reproduire, une terminologie métier inaccessible aux instructions, ou une latence critique. Dans ces cas, privilégiez le fine-tuning paramétriquement efficace (LoRA), qui réduit fortement le coût d'entraînement sans dégrader sensiblement la qualité, et gardez le RAG en complément pour la fraîcheur documentaire.

## À lire aussi

- [Entraînement](https://wyp.agency/glossaire/entrainement/)
- [RAG (Retrieval-Augmented Generation)](https://wyp.agency/glossaire/rag/)
- [Paramètre](https://wyp.agency/glossaire/parametre/)
- [LLM (Large Language Model)](https://wyp.agency/glossaire/llm/)
- [Prompt engineering](https://wyp.agency/glossaire/prompt-engineering/)
- [RLHF (apprentissage par renforcement à partir de retours humains)](https://wyp.agency/glossaire/rlhf/)

## Sources

- LoRA: Low-Rank Adaptation of Large Language Models, Hu et al., arXiv:2106.09685, 2021 (https://arxiv.org/abs/2106.09685)
- Language Models are Few-Shot Learners, Brown et al., NeurIPS 2020 (https://arxiv.org/abs/2005.14165)

---
Fiche du glossaire IA de WYP.agency · https://wyp.agency/glossaire/fine-tuning/ · Dernière mise à jour : 2026-10-14