# Qu'est-ce qu'un embedding ? Définition et enjeux pour l'entreprise

> Un embedding est la représentation numérique d'un mot, d'une phrase ou d'un document sous forme de vecteur dans un espace à plusieurs centaines ou milliers de dimensions. Deux textes proches sémantiquement ont des embeddings proches géométriquement, ce qui permet la recherche par sens et non par mots-clés.

## Définition
Un modèle d'embedding est un réseau de neurones spécialisé, distinct du LLM, qui prend un texte en entrée et produit un vecteur numérique fixe en sortie. La dimension de ce vecteur varie selon le modèle : 1 536 pour OpenAI text-embedding-3-small, 3 072 pour text-embedding-3-large, 1 024 par défaut pour Voyage 4 (réglable de 256 à 2 048), comme pour Mistral Embed. Plus la dimension est élevée, plus le vecteur peut capturer de nuances sémantiques, au prix d'un coût de stockage et de calcul proportionnel. La propriété fondamentale d'un embedding est que la distance entre deux vecteurs (mesurée par produit scalaire ou similarité cosinus) reflète la proximité sémantique des textes correspondants. « Avocat de la défense » et « conseil juridique » sont distants dans le dictionnaire mais proches dans l'espace d'embedding. C'est ce qui permet, dans un RAG, de retrouver les passages pertinents même quand la requête utilise des mots différents de ceux du document cible.

## Exemple
Cas illustratif. Une PME juridique de 30 collaborateurs indexe 5 000 contrats internes pour permettre à ses juristes une recherche par sens. En utilisant OpenAI text-embedding-3-small (1 536 dimensions, 0,02 dollar par million de tokens), l'indexation initiale d'un corpus de 50 millions de tokens (environ 10 000 par contrat) coûte de l'ordre de 1 dollar, et chaque requête de recherche une fraction de centime. Le stockage des vecteurs (5 000 documents × 1 536 dimensions × 4 octets) tient dans 30 Mo. Avec text-embedding-3-large (3 072 dimensions), la qualité augmente d'environ 2 points sur les benchmarks publics MTEB, pour un coût 6,5 fois supérieur. Le choix dépend de la sensibilité métier au rappel sémantique.

## Pour un dirigeant
« Quel modèle d'embedding utilisons-nous, et pourquoi celui-là plutôt qu'un autre ? » Cette question, posée à votre DSI ou prestataire IA, en ouvre trois autres. Premièrement, sa dimension est-elle adaptée à notre volume documentaire ? Un modèle à 3 072 dimensions stocke 2 fois plus que 1 536, soit un coût d'hébergement vectoriel proportionnel. Pour des corpus de moins de 100 000 documents, la dimension plus basse suffit largement. Deuxièmement, ce modèle est-il multilingue, et avec quelle qualité ? Beaucoup de modèles sont entraînés principalement en anglais, et leur performance chute sensiblement sur des corpus français ou espagnols. Troisièmement, et c'est le piège classique : changer de modèle d'embedding après mise en production exige de réindexer l'intégralité du corpus, opération coûteuse et lente. Le choix initial est une décision pluriannuelle, pas un paramètre ajustable au fil de l'eau.

## Questions fréquentes

**Qu'est-ce qu'un embedding ?**
C'est la représentation numérique d'un mot, d'une phrase ou d'un document sous forme de vecteur, dans un espace à plusieurs centaines ou milliers de dimensions. Deux textes proches par le sens ont des embeddings proches géométriquement. C'est ce qui permet une recherche par sens plutôt que par mots-clés.

**En quoi un modèle d'embedding diffère-t-il d'un LLM ?**
C'est un réseau de neurones spécialisé, distinct du LLM : il prend un texte en entrée et produit un vecteur numérique fixe en sortie, au lieu de générer du texte. La distance entre deux vecteurs (produit scalaire ou similarité cosinus) reflète leur proximité sémantique. C'est ce mécanisme qui permet, dans un RAG, de retrouver un passage pertinent même quand la requête emploie d'autres mots que le document.

**Faut-il choisir la dimension la plus élevée ?**
Pas systématiquement. Plus la dimension est élevée, plus le vecteur capture de nuances, mais plus le stockage et le calcul coûtent cher, proportionnellement. Un modèle à 3 072 dimensions stocke deux fois plus qu'un modèle à 1 536 ; pour des corpus de moins de 100 000 documents, la dimension plus basse suffit largement.

**Quel est le piège classique à connaître avant de se lancer ?**
Changer de modèle d'embedding après mise en production exige de réindexer l'intégralité du corpus, une opération coûteuse et lente. Le choix initial est donc une décision pluriannuelle, pas un paramètre ajustable au fil de l'eau. Pensez-y d'autant plus si votre corpus est en français ou en espagnol : beaucoup de modèles sont entraînés principalement en anglais et perdent en performance sur ces langues.

**Qu'est-ce que cela coûte, concrètement ?**
À titre d'illustration, indexer 5 000 contrats internes avec OpenAI text-embedding-3-small (1 536 dimensions) coûte de l'ordre de 1 dollar pour un corpus de 50 millions de tokens, et le stockage des vecteurs tient dans 30 Mo. Le modèle large à 3 072 dimensions gagne environ 2 points sur les benchmarks publics MTEB, pour un coût 6,5 fois supérieur. L'arbitrage dépend de la sensibilité métier au rappel sémantique.

## À lire aussi

- [LLM (Large Language Model)](https://wyp.agency/glossaire/llm/)
- [Token](https://wyp.agency/glossaire/token/)
- [Paramètre](https://wyp.agency/glossaire/parametre/)
- [IA générative](https://wyp.agency/glossaire/ia-generative/)
- [Modèle de fondation](https://wyp.agency/glossaire/modele-de-fondation/)
- [NLP (traitement automatique du langage naturel)](https://wyp.agency/glossaire/nlp/)
- [Apprentissage non supervisé](https://wyp.agency/glossaire/apprentissage-non-supervise/)
- [Réseau de neurones (artificiel)](https://wyp.agency/glossaire/reseau-de-neurones/)

## Sources

- OpenAI Embeddings documentation (https://developers.openai.com/api/docs/guides/embeddings)
- Massive Text Embedding Benchmark (MTEB) leaderboard, Hugging Face (https://huggingface.co/spaces/mteb/leaderboard)
- Voyage AI, Text Embeddings, documentation (série voyage-4, janvier 2026) (https://docs.voyageai.com/docs/embeddings)
- Mistral AI, Embeddings, documentation (https://docs.mistral.ai/capabilities/embeddings/)

---
Fiche du glossaire IA de WYP.agency · https://wyp.agency/glossaire/embedding/ · Dernière mise à jour : 2026-10-14
