Nouveau · Présidentielle 2027 : ce que les candidats proposent sur l'IA, citations sourcées. Explorer l'observatoire →

Dernière revue :

Qu'est-ce que le prompt caching ? Définition, prix et durée de vie du cache

Le prompt caching (mise en cache des prompts) permet à une API de modèle de langage de réutiliser le début identique d'un prompt déjà traité (consignes, outils, documents) au lieu de le recalculer à chaque requête. Chez Anthropic, la lecture du cache coûte 0,1 fois le prix d'entrée sur la plupart des modèles (0,025 fois sur Claude Fable 5.2), l'écriture 1,25 fois pour 5 minutes.

Une requête envoyée à un modèle contient souvent la même base : consignes système, définition des outils, documents de référence, historique de conversation. Sans cache, le fournisseur retraite ces milliers de tokens à chaque appel et les facture au plein tarif. Avec le prompt caching, le début du prompt est mémorisé après une première requête, et les suivantes qui commencent exactement par le même texte le relisent à tarif réduit. Le cache ne change pas la réponse : Anthropic précise qu'il n'a aucun effet sur la génération des tokens de sortie. Chez Anthropic, l'écriture coûte 1,25 fois le prix d'entrée de base pour une durée de 5 minutes, 2 fois pour 1 heure. La lecture coûte 0,1 fois sur la plupart des modèles, 0,05 fois sur Claude Opus 5.5 et Claude Sonnet 5.5, 0,025 fois sur Claude Fable 5.2. La durée par défaut est de 5 minutes, renouvelée sans frais à chaque lecture. Le texte doit être identique à 100 %, dans l'ordre outils, système, messages. Le minimum est de 512 tokens sur Fable 5.2, Opus 5.5, Sonnet 5.5 et Haiku 5.5. Chez OpenAI, le cache est activé par défaut. Sur GPT-5.6 et suivants, la lecture coûte 0,1 fois le prix d'entrée (0,05 fois pour GPT-6.1 Sol et Terra), l'écriture 1,25 fois pour 30 minutes minimum ou 2,5 fois pour 12 heures, avec un minimum de 1 024 tokens. Les modèles plus anciens n'ont pas de frais d'écriture.

Exemple concret

Cas illustratif, avec les prix réels de Claude Sonnet 5.5 (2 $ le million de tokens en entrée, 2,50 $ en écriture 5 minutes, 0,10 $ en lecture). Un cabinet de conseil de 35 personnes interroge un assistant adossé à un référentiel interne de 50 000 tokens (méthodes, modèles de livrables), placé au début de chaque requête. En une heure de pointe, 200 requêtes arrivent, chacune moins de 5 minutes après la précédente. Sans cache : 200 x 50 000 = 10 millions de tokens, soit 20,00 $. Avec cache : une écriture (50 000 x 2,50 $ / 1 000 000 = 0,125 $) et 199 lectures (9,95 millions x 0,10 $ / 1 000 000 = 0,995 $), soit 1,12 $, environ 94 % de moins sur cette partie. Les questions et les réponses restent facturées au tarif normal dans les deux cas.

Comparaison

Prompt caching, semantic caching, KV cache et RAG : quatre notions à ne pas confondre
Prompt cachingSemantic cachingKV cacheRAG
Où agit-ilChez le fournisseur, sur l'API du modèleDans votre application, avant l'appel au modèleÀ l'intérieur du modèle, pendant la générationDans votre application, avant d'écrire le prompt
Ce qui est réutiliséLe traitement d'un début de prompt identiqueUne réponse déjà produite à une question procheLes calculs d'attention des tokens déjà lusDes extraits de vos documents, ajoutés au prompt
CorrespondanceExacte, caractère pour caractèreApprochée, par similarité de sensAutomatique, interne au modèlePar recherche de pertinence
Le modèle est-il appeléOui, une réponse est générée à chaque foisNon, en cas de succès du cacheOui, c'est une étape du calculOui
Risque principalUn début de prompt qui change et rend le cache inutileServir une réponse périmée ou à côté de la questionMémoire consommée sur les contextes longsExtraits non pertinents, réponse inexacte
Qui le règleVous, par la structure du prompt et un paramètre d'APIVous, par le seuil de similarité et la durée de validitéLe fournisseur ou l'équipe d'infrastructureVous, par l'indexation et la recherche

Questions fréquentes

Qu'est-ce que le prompt caching ?

C'est une fonction d'API qui mémorise le début d'un prompt déjà traité (consignes, outils, documents) pour ne pas le recalculer à chaque requête. Les requêtes suivantes qui commencent par le même texte relisent ce début à tarif réduit. La réponse du modèle reste la même.

Quelle différence entre prompt caching et semantic caching ?

Le prompt caching se situe chez le fournisseur du modèle et exige un début de prompt identique ; le modèle génère toujours une réponse. Le semantic caching se situe dans votre application : il compare le sens des questions par similarité (seuil courant de 0,85 à 0,95 selon Redis) et renvoie une réponse déjà produite sans appeler le modèle. Il est plus économique à chaque succès, mais peut servir une réponse périmée ou à côté.

Quelle différence entre prompt caching et KV cache ?

Le KV cache est un mécanisme interne du modèle : pendant la génération, il conserve les calculs d'attention (clés et valeurs) des tokens déjà lus pour ne pas les refaire. Le prompt caching relève de la même famille d'idées, mais c'est une fonction d'API, facturée et configurable, qui conserve un début de prompt entre deux requêtes.

Quelle différence entre prompt caching et RAG ?

Le RAG va chercher dans vos documents les extraits pertinents et les ajoute au prompt. Le prompt caching ne cherche rien : il réduit le coût de ce qui est renvoyé à l'identique. Ils se combinent, avec une précaution : des extraits RAG qui changent à chaque question, placés au début, empêchent le cache de servir. Mettez les parties stables d'abord.

Combien coûtent l'écriture et la lecture du cache chez Anthropic ?

Prix par million de tokens (page tarifaire d'Anthropic, novembre 2026), entrée de base / écriture 5 minutes / écriture 1 heure / lecture : Claude Fable 5.2, 8 $ / 10 $ / 16 $ / 0,20 $ ; Claude Opus 5.5, 4 $ / 5 $ / 8 $ / 0,20 $ ; Claude Sonnet 5.5, 2 $ / 2,50 $ / 4 $ / 0,10 $ ; Claude Haiku 5.5 (prompts jusqu'à 100 000 tokens), 0,10 $ / 0,125 $ / 0,20 $ / 0,01 $.

Combien coûte le prompt caching chez OpenAI ?

Il est activé par défaut. Sur GPT-5.6 et suivants, la lecture coûte 0,1 fois le tarif d'entrée (0,05 fois pour GPT-6.1 Sol et Terra) et l'écriture 1,25 fois (30 minutes minimum) ou 2,5 fois (12 heures), avec un minimum de 1 024 tokens. Sur les modèles plus anciens, il n'y a pas de frais d'écriture et la remise sur l'entrée mise en cache va jusqu'à 95 %.

Combien de temps le cache est-il conservé ?

Chez Anthropic, 5 minutes par défaut ou 1 heure en option, la durée étant renouvelée sans frais à chaque lecture et comptée depuis le début de la requête. Chez OpenAI, sur les modèles plus anciens, 5 à 10 minutes d'inactivité (jusqu'à une heure) en mémoire, ou jusqu'à 24 heures en rétention étendue ; sur GPT-5.6 et suivants, 30 minutes au minimum, ou 12 heures.

À voir aussi

Pour aller plus loin

Prompt caching, documentation Claude, Anthropic (ressource externe)

Sources

  1. Pricing (modèles, multiplicateurs de cache, prix en lecture et écriture), Anthropic, page consultée le 14 novembre 2026. https://platform.claude.com/docs/en/about-claude/pricing (consulté le 2026-11-14)
  2. Prompt caching (durée de vie, minimum de tokens, correspondance exacte), documentation Claude, Anthropic. https://platform.claude.com/docs/en/build-with-claude/prompt-caching (consulté le 2026-11-14)
  3. Prompt caching (rétention, minimum, remises, frais d'écriture), OpenAI Developers. https://developers.openai.com/api/docs/guides/prompt-caching (consulté le 2026-11-14)
  4. Cache strategies (KV cache), documentation Transformers, Hugging Face. https://huggingface.co/docs/transformers/kv_cache (consulté le 2026-11-14)
  5. What is semantic caching? (embeddings, seuil de similarité), Redis, mis à jour le 13 novembre 2026. https://redis.io/blog/what-is-semantic-caching/ (consulté le 2026-11-14)

Méthode éditorialeJournal des corrections

← Retour au glossaire

Adresse copiée