Mémoire d’agent IA : quatre types et comment les stocker
La mémoire d’un agent IA, c’est plus qu’une longue fenêtre de contexte. Les quatre types nécessaires, comment stocker chacun et quoi exclure, avec les commandes HotKV.
Tag
LLM
Ingénierie.Mesurée et expliquée.
HotKV dans les applications de modèles de langage : appels au modèle, comptabilité des tokens, réutilisation des réponses et compromis de qualité du cache sémantique.
4 articles dans LLM
Articles
Idées. Expériences. Actualités.
Serveur MCP pour la mémoire d’agent : connecter Claude Code à HotKV
Un serveur MCP donne à Claude Code ou Cursor une mémoire dans HotKV via 28 outils fixes. Installez-le, connectez-le et limitez-le avec le mode lecture seule.
Cache de prompts ou cache sémantique : ce que chacun économise
Le cache de prompts réduit le prix d’un préfixe répété, le cache sémantique supprime l’appel au modèle. Fonctionnement, mesures et choix selon votre trafic.
HotKV a réduit de 70 % l’utilisation de tokens de Claude dans notre benchmark Banking77
Quatre modèles Claude, 3 000 requêtes de support chacun : le cache HotKV a réduit d’environ 70 % les appels, les tokens et le coût d’API. Résultats et qualité des réponses.
Suivez votre curiosité