Dans les coulisses de HotKV
Tags
Ingénierie.Mesurée et expliquée.
Parcourez les articles du blog HotKV par sujet, dont benchmarks, recherche vectorielle, cache sémantique, coûts LLM, compatibilité Redis et architecture.
Benchmarks
Résultats HotKV mesurés, avec configurations de test, systèmes concurrents, limites des charges de travail et preuves derrière les affirmations de performance.
1 articleRecherche vectorielle
Recherche vectorielle HNSW dans HotKV : rappel, débit de requêtes, vitesse d’ingestion et utilisation mémoire sur les jeux de données que nous avons testés.
2 articlesRedis
Comparaisons entre HotKV et Redis, compatibilité du protocole et choix de déploiement, avec les versions et conditions derrière chaque benchmark.
2 articlesPerformances
Comment HotKV se comporte sous des charges de travail mesurées, du débit de commandes aux requêtes vectorielles, avec le contexte matériel et de configuration.
4 articlesLLM
HotKV dans les applications de modèles de langage : appels au modèle, comptabilité des tokens, réutilisation des réponses et compromis de qualité du cache sémantique.
2 articlesCache sémantique
Cache de réponses exact et sémantique avec HotKV : seuils de similarité, taux de succès du cache et façon dont nous évaluons la qualité des réponses.
2 articlesOptimisation des coûts
Coûts d’API et économies de tokens mesurés avec HotKV, avec hypothèses de prix, sensibilité à la charge de travail et limites de l’extrapolation.
1 articleVersions
Annonces et versions du produit HotKV, avec le contexte du moteur, les capacités prises en charge et où trouver la documentation à jour.
1 articleArchitecture
Choix de conception du moteur C++ de HotKV, exécution concurrente des commandes, gestion de la mémoire et compatibilité avec les clients Redis courants.
2 articlesAgents IA
Mémoire, outils et connexions pour les agents IA sur HotKV, avec le stockage des conversations et des événements, le serveur MCP et un état d'agent sûr et borné.
2 articlesCache de prompts
Cache de prompts du fournisseur et cache de réponses pour les applications LLM, avec ce que chacun économise en tokens et en coûts, et où il cesse d'aider.
2 articlesMémoire d'agent
Mémoire de conversation, sémantique, de travail et épisodique pour les agents IA, avec les commandes HotKV, les règles de rétention et les défaillances à anticiper.
2 articlesMCP
Serveurs Model Context Protocol pour assistants IA, dont le serveur MCP open source de HotKV, son jeu d'outils fixe, son mode lecture seule et ses espaces de noms.