IA et LLMRechercheOffres Performance et Scale

Assistants de connaissance RAG

Répondez aux questions sur vos propres documents grâce au découpage, aux filtres de métadonnées, à la recherche hybride vectorielle et par mots-clés et aux scores de rerank en cache, dans un seul moteur.

stratégies de découpage
3
recherche vectorielle + BM25
Hybride
base vectorielle en plus
0
Étape 1 sur 5
Définir le pipeline

Un chunk par paragraphe. Utilisez les dimensions de votre modèle d'embedding (3 ici, pour garder l'exemple court).

Session d’exempleplaying
# Définir le pipeline
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Une démonstration animée avec de vraies commandes HotKV et des exemples de réponses. Cliquez sur une étape pour y accéder directement. Les commandes et les réponses restent en anglais, exactement comme vous les saisissez et les voyez dans HotKV.

Le problème

Un pipeline de récupération implique en général une base de données vectorielle, un index de mots-clés, une tâche de découpage, un reranker et du code de liaison entre eux. Chaque brique est un service de plus à exploiter, à sécuriser et à garder synchronisé avec vos documents, et le reranker est souvent l'étape la plus lente et la plus coûteuse.

Comment HotKV s'en charge

HotKV place le pipeline dans le moteur qui sert déjà votre application. Définissez un pipeline, ingérez des documents et lancez vos recherches. Le découpage, les métadonnées des documents et la recherche hybride, qui combine similarité vectorielle et score BM25 par mots-clés, s'exécutent tous côté serveur, et un cache de rerank conserve les scores du cross-encoder pour qu'une même paire requête et passage ne soit jamais évaluée deux fois.

Étape par étape

Ce qui se passe, commande par commande

  1. 01

    Définir le pipeline

    Un chunk par paragraphe. Utilisez les dimensions de votre modèle d'embedding (3 ici, pour garder l'exemple court).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Ingérer les documents

    Chaque document est découpé côté serveur et stocké avec ses métadonnées et un vecteur par chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Recherche hybride

    Similarité vectorielle et pertinence par mots-clés dans une seule requête, limitée à une source.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Reranker, mais une seule fois

    Les scores du cross-encoder sont mis en cache par requête et par chunk, dans un namespace créé avec RERANK.CREATE, si bien qu'une requête populaire ne repaie pas le rerank.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Répondre et vérifier le pipeline

    Les meilleurs chunks sont transmis au modèle comme contexte, et la réponse vient du centre d'aide au lieu d'être une supposition. RAG.STATS montre ce que contient le pipeline.

    RAG.STATS faq
Où cela s'applique

Scénarios concrets

Assistants de centre d'aide

Les articles et les tickets résolus sont ingérés avec leur produit et leur langue comme métadonnées. Chaque réponse s'appuie sur la documentation du bon produit.

Recherche juridique et réglementaire

Les contrats et les politiques sont découpés par paragraphe pour que les passages récupérés soient des clauses complètes, et le score par mots-clés capte les termes exacts comme les numéros de clause.

Connaissances techniques

Les runbooks, documents de conception et postmortems deviennent consultables par leur sens pour un assistant d'astreinte.

Intégré

Ce que vous obtenez

Découpage dans le moteur

Découpage à taille fixe, par phrase ou par paragraphe. Les chunks à taille fixe prennent une taille et un chevauchement de votre choix.

RAG.CREATE

Recherche hybride

Similarité vectorielle et score BM25 par mots-clés dans une seule requête, avec ALPHA pour régler l'équilibre.

RAG.SEARCH

Filtres de métadonnées

Associez des paires clé-valeur à l'ingestion et filtrez dessus au moment de la recherche.

RAG.INGESTFILTER

Cache de rerank

Conservez les scores du cross-encoder pour les paires requête et passage, et les répétitions sont gratuites.

RERANK.GETRERANK.SET

Questions fréquentes

HotKV crée-t-il les embeddings ?

Non. Vous générez les embeddings avec le modèle de votre choix et les transmettez avec VECTORS à l'ingestion et VECTOR à la recherche.

Puis-je chercher sans vecteurs ?

Oui. RAG.SEARCH prend le texte de la requête pour le score par mots-clés, et l'option VECTOR ajoute la similarité vectorielle. ALPHA définit comment les deux scores sont combinés.

Quelles offres l'incluent ?

Les pipelines RAG et le cache de rerank font partie des offres Performance et Scale.

Cas d'usage associés

Essayez-le sur votre propre charge de travail

HotKV parle le protocole Redis. Vous pouvez donc y connecter un client existant et exécuter ces mêmes commandes.