KI und LLMRetrievalPerformance- und Scale-Tarife

RAG-Wissensassistenten

Beantworten Sie Fragen über Ihre eigenen Dokumente mit Chunking, Metadatenfiltern, hybrider Vektor- und Stichwortsuche und gecachten Rerank-Scores, in einer Engine.

Chunking-Strategien
3
Vektor- und BM25-Suche
Hybrid
zusätzliche Vektordatenbanken
0
Schritt 1 von 5
Die Pipeline definieren

Ein Chunk pro Absatz. Verwenden Sie die Dimensionen Ihres Embedding-Modells (3 hält das Beispiel kurz).

Beispielsitzungplaying
# Die Pipeline definieren
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Ein animierter Durchlauf mit echten HotKV-Befehlen und Beispielantworten. Klicken Sie auf einen Schritt, um direkt dorthin zu springen. Befehle und Antworten bleiben auf Englisch, genau so, wie Sie sie in HotKV eingeben und sehen.

Das Problem

Eine Retrieval-Pipeline bedeutet meist eine Vektordatenbank, einen Stichwortindex, einen Chunking-Job, einen Reranker und Glue-Code dazwischen. Jedes Teil ist ein weiterer Dienst, der betrieben, abgesichert und mit Ihren Dokumenten synchron gehalten werden muss, und der Reranker ist oft der langsamste und teuerste Schritt.

So löst HotKV es

HotKV legt die Pipeline in die Engine, die Ihre Anwendung ohnehin bedient. Definieren Sie eine Pipeline, spielen Sie Dokumente ein und durchsuchen Sie sie. Chunking, Dokumentmetadaten und eine Hybridsuche, die Vektorähnlichkeit mit BM25-Stichwortbewertung mischt, laufen alle serverseitig, und ein Rerank-Cache hält Cross-Encoder-Scores vor, sodass ein wiederholtes Paar aus Anfrage und Passage nie zweimal bewertet wird.

Schritt für Schritt

Was passiert, Befehl für Befehl

  1. 01

    Die Pipeline definieren

    Ein Chunk pro Absatz. Verwenden Sie die Dimensionen Ihres Embedding-Modells (3 hält das Beispiel kurz).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Dokumente einspielen

    Jedes Dokument wird serverseitig in Chunks zerlegt und mit seinen Metadaten und einem Vektor pro Chunk gespeichert.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hybridsuche

    Vektorähnlichkeit und Stichwortrelevanz in einer Abfrage, beschränkt auf eine Quelle.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Reranking, aber nur einmal

    Scores des Cross-Encoders werden pro Anfrage und Chunk in einem mit RERANK.CREATE angelegten Namespace gecacht, sodass eine beliebte Anfrage nicht erneut für das Reranking zahlt.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Antworten und die Pipeline prüfen

    Die besten Chunks gehen als Kontext an das Modell, sodass die Antwort aus dem Hilfecenter kommt statt aus einer Vermutung. RAG.STATS zeigt, was die Pipeline enthält.

    RAG.STATS faq
Wo es passt

Szenarien aus der Praxis

Hilfecenter-Assistenten

Artikel und gelöste Tickets werden mit Produkt und Sprache als Metadaten eingespielt. Jede Antwort stützt sich auf die Dokumentation des richtigen Produkts.

Recherche in Verträgen und Richtlinien

Verträge und Richtlinien werden nach Absätzen aufgeteilt, sodass abgerufene Passagen vollständige Klauseln sind, und die Stichwortbewertung erfasst exakte Begriffe wie Klauselnummern.

Engineering-Wissen

Runbooks, Designdokumente und Postmortems werden für einen Rufbereitschafts-Assistenten nach Bedeutung durchsuchbar.

Integriert

Was Sie bekommen

Chunking in der Engine

Chunking nach fester Größe, Satz oder Absatz. Chunks fester Größe nehmen eine Größe und Überlappung Ihrer Wahl.

RAG.CREATE

Hybridsuche

Vektorähnlichkeit und BM25-Stichwortbewertung in einer Abfrage, wobei ALPHA die Gewichtung festlegt.

RAG.SEARCH

Metadatenfilter

Hängen Sie beim Einspielen Schlüssel-Wert-Paare an und filtern Sie bei der Suche danach.

RAG.INGESTFILTER

Rerank-Cache

Behalten Sie Cross-Encoder-Scores für Paare aus Anfrage und Passage, sodass Wiederholungen nichts kosten.

RERANK.GETRERANK.SET

Häufige Fragen

Erstellt HotKV die Embeddings?

Nein. Sie erzeugen Embeddings mit dem Modell Ihrer Wahl und übergeben sie beim Einspielen mit VECTORS und bei der Suche mit VECTOR.

Kann ich ohne Vektoren suchen?

Ja. RAG.SEARCH nimmt den Anfragetext für die Stichwortbewertung, und die Option VECTOR ergänzt die Vektorähnlichkeit. ALPHA legt fest, wie die beiden Scores gemischt werden.

Welche Tarife enthalten sie?

RAG-Pipelines und der Rerank-Cache sind Teil der Tarife Performance und Scale.

Verwandte Anwendungsfälle

Probieren Sie es mit Ihrer eigenen Workload

HotKV spricht das Redis-Protokoll, sodass Sie einen bestehenden Client darauf richten und genau diese Befehle ausführen können.