AI en LLMRetrievalPlannen Performance en Scale

RAG-kennisassistenten

Beantwoord vragen over je eigen documenten met chunking, metadatafilters, hybride vector- en trefwoordzoekfunctie en gecachete rerank-scores, in één engine.

chunkingstrategieën
3
vector + BM25-zoeken
Hybride
extra vectordatabases
0
Stap 1 van 5
De pipeline definiëren

Eén chunk per alinea. Gebruik de dimensies van je embeddingmodel (3 houdt het voorbeeld kort).

Voorbeeldsessieplaying
# De pipeline definiëren
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Een geanimeerde walkthrough met echte HotKV-commando's en voorbeeldantwoorden. Klik op een stap om ernaartoe te springen. Commando's en antwoorden blijven Engels, precies zoals je ze in HotKV typt en ziet.

Het probleem

Een retrievalpipeline betekent meestal een vectordatabase, een trefwoordindex, een chunkingjob, een reranker en lijmcode ertussen. Elk onderdeel is nog een service om te draaien, te beveiligen en synchroon te houden met je documenten, en de reranker is vaak de traagste en duurste stap.

Hoe HotKV het aanpakt

HotKV zet de pipeline in de engine die je applicatie al bedient. Definieer een pipeline, lees documenten in en doorzoek hem. Chunking, documentmetadata en hybride zoeken dat vectorgelijkenis combineert met BM25-trefwoordscores draaien allemaal aan de serverkant, en een rerank-cache bewaart cross-encoderscores zodat een herhaald paar van query en passage nooit twee keer wordt gescoord.

Stap voor stap

Wat er gebeurt, commando voor commando

  1. 01

    De pipeline definiëren

    Eén chunk per alinea. Gebruik de dimensies van je embeddingmodel (3 houdt het voorbeeld kort).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Documenten inlezen

    Elk document wordt aan de serverkant in chunks verdeeld en opgeslagen met zijn metadata en één vector per chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hybride zoeken

    Vectorgelijkenis en trefwoordrelevantie in één query, beperkt tot één bron.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, maar slechts één keer

    Scores van de cross-encoder worden per query en chunk gecachet, in een namespace gemaakt met RERANK.CREATE, zodat een populaire query niet opnieuw voor reranking betaalt.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Antwoord geven en de pipeline controleren

    De beste chunks gaan als context naar het model, zodat het antwoord uit het helpcentrum komt in plaats van een gok. RAG.STATS toont wat de pipeline bevat.

    RAG.STATS faq
Waar het past

Praktijkscenario's

Assistenten voor het helpcentrum

Artikelen en opgeloste tickets worden ingelezen met hun product en taal als metadata. Elk antwoord is onderbouwd met de documentatie van het juiste product.

Juridisch zoeken en beleid

Contracten en beleidsstukken worden per alinea opgesplitst, zodat opgehaalde passages complete clausules zijn, en trefwoordscores exacte termen zoals clausulenummers vangen.

Engineeringkennis

Runbooks, ontwerpdocumenten en postmortems worden op betekenis doorzoekbaar voor een assistent voor de dienstdoende engineer.

Ingebouwd

Wat je krijgt

Chunking in de engine

Chunking met vaste grootte, per zin of per alinea. Chunks met vaste grootte nemen een grootte en overlap naar keuze.

RAG.CREATE

Hybride zoeken

Vectorgelijkenis en BM25-trefwoordscores in één query, waarbij ALPHA de balans bepaalt.

RAG.SEARCH

Metadatafilters

Voeg sleutel-waardeparen toe bij het inlezen en filter erop tijdens het zoeken.

RAG.INGESTFILTER

Rerank-cache

Bewaar cross-encoderscores voor paren van query en passage, zodat herhalingen gratis zijn.

RERANK.GETRERANK.SET

Veelgestelde vragen

Maakt HotKV de embeddings?

Nee. Je genereert embeddings met het model van je voorkeur en geeft ze mee met VECTORS bij het inlezen en VECTOR bij het zoeken.

Kan ik zoeken zonder vectoren?

Ja. RAG.SEARCH neemt de querytekst voor trefwoordscores en de optie VECTOR voegt vectorgelijkenis toe. ALPHA bepaalt hoe de twee scores worden gemengd.

Welke plannen bevatten het?

RAG-pipelines en de rerank-cache maken deel uit van de plannen Performance en Scale.

Verwante use cases

Probeer het op je eigen workload

HotKV spreekt het Redis-protocol, dus je kunt een bestaande client erop richten en dezelfde commando's uitvoeren.