AI och LLMHämtningPlanerna Performance och Scale

RAG-kunskapsassistenter

Besvara frågor över dina egna dokument med uppdelning, metadatafilter, hybridsökning över vektorer och nyckelord samt cachade rerank-poäng, i en enda motor.

uppdelningsstrategier
3
sökning med vektorer + BM25
Hybrid
extra vektordatabaser
0
Steg 1 av 5
Definiera pipelinen

En bit per stycke. Använd din embedding-modells dimensioner (3 håller exemplet kort).

Exempelsessionplaying
# Definiera pipelinen
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

En animerad genomgång med riktiga HotKV-kommandon och exempelsvar. Klicka på valfritt steg för att hoppa dit. Kommandon och svar förblir på engelska, precis som du skriver och ser dem i HotKV.

Problemet

En hämtningspipeline innebär oftast en vektordatabas, ett nyckelordsindex, ett uppdelningsjobb, en reranker och limkod mellan dem. Varje del är ännu en tjänst att drifta, säkra och hålla synkad med dina dokument, och rerankern är ofta det långsammaste och dyraste steget.

Så löser HotKV det

HotKV lägger pipelinen i motorn som redan serverar din applikation. Definiera en pipeline, läs in dokument och sök i den. Uppdelning, dokumentmetadata och hybridsökning som blandar vektorlikhet med BM25-poäng körs alla på serversidan, och en rerank-cache sparar cross-encoder-poäng så att ett upprepat par av fråga och avsnitt aldrig poängsätts två gånger.

Steg för steg

Vad som händer, kommando för kommando

  1. 01

    Definiera pipelinen

    En bit per stycke. Använd din embedding-modells dimensioner (3 håller exemplet kort).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Läs in dokument

    Varje dokument delas upp på serversidan och lagras med sin metadata och en vektor per bit.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hybridsökning

    Vektorlikhet och nyckelordsrelevans i en enda fråga, begränsad till en källa.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, men bara en gång

    Poäng från cross-encodern cachas per fråga och bit, i en namnrymd skapad med RERANK.CREATE, så en populär fråga slipper betala för reranking igen.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Svara och kontrollera pipelinen

    De bästa bitarna går till modellen som kontext, så att svaret kommer från hjälpcentret i stället för en gissning. RAG.STATS visar vad pipelinen innehåller.

    RAG.STATS faq
Där det passar

Verkliga scenarier

Assistenter för hjälpcenter

Artiklar och lösta ärenden läses in med produkt och språk som metadata. Varje svar förankras i rätt produkts dokumentation.

Juridisk sökning och policysökning

Avtal och policyer delas upp per stycke så att de hämtade avsnitten är kompletta klausuler, och nyckelordspoängen fångar exakta termer som klausulnummer.

Teknisk kunskap

Runbooks, designdokument och efteranalyser blir sökbara efter betydelse för en assistent åt jourhavande.

Inbyggt

Det här får du

Uppdelning i motorn

Uppdelning med fast storlek, per mening eller per stycke. Bitar med fast storlek tar en storlek och överlappning som du väljer.

RAG.CREATE

Hybridsökning

Vektorlikhet och BM25-nyckelordspoäng i en enda fråga, där ALPHA sätter balansen.

RAG.SEARCH

Metadatafilter

Bifoga nyckel-värde-par vid inläsning och filtrera på dem vid sökning.

RAG.INGESTFILTER

Rerank-cache

Spara cross-encoder-poäng för par av fråga och avsnitt så att upprepningar blir gratis.

RERANK.GETRERANK.SET
Referens:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Vanliga frågor

Skapar HotKV embeddings?

Nej. Du genererar embeddings med den modell du föredrar och skickar dem med VECTORS vid inläsning och VECTOR vid sökning.

Kan jag söka utan vektorer?

Ja. RAG.SEARCH tar frågetexten för nyckelordspoäng, och alternativet VECTOR lägger till vektorlikhet. ALPHA anger hur de två poängen blandas.

Vilka planer innehåller den?

RAG-pipelines och rerank-cachen ingår i planerna Performance och Scale.

Relaterade användningsfall

Hämtning

Vektorlikhetssökning

Hitta de närmaste objekten efter betydelse, filtrerade på tagg, i samma motor som håller själva objekten.

Utforska
LLM-applikationer

AI-assistent för kundsupport

En supportbot som svarar direkt på upprepningar, matchar omformuleringar efter betydelse, förankrar nya svar i ditt hjälpcenter och aldrig överskrider budgeten.

Utforska
LLM-applikationer

Semantisk cache för svar

Cacha LLM-svar efter betydelse, inte exakt text, så att omformulerade frågor ger cacheträff och hoppar över modellanropet.

Utforska

Prova på din egen arbetslast

HotKV talar Redis-protokollet, så du kan peka en befintlig klient mot det och köra samma kommandon.

Få tidig åtkomstNästa: Vektorsökning