AI és LLMKeresésPerformance és Scale csomagok

RAG tudásasszisztensek

Válaszoljon kérdésekre a saját dokumentumai felett darabolással, metaadat-szűrőkkel, hibrid vektoros és kulcsszavas kereséssel, valamint gyorsítótárazott rerank-pontszámokkal, egyetlen motorban.

darabolási stratégia
3
vektoros + BM25-keresés
Hibrid
extra vektoradatbázis
0
Lépés 1 / 5
A folyamat definiálása

Bekezdésenként egy darab. Használja az embedding modellje dimenzióit (a 3 rövidre fogja a példát).

Példa munkamenetplaying
# A folyamat definiálása
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Animált bemutató valódi HotKV-parancsokkal és példa-válaszokkal. Kattintson bármelyik lépésre, hogy odaugorjon. A parancsok és a válaszok angolul maradnak, pontosan úgy, ahogy begépeli és látja őket a HotKV-ban.

A probléma

Egy keresési folyamat általában egy vektoradatbázist, egy kulcsszóindexet, egy darabolási feladatot, egy rerankert és a köztük lévő ragasztókódot jelent. Mindegyik újabb szolgáltatás, amelyet üzemeltetni, védeni és a dokumentumokkal szinkronban tartani kell, a reranker pedig gyakran a leglassabb és legdrágább lépés.

Hogyan kezeli a HotKV

A HotKV a folyamatot abba a motorba teszi, amely már kiszolgálja az alkalmazását. Definiáljon egy folyamatot, töltsön be dokumentumokat, és keressen benne. A darabolás, a dokumentum-metaadatok és a vektoros hasonlóságot a BM25 kulcsszavas pontozással keverő hibrid keresés mind szerveroldalon fut, a rerank-gyorsítótár pedig megőrzi a cross-encoder pontszámait, így ugyanazt a lekérdezés–részlet párt sosem pontozza kétszer.

Lépésről lépésre

Mi történik, parancsról parancsra

  1. 01

    A folyamat definiálása

    Bekezdésenként egy darab. Használja az embedding modellje dimenzióit (a 3 rövidre fogja a példát).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Dokumentumok betöltése

    Minden dokumentum szerveroldalon darabolódik, és a metaadataival, valamint darabonként egy vektorral tárolódik.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hibrid keresés

    Vektorhasonlóság és kulcsszavas relevancia egyetlen lekérdezésben, egy forrásra korlátozva.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, de csak egyszer

    A cross-encoder pontszámai lekérdezésenként és darabonként gyorsítótárazódnak, egy RERANK.CREATE-tel létrehozott névtérben, így egy népszerű lekérdezés nem fizet újra a rerankelésért.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Válasz, és a folyamat ellenőrzése

    A legjobb darabok kontextusként a modellhez kerülnek, így a válasz a súgóközpontból jön, nem találgatásból. A RAG.STATS megmutatja, mit tartalmaz a folyamat.

    RAG.STATS faq
Hol használható

Valós helyzetek

Súgóközponti asszisztensek

A cikkeket és a megoldott jegyeket a termékükkel és nyelvükkel mint metaadattal töltik be. Minden válasz a megfelelő termék dokumentációjára épül.

Jogi és szabályzati keresés

A szerződéseket és szabályzatokat bekezdésenként darabolják, így a megtalált részletek teljes kikötések, a kulcsszavas pontozás pedig elkapja a pontos kifejezéseket, például a kikötésszámokat.

Mérnöki tudás

A futtatási kézikönyvek, a tervezési dokumentumok és az utólagos elemzések jelentés alapján kereshetővé válnak egy ügyeleti asszisztens számára.

Beépítve

Amit kap

Darabolás a motorban

Fix méretű, mondat vagy bekezdés szerinti darabolás. A fix méretű darabok az Ön által választott méretet és átfedést kapják.

RAG.CREATE

Hibrid keresés

Vektorhasonlóság és BM25 kulcsszavas pontozás egyetlen lekérdezésben, az ALPHA állítja az arányt.

RAG.SEARCH

Metaadat-szűrők

Csatoljon kulcs–érték párokat betöltéskor, és szűrjön rájuk kereséskor.

RAG.INGESTFILTER

Rerank-gyorsítótár

Őrizze meg a cross-encoder pontszámait lekérdezés–részlet párokra, hogy az ismétlések ingyenesek legyenek.

RERANK.GETRERANK.SET
Referencia:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Gyakori kérdések

A HotKV készíti az embeddingeket?

Nem. Az embeddingeket az Ön által választott modellel generálja, és betöltéskor a VECTORS, kereséskor a VECTOR kapcsolóval adja át.

Kereshetek vektorok nélkül?

Igen. A RAG.SEARCH a lekérdezés szövegét kulcsszavas pontozásra veszi, a VECTOR kapcsoló pedig vektorhasonlóságot ad hozzá. Az ALPHA állítja, hogyan keveredik a két pontszám.

Mely csomagok tartalmazzák?

A RAG-folyamatok és a rerank-gyorsítótár a Performance és a Scale csomag részei.

Kapcsolódó felhasználási esetek

Keresés

Vektorhasonlósági keresés

Keresse meg a legközelebbi elemeket jelentés alapján, címkével szűrve, ugyanabban a motorban, amely magukat az elemeket tárolja.

Felfedezés
LLM-alkalmazások

AI ügyfélszolgálati asszisztens

Egy támogatási bot, amely az ismétlődő kérdésekre azonnal válaszol, az átfogalmazásokat jelentés alapján párosítja, az új válaszokat a súgóközpontjára alapozza, és soha nem költ túl.

Felfedezés
LLM-alkalmazások

Szemantikus válasz-gyorsítótárazás

Gyorsítótárazza az LLM-válaszokat jelentés, nem pontos szöveg alapján, így az átfogalmazott kérdések gyorsítótár-találatot adnak, és kihagyják a modellhívást.

Felfedezés

Próbálja ki a saját munkaterhelésén

A HotKV a Redis protokollt beszéli, így egy meglévő klienst ráirányíthat, és lefuttathatja ugyanezeket a parancsokat.

Korai hozzáférés kéréseKövetkező: Vektorkeresés