AI a LLMVyhledáváníPlány Performance a Scale

Znalostní asistenti s RAG

Odpovídejte na otázky nad vlastními dokumenty s dělením na chunky, filtry podle metadat, hybridním vektorovým a klíčovým vyhledáváním a cachovaným skóre přeřazení, vše v jednom jádru.

strategie dělení na chunky
3
vyhledávání vektorů + BM25
Hybridní
dalších vektorových databází
0
Krok 1 z 5
Definice pipeline

Jeden chunk na odstavec. Použijte dimenze svého modelu pro embeddingy (3 zkracují příklad).

Ukázková relaceplaying
# Definice pipeline
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Animovaný průvodce se skutečnými příkazy HotKV a ukázkovými odpověďmi. Kliknutím na kterýkoli krok na něj přeskočíte. Příkazy a odpovědi zůstávají anglicky, přesně tak, jak je v HotKV zadáváte a vidíte.

Problém

Pipeline pro vyhledávání obvykle znamená vektorovou databázi, klíčový index, úlohu pro dělení na chunky, reranker a propojovací kód mezi nimi. Každý díl je další služba, kterou je třeba provozovat, zabezpečit a udržovat v synchronizaci s dokumenty, a reranker je často nejpomalejší a nejdražší krok.

Jak to řeší HotKV

HotKV dává pipeline do jádra, které už obsluhuje vaši aplikaci. Definujte pipeline, nahrajte dokumenty a prohledávejte je. Dělení na chunky, metadata dokumentů i hybridní vyhledávání, které míchá vektorovou podobnost se skórováním klíčových slov BM25, běží na straně serveru a cache přeřazení uchovává skóre cross-encoderu, takže se opakovaná dvojice dotaz a pasáž nikdy neskóruje dvakrát.

Krok za krokem

Co se děje, příkaz po příkazu

  1. 01

    Definice pipeline

    Jeden chunk na odstavec. Použijte dimenze svého modelu pro embeddingy (3 zkracují příklad).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Nahrání dokumentů

    Každý dokument se na serveru rozdělí na chunky a uloží se s metadaty a jedním vektorem na chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hybridní vyhledávání

    Vektorová podobnost a relevance klíčových slov v jednom dotazu, omezená na jeden zdroj.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Přeřazení, ale jen jednou

    Skóre z cross-encoderu se cachuje pro každou dvojici dotaz a chunk, ve jmenném prostoru vytvořeném pomocí RERANK.CREATE, takže oblíbený dotaz neplatí za přeřazení znovu.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Odpověď a kontrola pipeline

    Nejlepší chunky jdou modelu jako kontext, takže odpověď vychází z centra nápovědy místo odhadu. RAG.STATS ukazuje, co pipeline obsahuje.

    RAG.STATS faq
Kam to zapadá

Scénáře z praxe

Asistenti centra nápovědy

Články a vyřešené tikety se nahrávají s produktem a jazykem jako metadaty. Každá odpověď vychází z dokumentace správného produktu.

Právní vyhledávání a zásady

Smlouvy a zásady se dělí po odstavcích, takže vyhledané pasáže jsou úplné klauzule, a skórování klíčových slov zachytí přesné výrazy, například čísla článků.

Inženýrské znalosti

Runbooky, návrhové dokumenty a postmortemy se stanou prohledávatelnými podle významu pro pohotovostního asistenta.

Zabudováno

Co dostanete

Dělení na chunky v jádru

Dělení na chunky pevné velikosti, po větách nebo po odstavcích. Chunky pevné velikosti berou velikost a překryv podle vaší volby.

RAG.CREATE

Hybridní vyhledávání

Vektorová podobnost a skórování klíčových slov BM25 v jednom dotazu, přičemž ALPHA nastavuje poměr.

RAG.SEARCH

Filtry podle metadat

Při nahrávání připojte dvojice klíč a hodnota a při vyhledávání podle nich filtrujte.

RAG.INGESTFILTER

Cache přeřazení

Uchovávejte skóre cross-encoderu pro dvojice dotaz a pasáž, aby opakování bylo zdarma.

RERANK.GETRERANK.SET
Reference:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Časté otázky

Vytváří HotKV embeddingy?

Ne. Embeddingy generujete modelem, který preferujete, a předáváte je pomocí VECTORS při nahrávání a VECTOR při vyhledávání.

Mohu vyhledávat bez vektorů?

Ano. RAG.SEARCH bere text dotazu pro skórování klíčových slov a volba VECTOR přidává vektorovou podobnost. ALPHA nastavuje, jak se obě skóre míchají.

Které plány ho zahrnují?

RAG pipeline a cache přeřazení jsou součástí plánů Performance a Scale.

Související případy použití

Vyhledávání

Vyhledávání podle vektorové podobnosti

Najděte nejbližší položky podle významu, filtrované podle tagu, ve stejném jádru, které drží samotné položky.

Prozkoumat
Aplikace s LLM

AI asistent zákaznické podpory

Bot podpory, který opakované otázky zodpoví okamžitě, přeformulované najde podle významu, nové odpovědi opře o vaše centrum nápovědy a nikdy nepřekročí rozpočet.

Prozkoumat
Aplikace s LLM

Sémantické cachování odpovědí

Cachujte odpovědi LLM podle významu, ne podle přesného textu, aby přeformulované otázky zasáhly cache a přeskočily volání modelu.

Prozkoumat

Vyzkoušejte to na své zátěži

HotKV mluví protokolem Redisu, takže na něj můžete nasměrovat stávajícího klienta a spustit tytéž příkazy.

Získat předběžný přístupDalší: Vektorové vyhledávání