AI i LLMWyszukiwanieplany Performance i Scale

Asystenci wiedzy RAG

Odpowiadaj na pytania o własne dokumenty dzięki dzieleniu na fragmenty, filtrom metadanych, hybrydowemu wyszukiwaniu wektorowemu i po słowach kluczowych oraz buforowanym wynikom rerankingu, w jednym silniku.

strategie dzielenia na fragmenty
3
wyszukiwanie wektorowe + BM25
Hybrid
dodatkowych baz wektorowych
0
Krok 1 z 5
Zdefiniuj potok

Jeden fragment na akapit. Użyj wymiarów swojego modelu embeddingów (3 skraca przykład).

Przykładowa sesjaplaying
# Zdefiniuj potok
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Animowany przegląd z prawdziwymi poleceniami HotKV i przykładowymi odpowiedziami. Kliknij dowolny krok, aby do niego przejść. Polecenia i odpowiedzi pozostają po angielsku, dokładnie tak, jak je wpisujesz i widzisz w HotKV.

Problem

Potok wyszukiwania zwykle oznacza bazę wektorową, indeks słów kluczowych, zadanie dzielenia na fragmenty, reranker i kod łączący to wszystko. Każdy element to kolejna usługa do uruchamiania, zabezpieczania i synchronizowania z dokumentami, a reranker jest często najwolniejszym i najdroższym krokiem.

Jak radzi sobie z tym HotKV

HotKV umieszcza potok w silniku, który już obsługuje Twoją aplikację. Zdefiniuj potok, wczytaj dokumenty i przeszukuj je. Dzielenie na fragmenty, metadane dokumentów i hybrydowe wyszukiwanie łączące podobieństwo wektorowe z punktacją słów kluczowych BM25 działają po stronie serwera, a cache rerankingu przechowuje wyniki cross-encodera, więc powtórzona para zapytanie i fragment nigdy nie jest oceniana dwa razy.

Krok po kroku

Co się dzieje, polecenie po poleceniu

  1. 01

    Zdefiniuj potok

    Jeden fragment na akapit. Użyj wymiarów swojego modelu embeddingów (3 skraca przykład).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Wczytaj dokumenty

    Każdy dokument jest dzielony po stronie serwera i zapisywany z metadanymi oraz jednym wektorem na fragment.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Wyszukiwanie hybrydowe

    Podobieństwo wektorowe i trafność słów kluczowych w jednym zapytaniu, ograniczone do jednego źródła.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Reranking, ale tylko raz

    Wyniki z cross-encodera są buforowane dla każdego zapytania i fragmentu, w przestrzeni nazw utworzonej przez RERANK.CREATE, więc popularne zapytanie nie płaci za reranking ponownie.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Odpowiedz i sprawdź potok

    Najlepsze fragmenty trafiają do modelu jako kontekst, więc odpowiedź pochodzi z centrum pomocy, a nie ze zgadywania. RAG.STATS pokazuje, co zawiera potok.

    RAG.STATS faq
Gdzie się sprawdza

Scenariusze z życia

Asystenci centrum pomocy

Artykuły i rozwiązane zgłoszenia są wczytywane z produktem i językiem jako metadanymi. Każda odpowiedź opiera się na dokumentacji właściwego produktu.

Wyszukiwanie prawne i polityk

Umowy i polityki są dzielone na akapity, aby pobrane fragmenty były kompletnymi klauzulami, a punktacja słów kluczowych wychwytywała dokładne terminy, jak numery klauzul.

Wiedza inżynieryjna

Runbooki, dokumenty projektowe i postmortemy stają się przeszukiwalne według znaczenia dla asystenta dyżurnego.

Wbudowane

Co dostajesz

Dzielenie na fragmenty w silniku

Dzielenie na fragmenty o stałym rozmiarze, na zdania lub akapity. Fragmenty o stałym rozmiarze przyjmują wybrany przez Ciebie rozmiar i nakładanie.

RAG.CREATE

Wyszukiwanie hybrydowe

Podobieństwo wektorowe i punktacja słów kluczowych BM25 w jednym zapytaniu, z ALPHA ustawiającym równowagę.

RAG.SEARCH

Filtry metadanych

Dołączaj pary klucz i wartość przy wczytywaniu i filtruj po nich podczas wyszukiwania.

RAG.INGESTFILTER

Cache rerankingu

Przechowuj wyniki cross-encodera dla par zapytanie i fragment, aby powtórzenia były darmowe.

RERANK.GETRERANK.SET
Opis:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Częste pytania

Czy HotKV tworzy embeddingi?

Nie. Embeddingi generujesz wybranym modelem i przekazujesz je przez VECTORS przy wczytywaniu oraz VECTOR przy wyszukiwaniu.

Czy mogę wyszukiwać bez wektorów?

Tak. RAG.SEARCH przyjmuje tekst zapytania do punktacji słów kluczowych, a opcja VECTOR dodaje podobieństwo wektorowe. ALPHA ustawia, jak oba wyniki są mieszane.

Które plany to zawierają?

Potoki RAG i cache rerankingu są częścią planów Performance i Scale.

Powiązane przypadki użycia

Wyszukiwanie

Wyszukiwanie podobieństwa wektorowego

Znajduj najbliższe elementy według znaczenia, filtrowane tagiem, w tym samym silniku, który przechowuje same elementy.

Zobacz
Aplikacje LLM

Asystent AI obsługi klienta

Bot obsługi klienta, który natychmiast odpowiada na powtórzenia, dopasowuje parafrazy według znaczenia, opiera nowe odpowiedzi na Twoim centrum pomocy i nigdy nie przekracza budżetu.

Zobacz
Aplikacje LLM

Cache semantyczny odpowiedzi

Buforuj odpowiedzi LLM według znaczenia, a nie dokładnego tekstu, aby sparafrazowane pytania trafiały w cache i omijały wywołanie modelu.

Zobacz

Wypróbuj na własnym obciążeniu

HotKV mówi protokołem Redis, więc możesz skierować na niego istniejącego klienta i uruchomić te same polecenia.

Uzyskaj wczesny dostępDalej: Wyszukiwanie wektorowe