IA e LLMRetrievalPiani Performance e Scale

Assistenti di conoscenza RAG

Rispondi alle domande sui tuoi documenti con chunking, filtri sui metadati, ricerca ibrida vettoriale e per parole chiave e punteggi di rerank in cache, in un solo motore.

strategie di chunking
3
ricerca vettoriale + BM25
Ibrida
database vettoriali aggiuntivi
0
Passo 1 di 5
Definisci la pipeline

Un chunk per paragrafo. Usa le dimensioni del tuo modello di embedding (3 mantiene breve l'esempio).

Sessione di esempioplaying
# Definisci la pipeline
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Una dimostrazione animata con comandi HotKV reali e risposte di esempio. Clicca su un passo qualsiasi per andarci. Comandi e risposte restano in inglese, esattamente come li digiti e li vedi in HotKV.

Il problema

Una pipeline di retrieval di solito significa un database vettoriale, un indice per parole chiave, un job di chunking, un reranker e codice di collegamento tra tutti questi. Ogni pezzo è un altro servizio da gestire, proteggere e tenere sincronizzato con i tuoi documenti, e il reranker è spesso il passaggio più lento e costoso.

Come lo gestisce HotKV

HotKV mette la pipeline nel motore che serve già la tua applicazione. Definisci una pipeline, acquisisci i documenti e fai le tue ricerche. Chunking, metadati dei documenti e ricerca ibrida che combina la similarità vettoriale con il punteggio BM25 per parole chiave girano tutti lato server, e una cache di rerank conserva i punteggi del cross-encoder, così una coppia ripetuta di query e passaggio non viene mai valutata due volte.

Passo dopo passo

Cosa succede, comando per comando

  1. 01

    Definisci la pipeline

    Un chunk per paragrafo. Usa le dimensioni del tuo modello di embedding (3 mantiene breve l'esempio).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Acquisisci i documenti

    Ogni documento viene diviso in chunk lato server e salvato con i suoi metadati e un vettore per chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Ricerca ibrida

    Similarità vettoriale e rilevanza per parole chiave in una sola query, limitata a una sola fonte.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, ma una volta sola

    I punteggi del cross-encoder vengono messi in cache per query e chunk, in un namespace creato con RERANK.CREATE, così una query frequente non paga di nuovo il reranking.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Rispondi e controlla la pipeline

    I chunk migliori vanno al modello come contesto, così la risposta viene dal centro assistenza invece che da un'ipotesi. RAG.STATS mostra cosa contiene la pipeline.

    RAG.STATS faq
Dove si usa

Scenari reali

Assistenti del centro assistenza

Articoli e ticket risolti vengono acquisiti con prodotto e lingua come metadati. Ogni risposta si basa sulla documentazione del prodotto giusto.

Ricerca legale e sulle policy

Contratti e policy vengono divisi per paragrafo, così i passaggi recuperati sono clausole complete, e il punteggio per parole chiave coglie i termini esatti come i numeri delle clausole.

Conoscenza di ingegneria

Runbook, documenti di design e postmortem diventano ricercabili per significato per un assistente di reperibilità.

Integrato

Cosa ottieni

Chunking nel motore

Chunking a dimensione fissa, per frase o per paragrafo. I chunk a dimensione fissa usano una dimensione e una sovrapposizione a tua scelta.

RAG.CREATE

Ricerca ibrida

Similarità vettoriale e punteggio BM25 per parole chiave in una sola query, con ALPHA che imposta il bilanciamento.

RAG.SEARCH

Filtri sui metadati

Associa coppie di chiave e valore in fase di acquisizione e filtra su di esse in fase di ricerca.

RAG.INGESTFILTER

Cache di rerank

Conserva i punteggi del cross-encoder per le coppie di query e passaggio, così le ripetizioni sono gratis.

RERANK.GETRERANK.SET

Domande frequenti

HotKV crea gli embedding?

No. Generi gli embedding con il modello che preferisci e li passi con VECTORS in acquisizione e con VECTOR in ricerca.

Posso cercare senza vettori?

Sì. RAG.SEARCH accetta il testo della query per il punteggio per parole chiave, e l'opzione VECTOR aggiunge la similarità vettoriale. ALPHA imposta come vengono combinati i due punteggi.

Quali piani la includono?

Le pipeline RAG e la cache di rerank fanno parte dei piani Performance e Scale.

Casi d'uso correlati

Provalo sul tuo carico di lavoro

HotKV parla il protocollo Redis, quindi puoi puntarci un client esistente ed eseguire questi stessi comandi.