IA e LLMRecuperaçãoPlanos Performance e Scale

Assistentes de conhecimento com RAG

Responda perguntas sobre os seus próprios documentos com chunking, filtros de metadados, busca híbrida vetorial e por palavras-chave e pontuações de rerank em cache, em um só motor.

estratégias de chunking
3
busca vetorial + BM25
Híbrida
bancos vetoriais extras
0
Etapa 1 de 5
Defina o pipeline

Um chunk por parágrafo. Use as dimensões do seu modelo de embedding (3 deixa o exemplo curto).

Sessão de exemploplaying
# Defina o pipeline
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Uma demonstração animada com comandos reais do HotKV e respostas de exemplo. Clique em qualquer etapa para ir direto a ela. Os comandos e as respostas ficam em inglês, exatamente como você os digita e vê no HotKV.

O problema

Um pipeline de recuperação costuma significar um banco de dados vetorial, um índice de palavras-chave, um job de chunking, um reranker e código de integração entre eles. Cada peça é mais um serviço para operar, proteger e manter sincronizado com os seus documentos, e o reranker costuma ser a etapa mais lenta e mais cara.

Como o HotKV resolve

O HotKV coloca o pipeline no motor que já serve a sua aplicação. Defina um pipeline, ingira documentos e pesquise. O chunking, os metadados dos documentos e a busca híbrida que combina similaridade vetorial com pontuação BM25 por palavras-chave rodam no servidor, e um cache de rerank guarda as pontuações do cross-encoder para que um par repetido de consulta e trecho nunca seja pontuado duas vezes.

Passo a passo

O que acontece, comando por comando

  1. 01

    Defina o pipeline

    Um chunk por parágrafo. Use as dimensões do seu modelo de embedding (3 deixa o exemplo curto).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Ingira documentos

    Cada documento é dividido em chunks no servidor e armazenado com os seus metadados e um vetor por chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Busca híbrida

    Similaridade vetorial e relevância por palavras-chave em uma só consulta, restrita a uma fonte.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, mas só uma vez

    As pontuações do cross-encoder ficam em cache por consulta e por chunk, em um namespace criado com RERANK.CREATE, então uma consulta popular não paga o rerank de novo.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Responda e verifique o pipeline

    Os melhores chunks vão para o modelo como contexto, então a resposta vem da central de ajuda e não de um palpite. RAG.STATS mostra o que o pipeline contém.

    RAG.STATS faq
Onde se encaixa

Cenários reais

Assistentes de central de ajuda

Artigos e tickets resolvidos são ingeridos com o produto e o idioma como metadados. Cada resposta se baseia na documentação do produto certo.

Busca jurídica e de políticas

Contratos e políticas são divididos por parágrafo para que os trechos recuperados sejam cláusulas completas, e a pontuação por palavras-chave encontra termos exatos, como números de cláusulas.

Conhecimento de engenharia

Runbooks, documentos de design e postmortems passam a ser pesquisáveis pelo significado para um assistente de plantão.

Integrado

O que você ganha

Chunking no motor

Chunking por tamanho fixo, por frase ou por parágrafo. Os chunks de tamanho fixo usam o tamanho e a sobreposição que você escolher.

RAG.CREATE

Busca híbrida

Similaridade vetorial e pontuação BM25 por palavras-chave em uma só consulta, com ALPHA definindo o equilíbrio.

RAG.SEARCH

Filtros de metadados

Anexe pares de chave e valor na ingestão e filtre por eles na hora da busca.

RAG.INGESTFILTER

Cache de rerank

Guarde as pontuações do cross-encoder para pares de consulta e trecho, para que as repetições saiam de graça.

RERANK.GETRERANK.SET

Perguntas frequentes

O HotKV cria os embeddings?

Não. Você gera os embeddings com o modelo que preferir e os passa com VECTORS na ingestão e com VECTOR na busca.

Posso pesquisar sem vetores?

Sim. RAG.SEARCH recebe o texto da consulta para a pontuação por palavras-chave, e a opção VECTOR acrescenta a similaridade vetorial. ALPHA define como as duas pontuações são combinadas.

Quais planos incluem o recurso?

Os pipelines de RAG e o cache de rerank fazem parte dos planos Performance e Scale.

Casos de uso relacionados

Experimente com a sua própria carga de trabalho

O HotKV fala o protocolo Redis, então você pode apontar um cliente existente para ele e executar estes mesmos comandos.