AI dan LLMPengambilan dataPaket Performance dan Scale

Asisten Pengetahuan RAG

Jawab pertanyaan atas dokumen Anda sendiri dengan chunking, filter metadata, pencarian hibrida vektor dan kata kunci, dan skor rerank yang di-cache, dalam satu mesin.

strategi chunking
3
pencarian vektor + BM25
Hibrida
vector database tambahan
0
Langkah 1 dari 5
Definisikan pipeline

Satu chunk per paragraf. Gunakan dimensi model embedding Anda (3 membuat contoh tetap singkat).

Sesi contohplaying
# Definisikan pipeline
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Panduan beranimasi dengan perintah HotKV yang sebenarnya dan balasan contoh. Klik langkah mana pun untuk melompat ke sana. Perintah dan balasan tetap dalam bahasa Inggris, persis seperti yang Anda ketik dan lihat di HotKV.

Masalahnya

Pipeline pengambilan data biasanya berarti vector database, indeks kata kunci, pekerjaan chunking, reranker, dan kode perekat di antaranya. Setiap bagian adalah layanan lain untuk dijalankan, diamankan, dan dijaga agar tetap sinkron dengan dokumen Anda, dan reranker sering menjadi langkah yang paling lambat dan paling mahal.

Cara HotKV menanganinya

HotKV menaruh pipeline di mesin yang sudah melayani aplikasi Anda. Definisikan pipeline, serap dokumen, dan cari. Chunking, metadata dokumen, dan pencarian hibrida yang memadukan kemiripan vektor dengan skor kata kunci BM25 semuanya berjalan di sisi server, dan rerank cache menyimpan skor cross-encoder sehingga pasangan kueri dan bagian yang berulang tidak pernah diberi skor dua kali.

Langkah demi langkah

Apa yang terjadi, perintah demi perintah

  1. 01

    Definisikan pipeline

    Satu chunk per paragraf. Gunakan dimensi model embedding Anda (3 membuat contoh tetap singkat).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Serap dokumen

    Setiap dokumen dipecah di sisi server dan disimpan dengan metadatanya dan satu vektor per chunk.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Pencarian hibrida

    Kemiripan vektor dan relevansi kata kunci dalam satu kueri, dibatasi pada satu sumber.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Rerank, tetapi hanya sekali

    Skor dari cross-encoder di-cache per kueri dan chunk, dalam namespace yang dibuat dengan RERANK.CREATE, sehingga kueri populer tidak membayar rerank lagi.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Jawab, dan periksa pipeline

    Chunk terbaik dikirim ke model sebagai konteks, sehingga jawaban berasal dari pusat bantuan, bukan tebakan. RAG.STATS menunjukkan apa yang dimiliki pipeline.

    RAG.STATS faq
Di mana ini cocok

Skenario dunia nyata

Asisten pusat bantuan

Artikel dan tiket yang terselesaikan diserap dengan produk dan bahasanya sebagai metadata. Setiap jawaban didasarkan pada dokumentasi produk yang tepat.

Pencarian hukum dan kebijakan

Kontrak dan kebijakan dipecah per paragraf sehingga bagian yang diambil adalah klausul yang utuh, dan skor kata kunci menangkap istilah persis seperti nomor klausul.

Pengetahuan rekayasa

Runbook, dokumen desain, dan postmortem menjadi dapat dicari berdasarkan makna untuk asisten on-call.

Bawaan

Yang Anda dapatkan

Chunking di dalam mesin

Chunking ukuran tetap, kalimat, atau paragraf. Chunk ukuran tetap menerima ukuran dan tumpang tindih yang Anda pilih.

RAG.CREATE

Pencarian hibrida

Kemiripan vektor dan skor kata kunci BM25 dalam satu kueri, dengan ALPHA mengatur keseimbangannya.

RAG.SEARCH

Filter metadata

Lampirkan pasangan kunci dan nilai saat ingest dan filter berdasarkan itu saat pencarian.

RAG.INGESTFILTER

Rerank cache

Simpan skor cross-encoder untuk pasangan kueri dan bagian sehingga pengulangan gratis.

RERANK.GETRERANK.SET
Referensi:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Pertanyaan umum

Apakah HotKV membuat embedding?

Tidak. Anda membuat embedding dengan model pilihan Anda dan meneruskannya dengan VECTORS saat ingest dan VECTOR saat mencari.

Bisakah saya mencari tanpa vektor?

Ya. RAG.SEARCH menerima teks kueri untuk skor kata kunci, dan opsi VECTOR menambahkan kemiripan vektor. ALPHA mengatur bagaimana kedua skor dipadukan.

Paket mana yang menyertakannya?

Pipeline RAG dan rerank cache adalah bagian dari paket Performance dan Scale.

Kasus penggunaan terkait

Pengambilan data

Pencarian Kemiripan Vektor

Temukan item terdekat berdasarkan makna, difilter dengan tag, di dalam mesin yang sama yang menyimpan item itu sendiri.

Jelajahi
Aplikasi LLM

Asisten Dukungan Pelanggan AI

Bot dukungan yang menjawab pertanyaan berulang seketika, mencocokkan parafrase berdasarkan makna, mendasarkan jawaban baru pada pusat bantuan Anda, dan tidak pernah boros.

Jelajahi
Aplikasi LLM

Semantic Caching Respons

Cache jawaban LLM berdasarkan makna, bukan teks persis, sehingga pertanyaan parafrase mengenai cache dan melewati panggilan model.

Jelajahi

Coba pada beban kerja Anda sendiri

HotKV berbicara protokol Redis, jadi Anda dapat mengarahkan klien yang sudah ada ke HotKV dan menjalankan perintah yang sama.

Dapatkan akses awalBerikutnya: Vector Search