Yapay zeka ve LLMGetirmePerformance ve Scale planları

RAG Bilgi Asistanları

Kendi belgeleriniz üzerinde soruları yanıtlayın: parçalama, meta veri filtreleri, hibrit vektör ve anahtar sözcük araması ve önbelleğe alınmış yeniden sıralama skorları, tek bir motorda.

parçalama stratejisi
3
vektör + BM25 arama
Hibrit
ek vektör veritabanı
0
Adım 1 / 5
İşlem hattını tanımlayın

Paragraf başına bir parça. Embedding modelinizin boyutlarını kullanın (3, örneği kısa tutar).

Örnek oturumplaying
# İşlem hattını tanımlayın
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

Gerçek HotKV komutları ve örnek yanıtlarla animasyonlu bir anlatım. Herhangi bir adıma atlamak için üzerine tıklayın. Komutlar ve yanıtlar, HotKV'de yazdığınız ve gördüğünüz haliyle İngilizce kalır.

Sorun

Bir getirme işlem hattı genellikle bir vektör veritabanı, bir anahtar sözcük dizini, bir parçalama işi, bir yeniden sıralayıcı ve aralarında yapıştırma kodu demektir. Her parça çalıştırılacak, güvenceye alınacak ve belgelerinizle eşzamanlı tutulacak bir servis daha demektir; yeniden sıralayıcı da çoğu zaman en yavaş ve en pahalı adımdır.

HotKV bunu nasıl ele alır

HotKV işlem hattını, uygulamanıza zaten hizmet veren motorun içine yerleştirir. Bir işlem hattı tanımlayın, belgeleri alın ve onda arama yapın. Parçalama, belge meta verisi ve vektör benzerliğini BM25 anahtar sözcük skoruyla harmanlayan hibrit arama sunucu tarafında çalışır; bir yeniden sıralama önbelleği de çapraz kodlayıcı skorlarını tutar, böylece tekrarlanan bir sorgu ve pasaj çifti asla iki kez skorlanmaz.

Adım adım

Ne olur, komut komut

  1. 01

    İşlem hattını tanımlayın

    Paragraf başına bir parça. Embedding modelinizin boyutlarını kullanın (3, örneği kısa tutar).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    Belgeleri alın

    Her belge sunucu tarafında parçalanır ve meta verisi ile parça başına bir vektörle saklanır.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    Hibrit arama

    Vektör benzerliği ve anahtar sözcük ilgisi tek sorguda, tek bir kaynakla sınırlı.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    Yeniden sıralayın, ama yalnızca bir kez

    Çapraz kodlayıcının skorları, RERANK.CREATE ile oluşturulan bir ad alanında sorgu ve parça başına önbelleğe alınır; böylece popüler bir sorgu yeniden sıralama için tekrar ödemez.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    Yanıtlayın ve işlem hattını denetleyin

    En iyi parçalar bağlam olarak modele gider; böylece yanıt bir tahminden değil, yardım merkezinden gelir. RAG.STATS işlem hattının neleri tuttuğunu gösterir.

    RAG.STATS faq
Nereye uyar

Gerçek dünya senaryoları

Yardım merkezi asistanları

Makaleler ve çözülmüş talepler, ürünleri ve dilleri meta veri olarak alınır. Her yanıt, doğru ürünün belgelerine dayanır.

Hukuki ve politika araması

Sözleşmeler ve politikalar paragrafa göre bölünür; böylece getirilen pasajlar eksiksiz maddelerdir ve anahtar sözcük skoru madde numaraları gibi birebir terimleri yakalar.

Mühendislik bilgisi

Çalışma kılavuzları, tasarım belgeleri ve ölüm sonrası incelemeler, bir nöbetçi asistanı için anlamla aranabilir hale gelir.

Yerleşik

Neler elde edersiniz

Motorda parçalama

Sabit boyutlu, cümle veya paragraf parçalama. Sabit boyutlu parçalar, seçtiğiniz bir boyut ve örtüşme alır.

RAG.CREATE

Hibrit arama

Tek sorguda vektör benzerliği ve BM25 anahtar sözcük skoru; dengeyi ALPHA ayarlar.

RAG.SEARCH

Meta veri filtreleri

Alım sırasında anahtar ve değer çiftleri ekleyin, arama sırasında bunlara göre filtreleyin.

RAG.INGESTFILTER

Yeniden sıralama önbelleği

Sorgu ve pasaj çiftleri için çapraz kodlayıcı skorlarını tutun; böylece tekrarlar bedavadır.

RERANK.GETRERANK.SET
Başvuru:RAG.CREATERAG.INGESTRAG.SEARCHRERANK.GET

Sık sorulan sorular

HotKV embedding'leri oluşturur mu?

Hayır. Embedding'leri tercih ettiğiniz modelle üretirsiniz ve alım sırasında VECTORS, arama sırasında VECTOR ile geçirirsiniz.

Vektörler olmadan arama yapabilir miyim?

Evet. RAG.SEARCH anahtar sözcük skoru için sorgu metnini alır ve VECTOR seçeneği vektör benzerliğini ekler. ALPHA, iki skorun nasıl harmanlanacağını belirler.

Hangi planlara dahil?

RAG işlem hatları ve yeniden sıralama önbelleği Performance ve Scale planlarının parçasıdır.

İlgili kullanım senaryoları

Getirme

Vektör Benzerlik Araması

Öğelerin kendisini tutan aynı motorun içinde, etikete göre filtreleyerek en yakın öğeleri anlamlarıyla bulun.

Keşfedin
LLM uygulamaları

Yapay Zeka Müşteri Destek Asistanı

Tekrarları anında yanıtlayan, yeniden ifadeleri anlamıyla eşleştiren, yeni yanıtları yardım merkezinize dayandıran ve asla fazla harcamayan bir destek botu.

Keşfedin
LLM uygulamaları

Anlamsal Yanıt Önbellekleme

LLM yanıtlarını birebir metne göre değil, anlamına göre önbelleğe alın; böylece başka sözcüklerle sorulan sorular önbelleğe isabet eder ve model çağrısını atlar.

Keşfedin

Kendi iş yükünüzde deneyin

HotKV, Redis protokolünü konuşur; bu yüzden mevcut bir istemciyi ona yönlendirip aynı komutları çalıştırabilirsiniz.

Erken erişim alınSıradaki: Vektör Arama