ผู้ช่วยศูนย์ช่วยเหลือ
บทความและทิกเก็ตที่แก้ไขแล้วถูกนำเข้าพร้อมผลิตภัณฑ์และภาษาเป็นเมตาดาตา แต่ละคำตอบอ้างอิงเอกสารของผลิตภัณฑ์ที่ถูกต้อง
AI และ LLMการค้นคืนข้อมูลแผน Performance และ Scale
ผู้ช่วยความรู้ด้วย RAG
ตอบคำถามจากเอกสารของคุณเองด้วยการแบ่งชังก์ ตัวกรองเมตาดาตา การค้นหาไฮบริดแบบเวกเตอร์และคีย์เวิร์ด และคะแนน rerank ที่แคชไว้ ในเอนจินเดียว
- กลยุทธ์การแบ่งชังก์
- 3
- การค้นหาเวกเตอร์ + BM25
- ไฮบริด
- vector database เพิ่มเติม
- 0
ขั้นที่ 1 จาก 5
กำหนดไปป์ไลน์
หนึ่งชังก์ต่อหนึ่งย่อหน้า ใช้จำนวนมิติของโมเดล embedding ของคุณ (3 ทำให้ตัวอย่างสั้น)
เซสชันตัวอย่างplaying
# กำหนดไปป์ไลน์
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK
ตัวอย่างแบบแอนิเมชันพร้อมคำสั่ง HotKV จริงและคำตอบตัวอย่าง คลิกขั้นตอนใดก็ได้เพื่อข้ามไปยังขั้นนั้น คำสั่งและคำตอบยังคงเป็นภาษาอังกฤษ ตรงตามที่คุณพิมพ์และเห็นใน HotKV
ปัญหา
ไปป์ไลน์การค้นคืนข้อมูลมักหมายถึง vector database ดัชนีคีย์เวิร์ด งานแบ่งชังก์ ตัว rerank และโค้ดเชื่อมต่อระหว่างทั้งหมด แต่ละชิ้นเป็นอีกหนึ่งบริการที่ต้องรัน รักษาความปลอดภัย และซิงก์กับเอกสารของคุณ และตัว rerank มักเป็นขั้นที่ช้าและแพงที่สุด
HotKV จัดการอย่างไร
HotKV วางไปป์ไลน์ไว้ในเอนจินที่รองรับแอปพลิเคชันของคุณอยู่แล้ว กำหนดไปป์ไลน์ นำเข้าเอกสาร แล้วค้นหา การแบ่งชังก์ เมตาดาตาของเอกสาร และการค้นหาไฮบริดที่ผสมความคล้ายของเวกเตอร์กับคะแนนคีย์เวิร์ด BM25 ทำงานฝั่งเซิร์ฟเวอร์ทั้งหมด และ rerank cache เก็บคะแนนของ cross-encoder ไว้ คู่คำค้นกับข้อความเดิมจึงไม่ถูกให้คะแนนซ้ำสองครั้ง
ทีละขั้นตอน
เกิดอะไรขึ้นบ้าง ทีละคำสั่ง
- 01
กำหนดไปป์ไลน์
หนึ่งชังก์ต่อหนึ่งย่อหน้า ใช้จำนวนมิติของโมเดล embedding ของคุณ (3 ทำให้ตัวอย่างสั้น)
RAG.CREATE faq 3 STRATEGY paragraph - 02
นำเข้าเอกสาร
แต่ละเอกสารถูกแบ่งชังก์ฝั่งเซิร์ฟเวอร์ และเก็บพร้อมเมตาดาตาและเวกเตอร์หนึ่งตัวต่อชังก์
RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9 - 03
การค้นหาไฮบริด
ความคล้ายของเวกเตอร์และความเกี่ยวข้องของคีย์เวิร์ดในคิวรีเดียว จำกัดอยู่ที่หนึ่งแหล่ง
RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center - 04
Rerank แต่เพียงครั้งเดียว
คะแนนจาก cross-encoder ถูกแคชต่อคำค้นและชังก์ ใน namespace ที่สร้างด้วย RERANK.CREATE คำค้นยอดนิยมจึงไม่ต้องจ่ายค่า rerank ซ้ำ
RERANK.GET faq_scores "reset password|doc:1:0" - 05
ตอบ และตรวจสอบไปป์ไลน์
ชังก์ที่ดีที่สุดถูกส่งให้โมเดลเป็นบริบท คำตอบจึงมาจากศูนย์ช่วยเหลือแทนการเดา RAG.STATS แสดงสิ่งที่ไปป์ไลน์เก็บอยู่
RAG.STATS faq
เหมาะกับงานแบบไหน
สถานการณ์จริง
การค้นหาด้านกฎหมายและนโยบาย
สัญญาและนโยบายถูกแบ่งตามย่อหน้า ข้อความที่ค้นคืนมาจึงเป็นข้อสัญญาที่สมบูรณ์ และการให้คะแนนคีย์เวิร์ดจับถ้อยคำที่ตรงกันเป๊ะ เช่น เลขข้อ
ความรู้ด้านวิศวกรรม
Runbook เอกสารออกแบบ และ postmortem กลายเป็นเนื้อหาที่ค้นหาตามความหมายได้สำหรับผู้ช่วยของทีมเวร
อยู่ในตัว
สิ่งที่คุณได้รับ
การแบ่งชังก์ในเอนจิน
แบ่งชังก์ตามขนาดคงที่ ตามประโยค หรือตามย่อหน้า ชังก์ขนาดคงที่รับขนาดและส่วนซ้อนทับที่คุณเลือก
RAG.CREATEการค้นหาไฮบริด
ความคล้ายของเวกเตอร์และคะแนนคีย์เวิร์ด BM25 ในคิวรีเดียว โดย ALPHA กำหนดสมดุล
RAG.SEARCHตัวกรองเมตาดาตา
แนบคู่คีย์และค่าตอนนำเข้า แล้วกรองด้วยค่าเหล่านั้นตอนค้นหา
RAG.INGESTFILTERRerank cache
เก็บคะแนน cross-encoder ของคู่คำค้นกับข้อความ การทำซ้ำจึงไม่มีค่าใช้จ่าย
RERANK.GETRERANK.SETคำถามที่พบบ่อย
HotKV สร้าง embedding ให้ไหม
ไม่ คุณสร้าง embedding ด้วยโมเดลที่ชอบ แล้วส่งด้วย VECTORS ตอนนำเข้า และ VECTOR ตอนค้นหา
ค้นหาโดยไม่ใช้เวกเตอร์ได้ไหม
ได้ RAG.SEARCH รับข้อความคำค้นสำหรับการให้คะแนนคีย์เวิร์ด และตัวเลือก VECTOR เพิ่มความคล้ายของเวกเตอร์ ALPHA กำหนดวิธีผสมคะแนนทั้งสอง
แผนไหนรวมฟีเจอร์นี้
RAG pipeline และ rerank cache อยู่ในแผน Performance และ Scale
กรณีใช้งานที่เกี่ยวข้อง
ลองกับเวิร์กโหลดของคุณเอง
HotKV ใช้โปรโตคอลของ Redis คุณจึงชี้ไคลเอนต์ที่มีอยู่มาที่ HotKV แล้วรันคำสั่งเดียวกันนี้ได้