AI ו-LLMאחזורתוכניות Performance ו-Scale

עוזרי ידע מבוססי RAG

עונים על שאלות על המסמכים שלכם עם חלוקה למקטעים, מסנני מטא-דאטה, חיפוש היברידי של וקטורים ומילות מפתח וציוני דירוג מחדש במטמון, במנוע אחד.

אסטרטגיות חלוקה למקטעים
3
חיפוש וקטורי + BM25
היברידי
מסדי נתונים וקטוריים נוספים
0
צעד 1 מתוך 5
מגדירים את הצינור

מקטע אחד לכל פסקה. משתמשים בממדים של מודל ה-embedding שלכם (3 שומר על הדוגמה קצרה).

סשן לדוגמהplaying
# מגדירים את הצינור
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK

הדגמה מונפשת עם פקודות HotKV אמיתיות ותשובות לדוגמה. לחצו על כל שלב כדי לעבור אליו. הפקודות והתשובות נשארות באנגלית, בדיוק כפי שמקלידים ורואים ב-HotKV.

הבעיה

צינור אחזור בדרך כלל אומר מסד נתונים וקטורי, אינדקס מילות מפתח, עבודת חלוקה למקטעים, מדרג מחדש וקוד הדבקה ביניהם. כל חלק הוא שירות נוסף להפעיל, לאבטח ולשמור מסונכרן עם המסמכים שלכם, והמדרג מחדש הוא לרוב השלב האיטי והיקר ביותר.

איך HotKV מטפל בזה

HotKV שם את הצינור במנוע שכבר משרת את האפליקציה שלכם. מגדירים צינור, קולטים מסמכים ומחפשים בו. חלוקה למקטעים, מטא-דאטה של מסמכים וחיפוש היברידי המשלב דמיון וקטורי עם ציון מילות מפתח של BM25 רצים כולם בצד השרת, ומטמון דירוג מחדש שומר ציוני cross-encoder כך שזוג חוזר של שאילתה וקטע לעולם לא מקבל ציון פעמיים.

צעד אחר צעד

מה קורה, פקודה אחר פקודה

  1. 01

    מגדירים את הצינור

    מקטע אחד לכל פסקה. משתמשים בממדים של מודל ה-embedding שלכם (3 שומר על הדוגמה קצרה).

    RAG.CREATE faq 3 STRATEGY paragraph
  2. 02

    קולטים מסמכים

    כל מסמך מחולק למקטעים בצד השרת ונשמר עם המטא-דאטה שלו ווקטור אחד לכל מקטע.

    RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9
  3. 03

    חיפוש היברידי

    דמיון וקטורי ורלוונטיות של מילות מפתח בשאילתה אחת, מוגבלת למקור אחד.

    RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center
  4. 04

    מדרגים מחדש, אבל רק פעם אחת

    ציוני ה-cross-encoder נשמרים במטמון לפי שאילתה ומקטע, במרחב שמות שנוצר עם RERANK.CREATE, כך ששאילתה פופולרית לא משלמת שוב על דירוג מחדש.

    RERANK.GET faq_scores "reset password|doc:1:0"
  5. 05

    עונים ובודקים את הצינור

    המקטעים הטובים ביותר עוברים למודל כהקשר, כך שהתשובה באה ממרכז העזרה ולא מניחוש. RAG.STATS מראה מה הצינור מחזיק.

    RAG.STATS faq
איפה זה מתאים

תרחישים מהעולם האמיתי

עוזרי מרכז עזרה

מאמרים ופניות שנסגרו נקלטים עם המוצר והשפה שלהם כמטא-דאטה. כל תשובה מעוגנת בתיעוד של המוצר הנכון.

חיפוש משפטי ומדיניות

חוזים ומדיניות מפוצלים לפי פסקאות כך שהקטעים שנשלפים הם סעיפים שלמים, וציון מילות המפתח תופס מונחים מדויקים כמו מספרי סעיפים.

ידע הנדסי

מדריכי הפעלה, מסמכי תכנון וניתוחי אירועים נעשים ניתנים לחיפוש לפי משמעות עבור עוזר לכונן התורן.

מובנה

מה מקבלים

חלוקה למקטעים במנוע

חלוקה בגודל קבוע, לפי משפט או לפי פסקה. מקטעים בגודל קבוע לוקחים גודל וחפיפה שאתם בוחרים.

RAG.CREATE

חיפוש היברידי

דמיון וקטורי וציון מילות מפתח של BM25 בשאילתה אחת, כש-ALPHA קובע את האיזון.

RAG.SEARCH

מסנני מטא-דאטה

מצרפים זוגות של מפתח וערך בעת הקליטה ומסננים לפיהם בעת החיפוש.

RAG.INGESTFILTER

מטמון דירוג מחדש

שומרים ציוני cross-encoder לזוגות של שאילתה וקטע כך שחזרות בחינם.

RERANK.GETRERANK.SET

שאלות נפוצות

האם HotKV יוצר את ה-embeddings?

לא. אתם יוצרים embeddings עם המודל שאתם מעדיפים ומעבירים אותם עם VECTORS בעת הקליטה ועם VECTOR בעת החיפוש.

האם אפשר לחפש בלי וקטורים?

כן. RAG.SEARCH לוקח את טקסט השאילתה לציון מילות מפתח, והאפשרות VECTOR מוסיפה דמיון וקטורי. ALPHA קובע איך שני הציונים מעורבבים.

אילו תוכניות כוללות אותו?

צינורות RAG ומטמון הדירוג מחדש הם חלק מתוכניות Performance ו-Scale.

שימושים קשורים

נסו על עומס העבודה שלכם

HotKV מדבר את פרוטוקול Redis, ולכן אפשר להפנות אליו לקוח קיים ולהריץ את אותן פקודות.