مصمم لمنظومة الذكاء الاصطناعي
تُلحق معظم الفرق بتطبيقات LLM لديها قاعدة بيانات متجهية وذاكرة مؤقتة ومحرك بحث وكومة من الشيفرة الرابطة. أما HotKV فيدمج هذه المكونات الأساسية في محرك واحد يعمل في الذاكرة، فيجري الاسترجاع والذاكرة والتحكم في التكلفة بجوار بياناتك.
اختر سؤالًا. شاهد أين تتم الإجابة عنه، وكم من حزمة التقنيات لا يحتاج إلى المرور به أبدًا.
- 00السؤاليمرّ
- LLMBUDGETميزانية LLMيمرّ
- PCACHEالذاكرة المؤقتة للمطالباتأُجيب
- SCACHEالذاكرة المؤقتة الدلالية
- RAGخط معالجة RAG
- 05LLM
أُجيب عنه من الذاكرة المؤقتة للمطالبات. لا يُستدعى النموذج أبدًا.
الأوقات هي القيم الوسيطة المقيسة في اختبار أداء توفير الرموز أدناه. لم يُقَس وقت الذاكرة المؤقتة الدلالية، لذلك لا يُعرض أي وقت لها.
تسعة محركات للذكاء الاصطناعي، وخادم واحد
كل واحد منها عائلة من الأوامر بجوار بياناتك. افتح أيًّا منها لتراه في حالة استخدام حقيقية.
لماذا تشغّل الذكاء الاصطناعي على HotKV
المحرك متعدد الخيوط نفسه الذي تفوّق على Redis وValkey في كل أمر اختبرنا أداءه يشغّل أيضًا الاسترجاع والذاكرة وضوابط الحماية لديك.
محرك واحد بدل خمس خدمات
البحث المتجهي والذاكرة المؤقتة الدلالية وRAG وذاكرة الوكلاء ومخزن الميزات تعمل كلها في العملية نفسها. لا قاعدة بيانات متجهية ولا ذاكرة مؤقتة ولا عنقود بحث منفصلًا تحتاج إلى نشره وتأمينه وإبقائه متزامنًا.
إصابات في الذاكرة المؤقتة بأقل من ملي ثانية
تعمل كل مكونات الذكاء الاصطناعي الأساسية على المحرك متعدد الخيوط نفسه الذي تفوّق على Redis وValkey في جميع الأوامر الـ12 في اختبارات الأداء لدينا. في اختبار LLM الذي أجريناه، عادت الإصابات بالتطابق التام في الذاكرة المؤقتة خلال نحو 0.05 ms، مقابل 1.4 إلى 2.9 s لاستدعاء النموذج.
التحكم في التكلفة داخل طبقة البيانات
يقلّل التخزين المؤقت الدلالي والتخزين المؤقت للمطالبات استدعاءات LLM، وتقلّل إزالة تكرار التضمينات استدعاءات التضمين، وتضع الميزانيات لكل مفتاح سقفًا للإنفاق قبل حدوثه. الوفورات مقيسة وليست تقديرية.
متعدد المستأجرين في تصميمه
تفصل مساحات الأسماء متجهات كل مستأجر وذاكرته وميزانياته عن غيره، وتضيف خطة Scale سجلًا للمستأجرين وسجل تدقيق لبنية تحتية مشتركة للذكاء الاصطناعي بين الفرق والعملاء.
ادفع مقابل رموز أقل
أرسلنا أسئلة دعم العملاء نفسها، وعددها 3,000، إلى أربعة نماذج Claude حالية مرتين: مرة مباشرة إلى النموذج، ومرة مع وضع HotKV أمامه.
الرموز المعالجة لكل نموذج
ماذا يعني هذا على نطاق واسع
- Anthropic claude-fable-5-1: $303,100 شهريًا بدون HotKV، مقابل $91,800 معه، أي توفير نحو $211,300 كل شهر.
- Anthropic claude-opus-5-5: $146,000 شهريًا بدون HotKV، مقابل $45,000 معه، أي توفير نحو $101,000 كل شهر.
- Anthropic claude-sonnet-5-5: $55,100 شهريًا بدون HotKV، مقابل $16,600 معه، أي توفير نحو $38,500 كل شهر.
- Anthropic claude-haiku-5-5: $2,700 شهريًا بدون HotKV، مقابل $800 معه، أي توفير نحو $1,900 كل شهر.
عند 1 مليون طلب يوميًا، بالاستقراء من التكلفة المقيسة لكل طلب وبافتراض نمط حركة الطلبات نفسه. عملت نماذج Claude الأربعة بإجابات قصيرة، وعمل Fable 5.1 وOpus 5.5 بأدنى جهد استدلال لديهما، لذا فإن الإجابات الأطول أو كثيفة الاستدلال ستجعل قيمة كل استدعاء مُتجنَّب أكبر.
الأرقام الكاملةالرموز، والتكلفة، وجودة الإجابات، ومفاضلة عتبة التشابهإظهارإخفاء
شغّلنا Claude Fable 5.1 وOpus 5.5 وSonnet 5.5 وHaiku 5.5 على الطلبات نفسها لكل منها، وعددها 3,000، مع HotKV وبدونه. كان التخزين المؤقت للمطالبات الخاص بالمزوّد مفعّلًا في كل تشغيل، وأُخذت الرموز والتكاليف من بيانات الاستخدام (usage) في كل استجابة، بما فيها رموز التفكير.
| النموذج | الرموز الموفَّرة | التكلفة بدون HotKV | التكلفة مع HotKV | الانخفاض | استدعاءات النموذج | وسيط الاستجابة |
|---|---|---|---|---|---|---|
| Claude Fable 5.1 | 70% | $30.31 | $9.18 | 70% | من 3,000 إلى 896 | من 2.7 s إلى 127 ms |
| Claude Opus 5.5 | 70% | $14.60 | $4.50 | 69% | من 3,000 إلى 898 | من 2.9 s إلى 126 ms |
| Claude Sonnet 5.5 | 70% | $5.51 | $1.66 | 70% | من 3,000 إلى 897 | من 1.8 s إلى 128 ms |
| Claude Haiku 5.5 | 70% | $0.27 | $0.08 | 70% | من 3,000 إلى 897 | من 1.4 s إلى 125 ms |
ما مدى جودة الإجابات المخزنة مؤقتًا؟
لكل سؤال معاد صياغته قُدّمت إجابته من الذاكرة المؤقتة، قارن نموذج مختلف بين الإجابة المخزنة والإجابة الجديدة التي قدّمها النموذج نفسه لذلك السؤال بعينه، بترتيب عشوائي. لم يقيّم أي نموذج مخرجاته الخاصة. هذا تقييم من نموذج لغوي وليس مراجعة بشرية، وتختلف صرامته من نموذج لآخر، لذا قارن بين الإجابات المخزنة والجديدة ضمن النموذج نفسه فقط.
| النموذج | الأسئلة المعاد صياغتها المقيَّمة | ملاءمة الإجابة المخزنة | ملاءمة الإجابة الجديدة |
|---|---|---|---|
| Claude Fable 5.1 | 926 | 83.3% | 90.2% |
| Claude Opus 5.5 | 935 | 93.3% | 99.0% |
| Claude Sonnet 5.5 | 936 | 77.9% | 86.1% |
| Claude Haiku 5.5 | 936 | 67.9% | 78.6% |
عتبة التشابه توازن بين الوفورات وجودة الإجابات
كل صف تشغيل منفصل للنموذج Claude Sonnet 5.5 على الطلبات نفسها وعددها 3,000 (التكلفة بدون HotKV: $5.51).
| العتبة | التكلفة | الانخفاض | ملاءمة الإجابة المخزنة | ملاءمة الإجابة الجديدة |
|---|---|---|---|---|
| 0.81 | $1.66 | 70% | 77.9% | 86.1% |
| 0.85 | $1.88 | 66% | 80.3% | 85.6% |
| 0.88 | $1.99 | 64% | 89.5% | 83.8% |
| 0.90 | $2.13 | 61% | 87.9% | 86.5% |
| 0.95 | $2.22 | 60% | 92.0% | 90.0% |
ما تُظهره هذه الأرقام وما لا تُظهره
- عند العتبة 0.81 المستخدمة في النتائج أعلاه، تلائم الإجابة المخزنة السؤال الفعلي بمعدل أقل من الإجابة الجديدة بفارق يتراوح بين 6 و11 نقطة مئوية. وتمثل الأسئلة المعاد صياغتها نحو 31% من الطلبات، لذا يبلغ الفارق عبر جميع الاستجابات ما بين 2 و3 نقطة تقريبًا. وفي تشغيلات العتبات، لم تكن الإجابات المخزنة عند 0.88 فما فوق أسوأ من الإجابات الجديدة، مع استمرار توفير ما بين 61% و64% من التكلفة.
- رقم «النية نفسها» أعلاه لا يعني «الإجابة الصحيحة نفسها». في اختبار شمل أزواجًا من الأسئلة المتقاربة عمدًا عددها 119، يغيّر فيها تفصيل واحد، مثل الإيداع مقابل السحب، الإجابة الصحيحة، كانت الإجابة المخزنة ستُقدَّم إلى 62% من الأسئلة المعدّلة عند 0.81، وإلى 25% عند 0.90، وإلى 10% عند 0.95. هذه الأزواج مصممة لتكون صعبة وتُظهر أسوأ الحالات، لا مدى تكرار حدوثها في حركة الطلبات الفعلية. إذا كانت الإجابات الخاطئة مكلفة في حالة الاستخدام لديك، فارفع العتبة.
- مجموعة بيانات عامة واحدة من الأسئلة المصرفية القصيرة، ونموذج تضمين واحد، ومقيِّم آلي. قيس أثر العتبة على نموذج واحد. أما النماذج الثلاثة الأخرى فشُغّلت عند 0.81 فقط. وسيعطي معدل التكرار لديك وأسئلتك أرقامًا مختلفة.
3,000 سؤال لدعم العملاء سُحبت من قسم الاختبار في Banking77 ببذرة عشوائية ثابتة (تتبع شعبية النوايا توزيع Zipf، s=1.0؛ وتُختار الأسئلة بشكل منتظم ضمن كل نية، مع التكرار). أُرسل كل سؤال إلى النموذج مع سياسة الدعم نفسها بوصفها مطالبة النظام. خط الأساس: يستدعي كل طلب النموذج، مع تفعيل التخزين المؤقت للمطالبات الخاص بالمزوّد. HotKV: بحث بالتطابق التام (GET على مفتاح SHA-256 للسؤال بعد توحيد صيغته)، ثم بحث دلالي (SCACHE.GET مع تضمين للسؤال)، ولا يُستدعى النموذج إلا عند الإخفاق. أُخذت أعداد الرموز من كتلة usage في كل استجابة API؛ وتستخدم التكاليف أسعار القوائم وتشمل استدعاءات التضمين. اختيرت عتبة التشابه على قسم التدريب المنفصل في Banking77 بوصفها أدنى قيمة تحقق دقة لا تقل عن 98% للنية نفسها في الإصابات الدلالية.
نموذج التضمين: OpenAI text-embedding-3-small. عتبة المطابقة الدلالية: 0.81. مجموعة البيانات: Banking77 (قسم الاختبار) من PolyAI، مرخّصة بموجب CC BY 4.0. وعدد الطلبات 3,000 موزعة على نوايا عددها 77.
تاريخ القياس: 11 أكتوبر 2026. تعتمد الوفورات على مدى تكرار حركة الطلبات لديك. فعبء العمل الذي لا يتضمن أسئلة مكررة أو متشابهة لا يوفّر شيئًا.
أطلق ميزات الذكاء الاصطناعي، لا البنية التحتية
تأتي مجموعة أوامر الذكاء الاصطناعي مع كل مثيل Performance وScale على HotKV Cloud. اطلب الوصول المبكر لتبدأ ببناء الاسترجاع والذاكرة وضوابط التكلفة.