الذكاء الاصطناعي وLLMتطبيقات LLMخطتا Performance وScale

مساعد دعم العملاء بالذكاء الاصطناعي

روبوت دعم يجيب عن الأسئلة المتكررة فورًا، ويطابق إعادة الصياغة حسب المعنى، ويستند في الإجابات الجديدة إلى مركز المساعدة لديك، ولا يتجاوز الميزانية أبدًا.

محركات ذكاء اصطناعي في خادم واحد: 5
استدعاء للنموذج لكل سؤال جديد: 1
قواعد بيانات إضافية تشغّلها: 0

الخطوة 1 من 6

تحقق من ميزانية المستأجر

حُدّدت ميزانية كل مستأجر مرة واحدة باستخدام LLMBUDGET.SET. قبل أي عمل للنموذج، تُخصم منها بشكل ذري. والمستأجر الذي تجاوز سقفه يُرفض هنا، قبل إنفاق أي مال.

جلسة توضيحيةplaying

# تحقق من ميزانية المستأجر

hotkv> LLMBUDGET.CONSUME tenant:acme 900 0.002

عرض متحرك بأوامر HotKV حقيقية وردود توضيحية. انقر على أي خطوة للانتقال إليها. تبقى الأوامر والردود بالإنجليزية، تمامًا كما تكتبها وتراها في HotKV.

المشكلة

مساعد الدعم الحقيقي أكثر من مجرد موجّه. فهو يحتاج إلى ذاكرة مؤقتة كي لا تدفع ثمن السؤال نفسه مرتين، وإلى استرجاع من مركز المساعدة، وإلى ذاكرة للمحادثة، وإلى ميزانية كي لا يرفع عميل واحد الفاتورة. وهذا يعني عادةً أربع خدمات أو خمسًا، ووقتًا على الشيفرة الرابطة أكثر من الوقت على المنتج.

كيف يتعامل HotKV معها

يشغّل HotKV كل واحدة من هذه المكونات كأوامر في خادم واحد. يتحقق المساعد من ميزانية المستأجر، ويجيب عن التكرار الحرفي من الذاكرة المؤقتة للموجّهات وعن إعادة الصياغة من الذاكرة المؤقتة الدلالية، ويسترجع مقاطع من مركز المساعدة لأي سؤال جديد، ويحفظ المحادثة، ويخزّن كل إجابة جديدة مؤقتًا للعميل التالي الذي يسأل.

خطوة بخطوة

ما يحدث، أمرًا بأمر

01
تحقق من ميزانية المستأجر
حُدّدت ميزانية كل مستأجر مرة واحدة باستخدام LLMBUDGET.SET. قبل أي عمل للنموذج، تُخصم منها بشكل ذري. والمستأجر الذي تجاوز سقفه يُرفض هنا، قبل إنفاق أي مال.
LLMBUDGET.CONSUME tenant:acme 900 0.002
02
تكرار حرفي يُجاب فورًا
السؤال نفسه بالكلمات نفسها إصابة في الذاكرة المؤقتة للموجّهات. لا تضمين ولا استدعاء للنموذج.
PCACHE.GET support "How do I reset my password?"
03
إعادة صياغة تُطابق حسب المعنى
عبارة "I forgot my login password" مصوغة بشكل مختلف. لكن تضمينها قريب بما يكفي من سؤال في الذاكرة المؤقتة الدلالية التي أُنشئت مرة واحدة باستخدام SCACHE.CREATE، فتعود الإجابة المخزنة.
SCACHE.GET support 0.013 -0.21 0.88 ...
04
سؤال جديد، فاسترجع السياق
سؤال لم يطرحه أحد بعد. يعيد البحث الهجين في مركز المساعدة المستوعَب المقاطع التي يحتاجها النموذج.
RAG.SEARCH helpdesk "refund for an annual plan" K 3 VECTOR 0.41,0.07,0.66
05
استدعاء واحد للنموذج، ويُحفظ
يجيب النموذج والمقاطع سياقٌ له. ويُضاف الدور إلى المحادثة التي فُتحت باستخدام AMEM.CONV.CREATE عند بدء الدردشة، فتجد الرسالة التالية سجلها.
AMEM.CONV.APPEND chat:7781 assistant "Annual plans can be refunded within 30 days."
06
خزّنها مؤقتًا للعميل التالي
تدخل الإجابة الجديدة الذاكرة المؤقتة الدلالية، فتصبح كل إعادة صياغة لاحقة لهذا السؤال إصابة.
SCACHE.SET support "Can I get a refund on the yearly plan?" "Annual plans can be refunded within 30 days." 0.41 0.07 ...

أين يناسب

سيناريوهات من الواقع

مكتب مساعدة SaaS

يسأل آلاف العملاء عن كلمات المرور والفواتير وحدود الخطط. كثير من الأسئلة تكرار أو إعادة صياغة فتُجاب من الذاكرة المؤقتة. ولا يصل إلى النموذج إلا الجديد فعلًا.

روبوت المرتجعات في التجارة الإلكترونية

تُستوعب سياسات الإرجاع والتوصيل مرة واحدة في خط معالجة RAG. تستند الإجابات إلى نص السياسة الحالي، ولكل متجر على المنصة ميزانيته الخاصة.

مساعد تقنية معلومات داخلي

يطرح الموظفون أسئلة VPN والحواسيب المحمولة نفسها كل أسبوع. يحفظ المساعد كل محادثة، ويستدعي الأدوار السابقة، ويوقف أي حلقة خارجة عن السيطرة قبل أن تستنزف الحصة الشهرية.

مدمج