ภายใน HotKV
แท็ก
วิศวกรรมวัดผลและอธิบายให้เข้าใจ
เรียกดูบทความในบล็อก HotKV ตามหัวข้อ เช่น เบนช์มาร์ก vector search, semantic caching, ต้นทุน LLM, ความเข้ากันได้กับ Redis และสถาปัตยกรรม
เบนช์มาร์ก
ผลของ HotKV ที่วัดได้จริง รวมถึงการกำหนดค่าการทดสอบ ระบบที่นำมาเปรียบเทียบ ข้อจำกัดของเวิร์กโหลด และหลักฐานเบื้องหลังข้ออ้างด้านประสิทธิภาพ
1 บทความVector search
การค้นหาเวกเตอร์แบบ HNSW ใน HotKV ครอบคลุม recall ปริมาณคิวรี ความเร็วในการนำเข้าข้อมูล และการใช้หน่วยความจำบนชุดข้อมูลที่เราทดสอบแล้ว
2 บทความRedis
การเปรียบเทียบ HotKV กับ Redis ความเข้ากันได้ของโปรโตคอล และทางเลือกในการติดตั้งใช้งาน พร้อมเวอร์ชันและเงื่อนไขเบื้องหลังเบนช์มาร์กแต่ละรายการ
2 บทความประสิทธิภาพ
HotKV ทำงานได้ดีเพียงใดภายใต้เวิร์กโหลดที่วัดผลจริง ตั้งแต่ปริมาณงานของคำสั่งไปจนถึงคิวรีเวกเตอร์ พร้อมบริบทด้านฮาร์ดแวร์และการกำหนดค่า
4 บทความLLM
การใช้ HotKV ในแอปพลิเคชันโมเดลภาษา ทั้งการเรียกโมเดล การนับโทเค็น การนำคำตอบกลับมาใช้ซ้ำ และข้อแลกเปลี่ยนด้านคุณภาพของ semantic caching
2 บทความSemantic caching
การแคชคำตอบแบบตรงกันทุกตัวอักษรและแบบเชิงความหมายด้วย HotKV ครอบคลุมเกณฑ์ความคล้าย อัตราการเจอแคช และวิธีที่เราประเมินคุณภาพของคำตอบ
2 บทความการเพิ่มประสิทธิภาพต้นทุน
ต้นทุน API และโทเค็นที่ประหยัดได้จริงด้วย HotKV รวมถึงสมมติฐานด้านราคา ความอ่อนไหวต่อเวิร์กโหลด และข้อจำกัดของการประมาณการต่อยอด
1 บทความรุ่นที่ปล่อย
ประกาศผลิตภัณฑ์และรุ่นที่ปล่อยของ HotKV พร้อมบริบทเกี่ยวกับเอนจิน ความสามารถที่รองรับ และแหล่งที่จะหาเอกสารฉบับปัจจุบัน
1 บทความสถาปัตยกรรม
ทางเลือกในการออกแบบเบื้องหลังเอนจิน C++ ของ HotKV การประมวลผลคำสั่งพร้อมกัน การจัดการหน่วยความจำ และความเข้ากันได้กับไคลเอนต์ Redis ที่คุ้นเคย
2 บทความเอเจนต์ AI
หน่วยความจำ เครื่องมือ และการเชื่อมต่อสำหรับเอเจนต์ AI บน HotKV รวมถึงที่เก็บบทสนทนาและเหตุการณ์ MCP server และวิธีรักษาสถานะเอเจนต์ให้ปลอดภัยและมีขอบเขต
2 บทความPrompt caching
Prompt caching ของผู้ให้บริการและการแคชคำตอบสำหรับแอป LLM ว่าแต่ละแบบประหยัดโทเค็นและต้นทุนได้เท่าใด และจุดที่แต่ละแบบเลิกช่วยได้
2 บทความหน่วยความจำของเอเจนต์
หน่วยความจำแบบบทสนทนา เชิงความหมาย เพื่อการทำงาน และเหตุการณ์สำหรับเอเจนต์ AI พร้อมคำสั่ง HotKV กฎการเก็บรักษา และรูปแบบความล้มเหลวที่ควรออกแบบรับมือ
2 บทความMCP
Model Context Protocol server สำหรับผู้ช่วย AI รวมถึง HotKV MCP server แบบโอเพนซอร์ส ชุดเครื่องมือที่กำหนดตายตัว โหมดอ่านอย่างเดียว และ namespace