Norbert E. Boros ก่อตั้ง HotKV Ltd และเขียน HotKV ขึ้นเองตั้งแต่ต้นด้วย C++ สมัยใหม่ เขามีประสบการณ์เชิงพาณิชย์ในฐานะนักพัฒนามากกว่าสิบปี ส่วนใหญ่ใน C และ C++ รวมถึงซอฟต์แวร์ป้องกันการโกงและระบบที่สำคัญต่อภารกิจ ในบล็อกนี้เขาแบ่งปันความเคลื่อนไหวของผลิตภัณฑ์ มุมมองด้านวิศวกรรม และเบนช์มาร์กเบื้องหลัง HotKV
หน่วยความจำของเอเจนต์ AI ไม่ใช่แค่หน้าต่างบริบทที่ยาว เอเจนต์ต้องการหน่วยความจำสี่แบบ เก็บแต่ละแบบอย่างไร และอะไรไม่ควรเก็บ พร้อมคำสั่ง HotKV
MCP server ให้ Claude Code หรือ Cursor มีหน่วยความจำใน HotKV ผ่านเครื่องมือตายตัว 28 ตัว ติดตั้ง เชื่อมต่อ และจำกัดสิทธิ์ด้วยโหมดอ่านอย่างเดียวและ namespace
Prompt caching ทำให้ส่วนต้นของพรอมต์ที่ซ้ำถูกลง ส่วน semantic caching ตัดการเรียกโมเดลออกไป ทำงานอย่างไร เราวัดอะไรได้ และควรใช้แบบไหนเมื่อไร
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
ทำไมผมจึงสร้าง HotKV ที่เก็บข้อมูลแบบมัลติเธรดที่เข้ากันได้กับ Redis เขียนขึ้นใหม่ด้วย C++ สมัยใหม่ มีอะไรให้ใช้ในวันนี้ และผลเบนช์มาร์กเป็นอย่างไร