Norbert E. Boros sáng lập HotKV Ltd và viết HotKV từ đầu bằng C++ hiện đại. Ông có hơn một thập kỷ kinh nghiệm thương mại với tư cách lập trình viên, chủ yếu bằng C và C++, bao gồm phần mềm chống gian lận và các hệ thống trọng yếu. Trên blog này, ông chia sẻ các cập nhật sản phẩm, góc nhìn kỹ thuật và những kết quả đo hiệu năng đằng sau HotKV.
Bộ nhớ agent AI không chỉ là một cửa sổ ngữ cảnh dài. Bốn loại một agent cần, cách lưu từng loại và những gì không nên giữ, kèm các lệnh HotKV.
Một máy chủ MCP trao cho Claude Code hoặc Cursor bộ nhớ trong HotKV qua 28 công cụ cố định. Cài đặt, kết nối và giới hạn bằng chế độ chỉ đọc và namespace.
Prompt caching làm tiền tố lặp lại rẻ hơn. Semantic caching loại bỏ lần gọi mô hình. Cách mỗi loại hoạt động, những gì chúng tôi đã đo và khi nào dùng loại nào.
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Vì sao tôi xây dựng HotKV, một kho dữ liệu đa luồng, tương thích Redis, viết từ đầu bằng C++ hiện đại, hiện nó cung cấp gì và kết quả benchmark của chúng tôi.