Bên trong HotKV
Thẻ
Kỹ thuật.Được đo lường và giải thích.
Duyệt các bài viết trên blog HotKV theo chủ đề, gồm benchmark, tìm kiếm vector, semantic caching, chi phí LLM, khả năng tương thích Redis và kiến trúc.
Benchmark
Kết quả HotKV đã đo, gồm cấu hình kiểm thử, các hệ thống so sánh, giới hạn của khối lượng công việc và bằng chứng đằng sau các tuyên bố về hiệu năng.
1 bài viếtTìm kiếm vector
Tìm kiếm vector HNSW trong HotKV, về recall, thông lượng truy vấn, tốc độ nạp và mức dùng bộ nhớ trên các tập dữ liệu chúng tôi đã kiểm thử.
2 bài viếtRedis
So sánh HotKV và Redis, khả năng tương thích giao thức và lựa chọn triển khai, kèm các phiên bản và điều kiện đằng sau mỗi benchmark.
2 bài viếtHiệu năng
HotKV hoạt động ra sao dưới các khối lượng công việc đã đo, từ thông lượng lệnh đến truy vấn vector, kèm bối cảnh phần cứng và cấu hình.
4 bài viếtLLM
Dùng HotKV trong các ứng dụng mô hình ngôn ngữ: lệnh gọi mô hình, tính toán token, tái sử dụng phản hồi và đánh đổi chất lượng của semantic caching.
2 bài viếtSemantic caching
Cache câu trả lời chính xác và theo ngữ nghĩa với HotKV, gồm ngưỡng tương đồng, tỷ lệ trúng cache và cách chúng tôi đánh giá chất lượng câu trả lời.
2 bài viếtTối ưu chi phí
Chi phí API và khoản tiết kiệm token đã đo với HotKV, gồm giả định về giá, độ nhạy theo khối lượng công việc và giới hạn của việc ngoại suy.
1 bài viếtPhát hành
Thông báo sản phẩm và các bản phát hành của HotKV, kèm bối cảnh về engine, khả năng được hỗ trợ và nơi tìm tài liệu mới nhất.
1 bài viếtKiến trúc
Các lựa chọn thiết kế đằng sau engine C++ của HotKV, thực thi lệnh đồng thời, quản lý bộ nhớ và khả năng tương thích với các client Redis quen thuộc.
2 bài viếtAgent AI
Bộ nhớ, công cụ và kết nối cho agent AI trên HotKV, gồm lưu trữ hội thoại và sự kiện, máy chủ MCP và cách giữ trạng thái agent an toàn và có giới hạn.
2 bài viếtPrompt caching
Prompt caching của nhà cung cấp và cache phản hồi cho ứng dụng LLM, mỗi loại tiết kiệm được bao nhiêu token và chi phí, và đến đâu thì hết hữu ích.
2 bài viếtBộ nhớ agent
Bộ nhớ hội thoại, ngữ nghĩa, làm việc và tình tiết cho agent AI, kèm lệnh HotKV, quy tắc lưu giữ và các kiểu lỗi cần thiết kế để phòng tránh.
2 bài viếtMCP
Máy chủ Model Context Protocol cho trợ lý AI, gồm máy chủ MCP mã nguồn mở của HotKV, bộ công cụ cố định, chế độ chỉ đọc và namespace.