Bên trong HotKV

Thẻ

Kỹ thuật.
Được đo lường và giải thích.

Duyệt các bài viết trên blog HotKV theo chủ đề, gồm benchmark, tìm kiếm vector, semantic caching, chi phí LLM, khả năng tương thích Redis và kiến trúc.

2 bài viết

Benchmark

Kết quả HotKV đã đo, gồm cấu hình kiểm thử, các hệ thống so sánh, giới hạn của khối lượng công việc và bằng chứng đằng sau các tuyên bố về hiệu năng.

1 bài viết

Tìm kiếm vector

Tìm kiếm vector HNSW trong HotKV, về recall, thông lượng truy vấn, tốc độ nạp và mức dùng bộ nhớ trên các tập dữ liệu chúng tôi đã kiểm thử.

2 bài viết

Redis

So sánh HotKV và Redis, khả năng tương thích giao thức và lựa chọn triển khai, kèm các phiên bản và điều kiện đằng sau mỗi benchmark.

2 bài viết

Hiệu năng

HotKV hoạt động ra sao dưới các khối lượng công việc đã đo, từ thông lượng lệnh đến truy vấn vector, kèm bối cảnh phần cứng và cấu hình.

4 bài viết

LLM

Dùng HotKV trong các ứng dụng mô hình ngôn ngữ: lệnh gọi mô hình, tính toán token, tái sử dụng phản hồi và đánh đổi chất lượng của semantic caching.

2 bài viết

Semantic caching

Cache câu trả lời chính xác và theo ngữ nghĩa với HotKV, gồm ngưỡng tương đồng, tỷ lệ trúng cache và cách chúng tôi đánh giá chất lượng câu trả lời.

2 bài viết

Tối ưu chi phí

Chi phí API và khoản tiết kiệm token đã đo với HotKV, gồm giả định về giá, độ nhạy theo khối lượng công việc và giới hạn của việc ngoại suy.

1 bài viết

Phát hành

Thông báo sản phẩm và các bản phát hành của HotKV, kèm bối cảnh về engine, khả năng được hỗ trợ và nơi tìm tài liệu mới nhất.

1 bài viết

Kiến trúc

Các lựa chọn thiết kế đằng sau engine C++ của HotKV, thực thi lệnh đồng thời, quản lý bộ nhớ và khả năng tương thích với các client Redis quen thuộc.

2 bài viết

Agent AI

Bộ nhớ, công cụ và kết nối cho agent AI trên HotKV, gồm lưu trữ hội thoại và sự kiện, máy chủ MCP và cách giữ trạng thái agent an toàn và có giới hạn.

2 bài viết

Prompt caching

Prompt caching của nhà cung cấp và cache phản hồi cho ứng dụng LLM, mỗi loại tiết kiệm được bao nhiêu token và chi phí, và đến đâu thì hết hữu ích.

2 bài viết

Bộ nhớ agent

Bộ nhớ hội thoại, ngữ nghĩa, làm việc và tình tiết cho agent AI, kèm lệnh HotKV, quy tắc lưu giữ và các kiểu lỗi cần thiết kế để phòng tránh.

2 bài viết

MCP

Máy chủ Model Context Protocol cho trợ lý AI, gồm máy chủ MCP mã nguồn mở của HotKV, bộ công cụ cố định, chế độ chỉ đọc và namespace.

Bản tin

Các bài viết mới của HotKV qua email, gửi khi chúng tôi đăng. Xác nhận một lần, hủy đăng ký chỉ bằng một cú nhấp. Thích nguồn cấp hơn? Hãy dùng RSS.