
Vector search: HotKV vs Redis 8 vector sets, from 1 to 100 clients
HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.
Wewnątrz HotKV
Notatki inżynieryjne, benchmarki i nowości produktowe od osób, które tworzą HotKV. Wyniki, metody i to, czego się nauczyliśmy.
6 artykułów od HotKV Ltd

HotKV and Redis 8.10.2 vector search on 100,000 and 999,000 embeddings from 1 to 100 clients: throughput, latency, recall, loading speed, memory and limits.

Pamięć agentów AI to więcej niż długie okno kontekstu. Cztery rodzaje, których agent potrzebuje, jak je przechowywać i czego unikać, z poleceniami HotKV.

Serwer MCP daje Claude Code lub Cursor pamięć w HotKV przez 28 stałych narzędzi. Zainstaluj go, połącz i ogranicz trybem tylko do odczytu i przestrzeniami nazw.

Cache promptów obniża koszt powtórzonego prefiksu. Cache semantyczny eliminuje wywołanie modelu. Jak działa każdy, co zmierzyliśmy i którego użyć kiedy.

Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.

Dlaczego stworzyłem HotKV, wielowątkowy magazyn danych zgodny z Redis, napisany od zera w nowoczesnym C++, co oferuje dziś i jak wypadł w naszym benchmarku.
Podążaj za ciekawością