Wewnątrz HotKV
Tagi
Inżynieria.Zmierzona i wyjaśniona.
Przeglądaj artykuły na blogu HotKV według tematu, w tym benchmarki, wyszukiwanie wektorowe, cache semantyczny, koszty LLM, zgodność z Redis i architekturę.
Benchmarki
Zmierzone wyniki HotKV, w tym konfiguracje testów, porównywane systemy, ograniczenia obciążeń i dowody stojące za twierdzeniami o wydajności.
1 artykułWyszukiwanie wektorowe
Wyszukiwanie wektorowe HNSW w HotKV: recall, przepustowość zapytań, szybkość wczytywania i zużycie pamięci na przetestowanych przez nas zbiorach danych.
2 artykułyRedis
Porównania HotKV i Redis, zgodność protokołu i decyzje wdrożeniowe, z wersjami i warunkami stojącymi za każdym benchmarkiem.
2 artykułyWydajność
Jak HotKV radzi sobie przy zmierzonych obciążeniach, od przepustowości poleceń po zapytania wektorowe, z kontekstem sprzętu i konfiguracji.
4 artykułyLLM
HotKV w aplikacjach z modelami językowymi: wywołania modeli, rozliczanie tokenów, ponowne użycie odpowiedzi i kompromisy jakości cache semantycznego.
2 artykułyCache semantyczny
Dokładny i semantyczny cache odpowiedzi w HotKV, w tym progi podobieństwa, współczynniki trafień i sposób, w jaki oceniamy jakość odpowiedzi.
2 artykułyOptymalizacja kosztów
Zmierzone koszty API i oszczędności tokenów z HotKV, w tym założenia cenowe, zależność od obciążenia i granice ekstrapolacji.
1 artykułWydania
Ogłoszenia produktowe i wydania HotKV, z kontekstem silnika, obsługiwanych możliwości i miejsc, w których znajdziesz aktualną dokumentację.
1 artykułArchitektura
Decyzje projektowe silnika C++ HotKV, współbieżne wykonywanie poleceń, zarządzanie pamięcią i zgodność ze znanymi klientami Redis.
2 artykułyAgenci AI
Pamięć, narzędzia i połączenia dla agentów AI na HotKV: magazyn konwersacji i zdarzeń, serwer MCP oraz bezpieczne, ograniczone przechowywanie stanu agenta.
2 artykułyCache promptów
Cache promptów po stronie dostawcy i cache odpowiedzi dla aplikacji LLM: ile każdy oszczędza na tokenach i kosztach oraz gdzie przestaje pomagać.
2 artykułyPamięć agentów
Pamięć konwersacyjna, semantyczna, robocza i epizodyczna dla agentów AI, z poleceniami HotKV, zasadami retencji i trybami awarii, na które trzeba się przygotować.
2 artykułyMCP
Serwery Model Context Protocol dla asystentów AI, w tym otwartoźródłowy serwer MCP HotKV, jego stały zestaw narzędzi, tryb tylko do odczytu i przestrzenie nazw.