Pamięć agentów AI: cztery typy i jak je przechowywać
Pamięć agentów AI to więcej niż długie okno kontekstu. Cztery rodzaje, których agent potrzebuje, jak je przechowywać i czego unikać, z poleceniami HotKV.
Tag
LLM
Inżynieria.Zmierzona i wyjaśniona.
HotKV w aplikacjach z modelami językowymi: wywołania modeli, rozliczanie tokenów, ponowne użycie odpowiedzi i kompromisy jakości cache semantycznego.
4 artykuły w: LLM
Artykuły
Pomysły. Eksperymenty. Aktualności.
Serwer MCP dla pamięci agentów: połącz Claude Code z HotKV
Serwer MCP daje Claude Code lub Cursor pamięć w HotKV przez 28 stałych narzędzi. Zainstaluj go, połącz i ogranicz trybem tylko do odczytu i przestrzeniami nazw.
Cache promptów kontra cache semantyczny: co każdy oszczędza
Cache promptów obniża koszt powtórzonego prefiksu. Cache semantyczny eliminuje wywołanie modelu. Jak działa każdy, co zmierzyliśmy i którego użyć kiedy.
HotKV cut Claude token use by 70% in our Banking77 benchmark
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Podążaj za ciekawością