AI-ügynökmemória: négy típus és hogyan tárolja őket
Az AI-ügynökmemória több egy hosszú kontextusablaknál. Az ügynök által igényelt négy típus, hogyan tárolja őket, és mi nem való beléjük, HotKV-parancsokkal.
Címke
LLM-ek
Mérnöki munka.Megmérve és elmagyarázva.
A HotKV használata nyelvi modelles alkalmazásokban: modellhívások, tokenelszámolás, válaszok újrafelhasználása és a szemantikus gyorsítótárazás minőségi kompromisszumai.
4 cikk itt: LLM-ek
Cikkek
Ötletek. Kísérletek. Frissítések.
MCP-szerver ügynökmemóriához: a Claude Code csatlakoztatása a HotKV-hoz
Az MCP-szerver 28 rögzített eszközön át ad memóriát a Claude Code-nak vagy a Cursornak a HotKV-ban. Telepítse, csatlakoztassa, korlátozza csak olvasható móddal és névtérrel.
Prompt-gyorsítótárazás vs. szemantikus gyorsítótárazás: mit spórol az egyes
A prompt-gyorsítótárazás olcsóbbá teszi az ismétlődő előtagot, a szemantikus megspórolja a modellhívást. Hogyan működnek, mit mértünk, és mikor melyiket használja.
HotKV cut Claude token use by 70% in our Banking77 benchmark
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Kövesse a kíváncsiságát