Minne för AI-agenter: fyra typer och hur du lagrar dem
Minne för AI-agenter är mer än ett långt kontextfönster. De fyra slag en agent behöver, hur du lagrar vart och ett och vad du ska hålla utanför, med HotKV-kommandon.
Tagg
LLM:er
Teknik.Uppmätt och förklarad.
HotKV i applikationer med språkmodeller: modellanrop, tokenredovisning, återanvändning av svar och kvalitetsavvägningarna vid semantisk cache.
4 artiklar i LLM:er
Artiklar
Idéer. Experiment. Uppdateringar.
MCP-server för agentminne: koppla Claude Code till HotKV
En MCP-server ger Claude Code eller Cursor minne i HotKV via 28 fasta verktyg. Installera, anslut och begränsa med skrivskyddat läge och namnrymder.
Promptcachning mot semantisk cache: vad var och en sparar
Promptcachning gör ett upprepat prefix billigare. Semantisk cache tar bort modellanropet. Så fungerar de, vad vi mätte och vilken du ska använda när.
HotKV cut Claude token use by 70% in our Banking77 benchmark
Four Claude models, 3,000 support requests each: HotKV caching cut model calls, tokens and API cost by about 70%. Results and answer-quality trade-offs.
Följ din nyfikenhet