KI-Agentengedächtnis: vier Arten und wie Sie sie speichern
KI-Agentengedächtnis ist mehr als ein langes Kontextfenster. Die vier Arten, die ein Agent braucht, wie Sie jede speichern und was nicht hineingehört, mit HotKV-Befehlen.
Tag
LLMs
Technik.Gemessen und erklärt.
HotKV in Anwendungen mit Sprachmodellen: Modellaufrufe, Token-Abrechnung, Wiederverwendung von Antworten und Qualitätsabwägungen beim semantischen Caching.
4 Artikel in LLMs
Artikel
Ideen. Experimente. Neuigkeiten.
MCP-Server für Agentengedächtnis: Claude Code mit HotKV verbinden
Ein MCP-Server gibt Claude Code oder Cursor über 28 feste Werkzeuge ein Gedächtnis in HotKV. Installieren, verbinden und mit Nur-Lese-Modus und Namensräumen begrenzen.
Prompt-Caching vs. semantisches Caching: was jedes spart
Prompt-Caching verbilligt ein wiederholtes Präfix, semantisches Caching spart den Modellaufruf. So funktioniert beides, was wir gemessen haben und wann Sie welches nutzen.
HotKV senkte den Claude-Token-Verbrauch in unserem Banking77-Benchmark um 70 %
Vier Claude-Modelle, je 3.000 Support-Anfragen: HotKV-Caching senkte Modellaufrufe, Token und API-Kosten um etwa 70 %. Ergebnisse und Zielkonflikte bei der Antwortqualität.
Folgen Sie Ihrer Neugier