Dentro HotKV
Tag
Ingegneria.Misurata e spiegata.
Sfoglia gli articoli del blog di HotKV per argomento, tra cui benchmark, ricerca vettoriale, cache semantica, costi LLM, compatibilità Redis e architettura.
Benchmark
Risultati misurati di HotKV, con configurazioni di test, sistemi concorrenti, limiti dei workload e le prove alla base delle affermazioni sulle prestazioni.
1 articoloRicerca vettoriale
Ricerca vettoriale HNSW in HotKV: recall, throughput delle query, velocità di ingestione e uso di memoria sui dataset che abbiamo testato.
2 articoliRedis
Confronti tra HotKV e Redis, compatibilità del protocollo e scelte di distribuzione, con le versioni e le condizioni dietro ogni benchmark.
2 articoliPerformance
Come si comporta HotKV con workload misurati, dal throughput dei comandi alle query vettoriali, con il contesto di hardware e configurazione.
4 articoliLLM
Usare HotKV in applicazioni con modelli linguistici: chiamate ai modelli, conteggio dei token, riuso delle risposte e compromessi di qualità del caching semantico.
2 articoliCaching semantico
Caching esatto e semantico delle risposte con HotKV, comprese soglie di similarità, tassi di cache hit e il modo in cui valutiamo la qualità delle risposte.
2 articoliOttimizzazione dei costi
Costi API e risparmio di token misurati con HotKV, con ipotesi di prezzo, sensibilità al workload e limiti dell'estrapolazione.
1 articoloRelease
Annunci di prodotto e release di HotKV, con il contesto su motore, funzionalità supportate e dove trovare la documentazione aggiornata.
1 articoloArchitettura
Scelte di progettazione dietro il motore C++ di HotKV, esecuzione concorrente dei comandi, gestione della memoria e compatibilità con i client Redis più diffusi.
2 articoliAgenti IA
Memoria, strumenti e connessioni per agenti IA su HotKV, con archiviazione di conversazioni ed eventi, il server MCP e uno stato dell'agente sicuro e limitato.
2 articoliCache dei prompt
Cache dei prompt del fornitore e cache delle risposte per le applicazioni LLM, con quanto ciascuna fa risparmiare in token e costi e dove smette di aiutare.
2 articoliMemoria degli agenti
Memoria di conversazione, semantica, di lavoro ed episodica per agenti IA, con i comandi HotKV, le regole di conservazione e i guasti da prevedere.
2 articoliMCP
Server Model Context Protocol per assistenti IA, incluso il server MCP open source di HotKV, il suo set fisso di strumenti e la modalità di sola lettura.