Por dentro do HotKV
Tags
Engenharia.Medida e explicada.
Navegue pelos artigos do blog do HotKV por tema, incluindo benchmarks, busca vetorial, cache semântico, compatibilidade com Redis e arquitetura.
Benchmarks
Resultados medidos do HotKV, incluindo configurações de teste, sistemas concorrentes, limitações das cargas de trabalho e as evidências por trás das afirmações de desempenho.
1 artigoBusca vetorial
Busca vetorial HNSW no HotKV, com recall, throughput de consultas, velocidade de ingestão e uso de memória nos conjuntos de dados que testamos.
2 artigosRedis
Comparações entre HotKV e Redis, compatibilidade de protocolo e escolhas de implantação, com as versões e as condições por trás de cada benchmark.
2 artigosDesempenho
Como o HotKV se comporta em cargas de trabalho medidas, do throughput de comandos às consultas vetoriais, com o contexto de hardware e de configuração.
4 artigosLLMs
O HotKV em aplicações com modelos de linguagem: chamadas ao modelo, contabilidade de tokens, reutilização de respostas e os trade-offs de qualidade do cache semântico.
2 artigosCache semântico
Cache de respostas exato e semântico com o HotKV, incluindo limiares de similaridade, taxas de acerto de cache e como avaliamos a qualidade das respostas.
2 artigosOtimização de custos
Custos de API e economia de tokens medidos com o HotKV, incluindo premissas de preço, sensibilidade da carga de trabalho e os limites da extrapolação.
1 artigoReleases
Anúncios de produto e releases do HotKV, com contexto sobre o motor, as capacidades suportadas e onde encontrar a documentação atual.
1 artigoArquitetura
Decisões de design por trás do motor C++ do HotKV, execução concorrente de comandos, gerenciamento de memória e compatibilidade com os clientes Redis conhecidos.
2 artigosAgentes de IA
Memória, ferramentas e conexões para agentes de IA no HotKV, com armazenamento de conversas e eventos, o servidor MCP e um estado do agente seguro e limitado.
2 artigosCache de prompts
Cache de prompts do provedor e cache de respostas para aplicações LLM, com o que cada um economiza em tokens e custos e onde deixa de ajudar.
2 artigosMemória de agentes
Memória de conversa, semântica, de trabalho e episódica para agentes de IA, com comandos do HotKV, regras de retenção e as falhas que convém prever.
2 artigosMCP
Servidores do Model Context Protocol para assistentes de IA, incluindo o servidor MCP de código aberto do HotKV, seu conjunto fixo de ferramentas e o modo somente leitura.