Memória de agentes de IA: quatro tipos e como armazená-los
A memória de agentes de IA é mais do que uma janela de contexto longa. Os quatro tipos de que um agente precisa, como armazenar cada um e o que deixar de fora.
Tag
LLMs
Engenharia.Medida e explicada.
O HotKV em aplicações com modelos de linguagem: chamadas ao modelo, contabilidade de tokens, reutilização de respostas e os trade-offs de qualidade do cache semântico.
4 artigos em LLMs
Artigos
Ideias. Experimentos. Novidades.
Servidor MCP para memória de agentes: conecte o Claude Code ao HotKV
Um servidor MCP dá ao Claude Code ou ao Cursor memória no HotKV por 28 ferramentas fixas. Instale, conecte e limite com o modo somente leitura e namespaces.
Cache de prompts vs. cache semântico: o que cada um economiza
O cache de prompts barateia um prefixo repetido. O cache semântico elimina a chamada ao modelo. Como cada um funciona, o que medimos e quando usar qual.
O HotKV reduziu o uso de tokens do Claude em 70% no nosso benchmark Banking77
Quatro modelos Claude, 3.000 requisições de suporte cada: o HotKV reduziu chamadas, tokens e custo da API em cerca de 70%. Resultados e a troca com a qualidade das respostas.
Siga a sua curiosidade