カテゴリ

ガイド

エンジニアリング。
測定し、解説する。

HotKV で AI アプリケーションを構築するための実践ガイド。キャッシュ、エージェントメモリ、ツールアクセスと、各判断の背後にあるコマンドとトレードオフを扱います。

3件の記事 「ガイド」に分類

記事

アイデア。実験。アップデート。
プロンプトキャッシュとセマンティックキャッシュを、質問とモデルの間に置かれた層として描いたイラスト。
ガイド16分で読めます

プロンプトキャッシュとセマンティックキャッシュ、それぞれで何が節約できるか

プロンプトキャッシュは繰り返される先頭部分を安くし、セマンティックキャッシュはモデル呼び出しそのものをなくします。仕組み、実測結果、使い分けを解説します。

Norbert E. Boros記事を読む プロンプトキャッシュとセマンティックキャッシュ、それぞれで何が節約できるか

興味の赴くままに

タグから探す

ベンチマークベクトル検索RedisパフォーマンスLLMセマンティックキャッシュコスト最適化リリースアーキテクチャAI エージェントプロンプトキャッシュエージェントメモリMCP

ニュースレター

HotKVの新しい記事を、公開時にメールでお届けします。確認は1回だけ、配信停止はワンクリックで可能です。フィードがお好みならRSSをご利用ください。