著者

Norbert E. Boros

創業者兼CEO, HotKV Ltd

Norbert E. Boros は HotKV Ltd を創業し、HotKV をモダン C++ でゼロから書き上げました。主に C と C++ で、アンチチートソフトウェアやミッションクリティカルなシステムを含む、10年以上の商用開発経験があります。このブログでは、製品の最新情報、エンジニアリングの知見、そして HotKV のベンチマークを紹介しています。

Norbert E. Borosの記事

6件の記事
プロンプトキャッシュとセマンティックキャッシュを、質問とモデルの間に置かれた層として描いたイラスト。
ガイド16分で読めます

プロンプトキャッシュとセマンティックキャッシュ、それぞれで何が節約できるか

プロンプトキャッシュは繰り返される先頭部分を安くし、セマンティックキャッシュはモデル呼び出しそのものをなくします。仕組み、実測結果、使い分けを解説します。

HotKVのベクトル検索:スループットと再現率を、つながった近傍ノードで表したイラスト。
エンジニアリング9分で読めます

ベクトル検索:HotKVとRedis 8のベクトルセット、1~100クライアントで比較

HotKVとRedis 8.10.2のベクトル検索を、100,000件と999,000件の埋め込み、1~100クライアントで比較。スループット、レイテンシ、再現率、読み込み速度、メモリ、制約をまとめました。

HotKVのセマンティックキャッシュ:トークン削減と回答の品質を、キャッシュのルックアップで表したイラスト。
エンジニアリング13分で読めます

Banking77ベンチマークで、HotKVはClaudeのトークン使用量を70%削減

4つのClaudeモデルに3,000件ずつサポートリクエストを送信。HotKVのキャッシュでモデル呼び出し、トークン、APIコストを約70%削減しました。結果と回答の品質のトレードオフを紹介します。

HotKVのご紹介:ホットに動くキーバリューストア。
お知らせ11分で読めます

HotKVのご紹介

モダンC++でゼロから書いた、マルチスレッドのRedis互換データストアHotKVを私が作った理由。その成り立ち、現在提供している機能、ベンチマークの結果をご紹介します。

Norbert E. Boros記事を読む HotKVのご紹介