Усередині HotKV
Теги
Інженерія.Виміряно й пояснено.
Переглядайте статті блогу HotKV за темами, зокрема бенчмарки, векторний пошук, семантичне кешування, витрати на LLM, сумісність із Redis та архітектуру.
Бенчмарки
Виміряні результати HotKV: конфігурації тестів, конкуруючі системи, обмеження навантажень і докази, що стоять за твердженнями про продуктивність.
1 статтяВекторний пошук
Векторний пошук HNSW у HotKV: повнота, пропускна здатність запитів, швидкість завантаження й використання пам'яті на наборах даних, які ми тестували.
2 статтіRedis
Порівняння HotKV і Redis, сумісність протоколу та вибір розгортання, з версіями й умовами, що стоять за кожним бенчмарком.
2 статтіПродуктивність
Як HotKV працює під виміряними навантаженнями, від пропускної здатності команд до векторних запитів, з контекстом обладнання та конфігурації.
4 статтіLLM
HotKV у застосунках з мовними моделями: виклики моделей, облік токенів, повторне використання відповідей і компроміси якості семантичного кешування.
2 статтіСемантичне кешування
Точне й семантичне кешування відповідей з HotKV: пороги подібності, частота влучань у кеш і те, як ми оцінюємо якість відповідей.
2 статтіОптимізація витрат
Виміряна вартість API й економія токенів з HotKV: припущення щодо цін, чутливість до навантаження та межі екстраполяції.
1 статтяРелізи
Анонси продукту й релізи HotKV, з контекстом про рушій, підтримувані можливості та місце, де знайти актуальну документацію.
1 статтяАрхітектура
Проєктні рішення рушія HotKV на C++, паралельне виконання команд, керування пам'яттю та сумісність зі звичними клієнтами Redis.
2 статтіАгенти ШІ
Пам'ять, інструменти й підключення для агентів ШІ на HotKV: зберігання розмов і подій, сервер MCP та безпечне, обмежене зберігання стану агента.
2 статтіКешування промптів
Кешування промптів провайдера й кешування відповідей для застосунків LLM: що кожне заощаджує на токенах і витратах, і де воно перестає допомагати.
2 статтіПам'ять агентів
Розмовна, семантична, робоча та епізодична пам'ять для агентів ШІ, з командами HotKV, правилами зберігання та типами збоїв, до яких варто готуватися.
2 статтіMCP
Сервери Model Context Protocol для асистентів ШІ, зокрема сервер HotKV MCP з відкритим кодом, його фіксований набір інструментів, режим лише для читання та простори імен.