Изнутри HotKV
Теги
Инженерия.Измерено и объяснено.
Статьи блога HotKV по темам: бенчмарки, векторный поиск, семантическое кеширование, затраты на LLM, совместимость с Redis и архитектура.
Бенчмарки
Измеренные результаты HotKV: конфигурации тестов, системы для сравнения, ограничения нагрузок и данные, на которых основаны утверждения о производительности.
1 статьяВекторный поиск
Векторный поиск HNSW в HotKV: полнота, пропускная способность запросов, скорость загрузки и расход памяти на наборах данных, которые мы тестировали.
2 статьиRedis
Сравнение HotKV и Redis, совместимость протоколов и выбор способа развёртывания, с версиями и условиями каждого бенчмарка.
2 статьиПроизводительность
Как HotKV показывает себя на измеренных нагрузках, от пропускной способности команд до векторных запросов, с контекстом оборудования и конфигурации.
4 статьиLLM
HotKV в приложениях на языковых моделях: вызовы моделей, учёт токенов, повторное использование ответов и компромиссы качества при семантическом кешировании.
2 статьиСемантическое кеширование
Кеширование ответов с точным и семантическим совпадением в HotKV: пороги сходства, доля попаданий в кеш и то, как мы оцениваем качество ответов.
2 статьиОптимизация затрат
Измеренные затраты на API и экономия токенов с HotKV: допущения о ценах, зависимость от нагрузки и пределы экстраполяции.
1 статьяРелизы
Анонсы продукта и релизы HotKV: контекст о движке, поддерживаемых возможностях и о том, где найти актуальную документацию.
1 статьяАрхитектура
Проектные решения движка HotKV на C++, параллельное выполнение команд, управление памятью и совместимость с привычными клиентами Redis.
2 статьиИИ-агенты
Память, инструменты и подключения для ИИ-агентов на HotKV: хранение диалогов и событий, сервер MCP и безопасное, ограниченное хранение состояния агента.
2 статьиКеширование промптов
Кеширование промптов у провайдера и кеширование ответов для приложений на LLM: сколько каждое экономит токенов и денег и где оно перестаёт помогать.
2 статьиПамять агентов
Диалоговая, семантическая, рабочая и эпизодическая память для ИИ-агентов: команды HotKV, правила хранения и сбои, которые нужно учитывать при проектировании.
2 статьиMCP
Серверы Model Context Protocol для ИИ-ассистентов, включая открытый сервер HotKV MCP: фиксированный набор инструментов, режим «только чтение» и пространства имён.