AI và LLMCá nhân hóaCác gói Performance và Scale

Gợi ý thời gian thực

Gợi ý cá nhân hóa chỉ trong một lượt đọc. Feature của người dùng, các mục tương tự theo vector và những gì đang thịnh hành, trừ đi những gì họ đã xem.

tín hiệu, một máy chủ: 4
mục đã xem bị lặp lại: 0
số đếm thịnh hành: Trực tiếp

Bước 1 trên 6

Đếm những gì đang thịnh hành

Danh sách Top-K được tạo một lần bằng TOPK.RESERVE. Mỗi lượt xem cập nhật nó, và các mục rơi khỏi top được báo lại.

Phiên ví dụplaying

# Đếm những gì đang thịnh hành

hotkv> TOPK.ADD trending:shoes sku:88 sku:17 sku:88

1) (nil)

2) (nil)

3) (nil)

Một hướng dẫn minh họa động với các lệnh HotKV thật và phản hồi ví dụ. Nhấn vào bất kỳ bước nào để nhảy tới đó. Lệnh và phản hồi giữ nguyên bằng tiếng Anh, đúng như bạn gõ và thấy trong HotKV.

Vấn đề

Một gợi ý tốt pha trộn người dùng là ai, điều gì tương tự những thứ họ đã thích, điều gì đang phổ biến ngay lúc này và những gì họ đã xem rồi. Các tín hiệu đó thường nằm trong bốn hệ thống, và ghép chúng lại lúc có yêu cầu làm tăng độ trễ cho mỗi trang.

HotKV xử lý như thế nào

HotKV giữ cả bốn. Feature store có hồ sơ của người dùng, một chỉ mục vector tìm các mục tương tự, một cấu trúc Top-K theo dõi những gì đang thịnh hành khi sự kiện đến, và một bộ lọc Bloom cho mỗi người dùng loại bỏ các mục họ đã xem. Bộ gợi ý đọc tất cả từ một máy chủ chỉ trong vài lần gọi.

Từng bước một

Điều gì xảy ra, từng lệnh một

01
Đếm những gì đang thịnh hành
Danh sách Top-K được tạo một lần bằng TOPK.RESERVE. Mỗi lượt xem cập nhật nó, và các mục rơi khỏi top được báo lại.
TOPK.ADD trending:shoes sku:88 sku:17 sku:88
02
Nạp feature của người dùng
Feature hồ sơ và hành vi cho mô hình xếp hạng, kèm độ tuổi của chúng.
FEATURE.GET user_features user:42
03
Tìm các mục tương tự
Vector sở thích của người dùng tìm các sản phẩm gần nhất.
VSIM.SEARCH items 20 0.31 0.12 0.77 ...
04
Loại bỏ những gì họ đã xem
Một bộ lọc Bloom cho mỗi người dùng trả lời “đã xem trước đó chưa?” cho cả danh sách ứng viên chỉ trong một lần gọi.
BF.MEXISTS seen:user:42 sku:88 sku:5 sku:17
05
Pha trộn những gì đang nóng
Các mặt hàng bán chạy hiện tại gia nhập danh sách ứng viên, và mô hình xếp hạng sắp xếp danh sách cuối cùng.
TOPK.LIST trending:shoes WITHCOUNT
06
Ghi nhớ lượt hiển thị
Các mục đã hiển thị được thêm vào bộ lọc của người dùng để chúng không bị lặp lại vào ngày mai.
BF.MADD seen:user:42 sku:5 sku:17

Phù hợp ở đâu

Các tình huống thực tế

Bán lẻ và sàn giao dịch

Các hàng “Bạn cũng có thể thích” trộn sản phẩm tương tự với những gì đang bán chạy, và không bao giờ hiện cùng một mục hai lần trong một phiên.

Truyền thông và streaming

Màn hình chính xếp hạng chương trình theo vector sở thích và độ phổ biến trực tiếp, và bỏ qua các tựa phim người xem đã xem xong.

Tin tức và nguồn nội dung

Bài viết được gợi ý theo độ tương đồng chủ đề trong khi các câu chuyện thịnh hành nổi lên theo thời gian thực.

Tích hợp sẵn

Bạn nhận được gì

Feature store

Các feature có kiểu theo từng người dùng hoặc mục cho các lần đọc độ trễ thấp lúc suy luận.

FEATURE.GETFEATURE.BATCH

Các mục tương tự

Láng giềng gần nhất từ một chỉ mục vector HNSW.

VSIM.SEARCH

Đang thịnh hành

Top-K giữ các mục xuất hiện thường xuyên nhất trong một luồng sự kiện.

TOPK.ADDTOPK.LIST

Bộ lọc đã xem

Bộ lọc Bloom trả lời “đã xem trước đó chưa?” với bộ nhớ không đổi cho mỗi người dùng.

BF.MADDBF.MEXISTS

Tham chiếu:FEATURE.GET VSIM.SEARCH TOPK.LIST BF.MEXISTS

Câu hỏi thường gặp

Bộ lọc Bloom có thể sai không?

Thỉnh thoảng nó có thể nói một mục đã được xem trong khi chưa, ở tỷ lệ lỗi bạn chọn bằng BF.RESERVE. Nó không bao giờ nói một mục chưa được xem khi thực tế đã xem.

Mô hình xếp hạng chạy ở đâu?

Trong dịch vụ của riêng bạn. HotKV phục vụ feature và ứng viên với độ trễ thấp, và mô hình của bạn đưa ra thứ tự cuối cùng.

Gói nào bao gồm nó?

Feature store là một phần của các gói Performance và Scale. Tìm kiếm vector, Top-K và bộ lọc Bloom hoạt động trên mọi gói.