헬프 센터 어시스턴트
문서와 해결된 티켓을 제품 및 언어 메타데이터와 함께 수집합니다. 각 답변은 해당 제품의 문서에 근거합니다.
AI 및 LLM검색Performance 및 Scale 플랜
RAG 지식 어시스턴트
청킹, 메타데이터 필터, 벡터와 키워드 하이브리드 검색, 캐시된 리랭크 점수로 자체 문서에 대한 질문에 답합니다. 모두 하나의 엔진에서 처리합니다.
- 청킹 전략
- 3
- 벡터 + BM25 검색
- 하이브리드
- 추가 벡터 데이터베이스
- 0
단계 1 / 5
파이프라인 정의
문단마다 청크 하나입니다. 사용하는 임베딩 모델의 차원을 지정합니다(예시를 짧게 하려고 3을 사용).
예시 세션playing
# 파이프라인 정의
hotkv> RAG.CREATE faq 3 STRATEGY paragraph
OK
실제 HotKV 명령과 예시 응답으로 구성된 애니메이션 안내입니다. 원하는 단계를 클릭하면 해당 단계로 이동합니다. 명령과 응답은 HotKV에서 입력하고 보는 그대로 영어로 표시됩니다.
문제
검색 파이프라인에는 보통 벡터 데이터베이스, 키워드 인덱스, 청킹 작업, 리랭커, 그리고 이들을 잇는 연결 코드가 필요합니다. 각각이 운영하고 보호하고 문서와 동기화해야 하는 또 하나의 서비스이며, 리랭커는 흔히 가장 느리고 비싼 단계입니다.
HotKV의 해결 방식
HotKV는 이미 애플리케이션을 서비스하는 엔진 안에 파이프라인을 둡니다. 파이프라인을 정의하고, 문서를 수집하고, 검색하면 됩니다. 청킹, 문서 메타데이터, 벡터 유사도와 BM25 키워드 점수를 섞는 하이브리드 검색이 모두 서버 측에서 실행되며, 리랭크 캐시가 크로스 인코더 점수를 보관하므로 반복되는 쿼리와 문단 쌍은 두 번 채점되지 않습니다.
단계별 설명
명령 하나하나, 무슨 일이 일어나는가
- 01
파이프라인 정의
문단마다 청크 하나입니다. 사용하는 임베딩 모델의 차원을 지정합니다(예시를 짧게 하려고 3을 사용).
RAG.CREATE faq 3 STRATEGY paragraph - 02
문서 수집
각 문서는 서버 측에서 청킹되어 메타데이터와 청크당 벡터 하나와 함께 저장됩니다.
RAG.INGEST faq doc:1 "To reset your password, click Forgot password on the login screen.\n\nBilling questions go to the billing team." META source help-center VECTORS 0.9,0.1,0.0 0.0,0.2,0.9 - 03
하이브리드 검색
벡터 유사도와 키워드 관련성을 하나의 쿼리로 검색하며, 하나의 출처로 범위를 제한합니다.
RAG.SEARCH faq "how do I reset my password" K 2 ALPHA 0.5 VECTOR 0.88,0.12,0.01 FILTER source help-center - 04
리랭크는 한 번만
크로스 인코더 점수는 RERANK.CREATE로 만든 네임스페이스에 쿼리와 청크별로 캐시되므로, 인기 쿼리는 리랭크 비용을 다시 내지 않습니다.
RERANK.GET faq_scores "reset password|doc:1:0" - 05
답변하고 파이프라인 확인
가장 좋은 청크가 컨텍스트로 모델에 전달되므로 답변은 추측이 아니라 헬프 센터에서 나옵니다. RAG.STATS로 파이프라인에 담긴 내용을 확인합니다.
RAG.STATS faq
적용 분야
실제 시나리오
법률 및 정책 검색
계약서와 정책을 문단 단위로 나누므로 검색된 문단이 온전한 조항이 되며, 키워드 점수가 조항 번호 같은 정확한 용어를 잡아냅니다.
엔지니어링 지식
런북, 설계 문서, 포스트모템을 당직 어시스턴트가 의미로 검색할 수 있게 됩니다.
내장 기능
제공되는 기능
엔진 내 청킹
고정 크기, 문장, 문단 단위 청킹을 지원합니다. 고정 크기 청크는 원하는 크기와 겹침을 지정합니다.
RAG.CREATE하이브리드 검색
벡터 유사도와 BM25 키워드 점수를 하나의 쿼리에서 사용하며, ALPHA로 균형을 설정합니다.
RAG.SEARCH메타데이터 필터
수집 시 키와 값 쌍을 붙이고 검색 시 이를 기준으로 필터링합니다.
RAG.INGESTFILTER리랭크 캐시
쿼리와 문단 쌍의 크로스 인코더 점수를 보관하므로 반복 시 비용이 들지 않습니다.
RERANK.GETRERANK.SET자주 묻는 질문
HotKV가 임베딩을 생성합니까?
아닙니다. 원하는 모델로 임베딩을 생성한 뒤, 수집할 때는 VECTORS로, 검색할 때는 VECTOR로 전달합니다.
벡터 없이 검색할 수 있습니까?
예. RAG.SEARCH는 키워드 점수를 위해 쿼리 텍스트를 받으며, VECTOR 옵션을 추가하면 벡터 유사도가 더해집니다. ALPHA로 두 점수의 혼합 비율을 정합니다.
어떤 플랜에 포함됩니까?
RAG 파이프라인과 리랭크 캐시는 Performance 및 Scale 플랜에 포함됩니다.