핀콘 하이브리드 검색, 벡터+키워드 지연을 40% 줄이다

핀콘이 하이브리드 검색 인덱스를 도입해 벡터와 키워드 검색을 합친 지연을 40% 단축했다고 밝혔다. 핵심 변경점은 벡터 인덱스와 키워드 인덱스를 별도로 조회한 뒤 결과를 합치던 기존 방식 대신, 두 인덱스를 하나의 쿼리 플래너로 묶은 것이다. 조회를 한 번의 계획으로 처리하니 왕복 횟수가 줄고, 그만큼 전체 지연도 줄었다.

의미 기반 검색은 비슷한 뜻의 문장을 잘 찾아내지만 정확한 코드명이나 고유명사 같은 키워드에는 약점이 있다. 반대로 키워드 검색은 정확한 용어 매칭에는 강하지만 표현이 다른 동의어를 놓친다. 하이브리드 검색은 이 두 접근을 함께 써서 서로의 약점을 보완하는 방식인데, 이번 변경은 그 결합을 더 빠르게 만든 것이다.¹

벤치마크 서브태스크에서의 확인

장기 과제 벤치마크에 포함된 검색 서브태스크에서도 점수 향상이 확인됐다는 후속 분석이 나왔다. 검색 지연이 줄어든 것이 단순한 속도 개선에 그치지 않고, 여러 번 검색을 반복하며 답을 찾아가는 에이전트형 과제의 최종 정답률에도 긍정적인 영향을 준다는 뜻이다. 검색을 한 번만 쓰는 단순 질의응답보다, 검색을 반복적으로 호출하는 워크플로에서 이런 누적 효과가 더 크게 나타난다.

검색 지연이 줄면 리트리벌을 쓰는 에이전트의 전체 응답 시간도 함께 준다.² 특히 검색 결과를 확인하고 다음 검색어를 다시 만드는 다단계 검색 패턴에서는, 한 번의 지연 감소가 여러 차례 누적되어 체감 효과가 더 커진다.

각주

1. 이 인덱스가 맡는 자리는 검색 증강 생성의 "검색" 단계다. 여기서 줄인 지연은 생성 품질이 아니라 답을 만들기 전 단계의 시간이라는 뜻이다. ↩

2. 에이전트 프레임워크의 기본 리트리버 경로가 이 인덱스를 전제한다는 점이 "전체 응답 시간"이라는 표현의 범위를 정한다. ↩