AI·바이브코딩 기술 트렌드

벡터 검색이 느리다면? HNSW 2-pass·배치 거리·AVX-512로 KNN 속도 끌어올리기

요즘 AI 서비스를 만들다 보면 ‘벡터 검색’이라는 말을 정말 자주 듣게 되거든요. 챗봇한테 우리 회사 문서를 학습시켜서 질문에 답하게 하는 RAG, 비슷한 상품 추천, 이미지나 음악 유사도 찾기 같은 기능이 전부 이 벡터 검색 위에서 돌아가요. 그런데 이게 데이터가 많아지면 갑자기 확 느려진다는 게 문제예요. 오픈소스 검색엔진인 Manticore Se...