#벡터검색
2편
- 근사 최근접 이웃 — 검색을 빠르게 하는 대가20만 개 문서를 전부 비교하면 질문 하나에 29ms가 든다. 군집으로 나눠 전체의 1.6%만 열어 보면 0.70ms로 41배 빨라지지만 재현율은 25.6%다. 25%를 열면 87.3%까지 오르는데 시간은 11.2ms다. 그리고 차원을 8에서 256으로 올리자 같은 설정의 재현율이 96%에서 13.5%로 떨어졌다 — 1등과 100등의 차이가 흐려지기 때문이다
- RAG — 검색 증강 생성, 모르는 것을 찾아서 답하기모델 안에 없는 지식은 밖에서 찾아 넣는다. 학습에서 본 적 없는 사실을 외운 모델은 6%(무작위 수준)만 맞혔지만 검색은 100% 맞혔다 — 재학습 없이 지식이 추가된다. 다만 정답률은 검색 재현율을 넘지 못했다. 검색이 틀린 문서를 집으면 답도 틀린다