벡터 데이터베이스
·
Review
한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.책 링크 LLM을 서비스에 붙이는 일은 이제 특별하지 않다. 사내 문서를 찾아 답해 주는 챗봇이나 고객 문의를 분류하는 기능 정도는 웬만한 팀이라면 이미 만들어 봤거나 만들고 있을 것이다. 그리고 직접 만들어 본 사람이라면 이런 상황을 한 번쯤 겪었을 것이다. 분명 문서에 있는 내용인데 AI는 모른다고 답하거나, 엉뚱한 문서를 근거로 그럴듯한 답을 내놓는다. 이럴 때 보통은 모델을 바꾸거나 프롬프트를 고쳐 보지만, 정작 문제는 그 앞 단계인 검색에 있는 경우가 많다. 모델이 아무리 뛰어나도 엉뚱한 문서를 건네받으면 엉뚱한 답을 할 수밖에 없다. 벡터 데이터베이스는 바로 이 검색을 맡는 핵심 기술이다. 그런데 서버 개발자에게 벡터 DB라..