블로그

내부 문서 검색 시스템을 RAG로 전환한 뒤, 사용자가 "이거 완전히 반대 의미잖아요"라며 들고 온 답변을 보고 얼어붙었습니다. 검색된 문서엔 정확한 내용이 있었는데, LLM이 생성 단계에서 정반대로 요약했더군요. 검색 품질이 높아도 답변은 틀릴 수 있다는 걸 그때 처음 체감했어요…