RAG 챗봇이 제공한 문서를 무시하고 엉뚱한 답을 합니다

사내 위키로 RAG 챗봇을 만들었는데, 분명 관련 문서가 있는 질문인데도 엉뚱하거나 옛날 정보를 그럴듯하게 답합니다. top_k=5로 뽑아 프롬프트에 넣고 있습니다. 어디부터 봐야 할까요?

환경: 임베딩 기반 벡터 검색 + LLM, 문서 수천 건