LLM 엔지니어링 · RAG 구조 · 퀴즈
퀴즈: RAG 구조
문항 7개. 정답과 해설은 풀어 본 뒤에 보여 드립니다.
RAG 답변 품질이 나쁠 때 가장 먼저 해야 할 일은?
- 생성 프롬프트를 처음부터 다시 쓴다
- 정답 문서가 검색되었는지부터 확인해 검색 실패와 생성 실패를 가른다
- 더 크고 비싼 모델로 바꿔 본다
- 모델의 컨텍스트 창을 더 늘린다
Recall@K 와 MRR 의 차이는?
- 둘은 같은 지표다
- Recall@K 는 생성 품질을, MRR 은 검색 품질을 잰다
- Recall@K 는 정답이 상위 K 안에 있는지를, MRR 은 정답이 몇 위에 나왔는지를 본다
- MRR 은 K 값이 필요 없어 항상 더 정확하다
밀집 검색(임베딩)과 희소 검색(키워드)을 함께 쓰는 이유는?
- 서로 다른 종류의 실패를 하기 때문에 약점을 보완할 수 있어서
- 속도를 두 배로 높이기 위해
- 저장 공간을 아끼기 위해
- 임베딩 모델이 없어도 되기 때문에
재순위기(Reranker)를 검색기 전체가 아니라 상위 후보에만 적용하는 이유는?
- 상위 후보만 정답을 포함하기 때문
- 재순위기는 벡터를 만들 수 없기 때문
- 질의와 문서를 함께 넣어 점수를 매기는 방식이라 정확하지만 느리기 때문
- 상위 후보만 메타데이터를 갖기 때문
검색 점수가 임계값 미만일 때 답하지 않게 만드는 규칙의 목적은?
- 생성 호출을 줄여 비용을 아끼려고
- 관련 없는 문서를 근거로 그럴듯한 답을 지어내는 것을 막기 위해
- 생성을 건너뛰어 응답을 빠르게 하려고
- 색인 크기를 줄이기 위해서
청크 크기를 정하는 실용적인 기준으로 가장 적절한 것은?
- 한 청크가 하나의 질문에 답할 수 있는 최소 단위가 되게 한다
- 항상 512토큰으로 고정한다
- 문서를 정확히 10등분한다
- 가능한 한 크게 만든다
청크에 문서 제목과 섹션 경로 같은 메타데이터를 덧붙여 색인하면 얻는 것은?
- 중복이 줄어 저장 공간이 작아진다
- 청크만으로는 부족한 문맥이 보완되어 검색 품질이 오르고 필터링에도 쓸 수 있다
- 임베딩 벡터의 차원이 줄어든다
- 문서가 바뀌어도 재색인이 필요 없어진다