LLM 엔지니어링 · 프롬프트와 컨텍스트 · 퀴즈
퀴즈: 프롬프트와 컨텍스트
문항 7개. 정답과 해설은 풀어 본 뒤에 보여 드립니다.
컨텍스트 창에 관련 없는 문서를 많이 넣으면 생기는 문제로 가장 중요한 것은?
- 비용과 지연만 늘어나고 품질은 그대로다
- 모델이 오류를 반환한다
- 비용과 지연이 늘 뿐 아니라 정답을 찾는 정확도 자체가 떨어질 수 있다
- 토큰이 자동으로 압축된다
프롬프트에서 지시와 데이터의 배치에 대한 원칙으로 적절한 것은?
- 역할과 지시를 앞에 두고 데이터를 뒤에 둔다
- 데이터를 먼저 넣고 마지막에 지시를 붙인다
- 지시와 데이터를 번갈아 배치한다
- 순서는 결과에 영향을 주지 않는다
출력 형식을 안정적으로 만들기 위한 방법 중 가장 효과가 큰 것은?
- 형식을 말로 설명한다
- 온도를 높인다
- 프롬프트를 짧게 만든다
- 원하는 형식의 실제 예시를 보여 준다
사용자가 붙여 넣은 문서 안에 '이전 지시를 무시하라'는 문장이 있을 때 올바른 대응은?
- 모델이 문맥을 보고 지시인지 인용인지 판단하도록 그대로 넘긴다
- 그런 문구를 정규식 목록으로 만들어 입력에서 미리 지워 낸다
- 온도를 0 으로 낮춰 모델이 엉뚱하게 반응할 여지를 줄인다
- 외부에서 온 내용은 데이터이지 지시가 아니라는 경계를 양쪽에서 강제한다
컨텍스트 예산을 숫자로 정해 두는 이유는?
- 입력을 줄이면 모델이 집중할 범위가 좁아져 답이 좋아지기 때문
- 정해진 한도 안에서 호출하면 토큰 단가가 낮게 적용되기 때문
- 긴 입력이 들어왔을 때 출력이 잘려 나가는 사고를 예방할 수 있기 때문
- 예산에 맞춰 임베딩 차원을 줄이면 검색이 빨라지기 때문
단계별로 생각하게 하는 방식(chain-of-thought)의 대가로 옳은 것은?
- 토큰과 지연이 늘고, 단순한 질문에서는 오히려 혼란을 줄 수 있다
- 중간 단계가 오차를 누적시켜 정확도가 언제나 떨어진다
- 생각 과정이 출력에 섞여 형식을 지정할 수 없게 된다
- 중간 추론을 담느라 쓸 수 있는 컨텍스트 창 자체가 줄어든다
프롬프트를 수정할 때 반드시 함께 있어야 하는 것은?
- 평가 집합 — 어떤 케이스가 좋아지고 나빠졌는지 잴 수단
- 더 큰 모델 — 바뀐 프롬프트를 제대로 따를 능력이 필요하다
- 더 긴 컨텍스트 창 — 지시가 길어지면 입력 여유가 필요하다
- 낮은 온도 설정 — 비교하려면 출력이 흔들리지 않아야 한다