자기 일관성 프롬프팅: 여러 답변을 생성하고 올바른 답을 선택하십시오

자기 일관성 프롬프팅이란 무엇인가

자기 일관성 프롬프팅이 중요한 이유

• 수학 및 논리 퍼즐.
• 다단계 분석 질문.
• 추론의 작은 실수가 결과를 바꾸는 미묘한 트레이드오프가 있는 결정.
• 단일 패스 정확도가 90% 미만인 모든 도메인 특정 추론.

수치가 보여주는 것

자기 일관성 프롬프팅의 실제 작동 방식

1. 1
   추론 스타일 프롬프트(종종 chain-of-thought 지침 포함)를 사용하고 temperature를 0.7~1.0으로 설정하여 모델이 다양한 설명을 생성하도록 합니다. Temperature는 무작위성을 제어합니다: 0 = 결정론적(매번 동일한 답변), 1.0 = 최대 다양성.
2. 2
   동일한 프롬프트를 여러 번(예: 5~20회) 실행하고 모든 최종 답변을 수집합니다. 각 실행은 독립적이어야 합니다—다른 temperature 샘플이어야 하며, 캐시된 결과가 아닙니다.
3. 3
   집계: 가장 자주 나타나는 답변을 계산하거나 유사한 답변을 클러스터링합니다. 다수결 답변을 최종 결과로 사용합니다.
4. 4
   선택적으로, 모델에게 불일치를 조정하도록 요청할 수 있습니다: "다음은 동일한 질문에 대한 10개의 답변입니다. 가장 자주 나타나는 것은 무엇입니까? 불일치의 이유가 있습니까?" 이렇게 하면 신뢰도 메타데이터가 추가됩니다.

자기 일관성 대 다중 모델 합의

자기 일관성 프롬프팅을 사용해야 할 때

• 비즈니스 또는 기술적 결정을 이끄는 분석 질문.
• 논리적 실수가 비싼 복잡한 코딩 과제.
• 중간 단계가 중요한 교육 또는 시험 스타일의 추론.
• 단일 실행이 불안정하다고 이미 관찰된 모든 워크플로.
• 수학 문제, 논리 퍼즐, 연구 합성, 재무 분석.

자기 일관성 프롬프팅의 일반적인 실수

• temperature 0(결정론적 모드) 사용. 문제점: 모든 샘플이 동일합니다. 10개의 동일한 답변에 투표하면 아무것도 알 수 없습니다. 해결책: temperature를 0.7~1.0으로 설정하여 다양한 추론 경로를 생성하십시오.
• 단순한 사실 질문에 자기 일관성 사용. 문제점: "프랑스의 수도는 어디입니까?"는 매번 "파리"를 생성합니다. 정확도 향상 없이 토큰을 10배 소비했습니다. 해결책: 단일 실행 정확도가 관찰 가능하게 90% 미만인 과제에만 자기 일관성을 예약하십시오.
• 너무 적은 샘플(2~3개) 생성. 문제점: 동의하지 않는 2개의 샘플로는 타이브레이커가 없습니다. 3개의 경우 2-1 분할은 약한 합의를 제공합니다. 해결책: 최소 5개의 샘플을 사용하십시오. 1→5의 정확도 향상이 곡선의 가장 가파른 부분입니다.
• 최종 답변 대신 전체 응답 텍스트에 투표. 문제점: 두 응답이 완전히 다른 추론 경로를 통해 동일한 답에 도달할 수 있습니다. 텍스트 비교는 다르다고 하지만 답변 비교는 동의한다고 합니다. 해결책: 최종 답변만 추출하고("Answer: X" 형식 요구) 그것에 투표하십시오.

PromptQuorum에서의 자기 일관성 프롬프팅

• 추론 중심 프레임워크(예: TRACE 또는 APE)를 재사용하고 모델당 여러 번 실행하여 다양한 chain-of-thought를 수집합니다.
• 동일한 추론 프롬프트를 여러 모델에 나란히 실행하여 동일한 답으로 수렴하는지 확인합니다.
• 자기 일관성 워크플로를 템플릿으로 저장하여 팀이 패턴을 처음부터 설계하지 않고도 "여러 번 샘플링한 후 집계"를 반복적으로 적용할 수 있습니다.

자기 일관성 프롬프팅 사용 방법

1. 1
   복잡한 추론 과제의 경우, 다른 무작위 시드로 동일한 프롬프트에서 여러 출력(5~10개)을 생성하십시오. 동일한 질문을 5번 묻습니다. 5개의 다른 응답을 얻게 됩니다.
2. 2
   출력을 분석하여 일관된 패턴('합의')을 찾으십시오. 5개의 응답 중 4개가 동일한 답에 동의하면, 그 동의가 신뢰도 신호입니다. 5개 모두 동의하지 않으면, 과제가 모호하거나 프롬프트를 개선해야 합니다.
3. 3
   연구 및 지식 과제에서 환각을 감지하기 위해 자기 일관성을 사용하십시오. "프랑스의 수도는 어디입니까?"를 물을 때 3개의 응답이 "파리"라고 하고 2개가 "리옹"이라고 하면, 합의(파리)가 답변입니다. 무작위로 다른 도시들을 보면 모델이 환각하고 있는 것입니다.
4. 4
   다양한 출력을 장려하기 위해 Temperature(T)를 높게(0.7~1.0) 설정하십시오. 낮은 temperature(T = 0)는 매번 동일한 결정론적 출력을 생성하여 목적을 상실합니다. 자기 일관성은 합의를 찾기 위해 변형이 필요합니다.
5. 5
   비용이 허용하는 프로덕션 파이프라인에서 자기 일관성을 구현하십시오. 5~10배 더 많은 생성을 실행하는 것은 비싸지만, 중요한 결정(의료 조언, 금융 권장 사항, 연구 합성)의 경우 합의 신호가 비용을 정당화합니다.

관련 읽기

• Chain-of-Thought 프롬프팅 — 자기 일관성이 여러 경로로 확장하는 단일 경로 추론 기법
• Tree-of-Thought 및 ReAct — 자기 일관성과 관련된 분기 추론 접근법
• 프롬프트 인젝션 및 보안 — 다중 샘플 파이프라인 구현 시 보안 고려 사항
• Temperature 및 Top-P — 자기 일관성을 작동시키는 샘플링 파라미터
• 프롬프트 체이닝 — 각 단계에서 자기 일관성을 적용할 수 있는 다단계 워크플로
• AI 환각: 감지 및 방지 방법 — 환각 감지 방법으로서의 자기 일관성

출처

• Wang et al. (2023). "Self-Consistency Improves Chain of Thought Reasoning in Language Models." ICLR 2023. arXiv:2203.11171 — 추론 경로에 대한 다수결 투표로 자기 일관성을 도입한 기초 논문
• Wei et al. (2022). "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS 2022. arXiv:2201.11903 — 자기 일관성이 기반하는 chain-of-thought 논문
• Brown et al. (2020). "Language Models are Few-Shot Learners." NeurIPS 2020. arXiv:2005.14165 — CoT와 자기 일관성 모두를 가능하게 하는 인컨텍스트 학습에 대한 기초 연구
• Anthropic. "Prompt Engineering Guide." docs.anthropic.com — 프로덕션에서 temperature 튜닝 및 샘플링에 대한 모범 사례

자주 묻는 질문