LLM도 '급하게 풀면' 틀린다#
LLM에게 복잡한 수학 문제나 논리 추론을 던지면 즉답으로 틀리는 경우가 많습니다.
Text
질문: "A 마트에서 사과 3개와 배 2개를 샀습니다. 사과는 개당 800원,
배는 개당 1,500원입니다. 10,000원을 냈을 때 거스름돈은?"
❌ 즉답 방식
→ "1,600원입니다" (계산 오류)
✅ 단계별 사고 방식
→ 사과 합계: 800 × 3 = 2,400원
배 합계: 1,500 × 2 = 3,000원
총합: 2,400 + 3,000 = 5,400원
거스름돈: 10,000 - 5,400 = 4,600원
"단계별로 생각해줘" — 이 한 마디가 정확도를 크게 높입니다.
Chain-of-Thought(CoT)란?#
LLM이 최종 답변을 내기 전에 중간 추론 과정을 명시적으로 거치게 만드는 기법입니다.
Diagram · Mermaid
CoT 활성화 방법#
방법 1: 마법의 주문#
Text
문제: [복잡한 문제]
단계별로 생각해서 풀어줘.
또는 영어로:
Text
Let's think step by step.
Think through this carefully.
Show your reasoning.
이 짧은 문구만으로 LLM의 추론 품질이 크게 향상됩니다.
방법 2: Few-shot CoT#
예시를 통해 추론 방식 자체를 가르칩니다.
Diagram · Mermaid
Text
[예시]
질문: 상품 원가가 5,000원이고 30% 마진을 붙이면 판매가는?
풀이:
- 마진 금액 = 5,000 × 0.3 = 1,500원
- 판매가 = 5,000 + 1,500 = 6,500원
답: 6,500원
[실제 문제]
질문: 월급 350만 원에서 소득세 3.3%를 공제하면 실수령액은?
CoT가 효과적인 상황#
Diagram · Mermaid
| 상황 | CoT 효과 | 이유 |
|---|---|---|
| 수학 계산 | ⭐⭐⭐⭐⭐ | 중간 계산 검증 가능 |
| 논리 퍼즐 | ⭐⭐⭐⭐⭐ | 전제→결론 과정 명시 |
| 코드 디버깅 | ⭐⭐⭐⭐ | 오류 원인 단계적 추적 |
| 단순 번역 | ⭐ | 추론 과정 불필요 |
실전 예시: 비즈니스 의사결정#
CoT는 수학 문제만이 아니라 복잡한 판단 문제에도 효과적입니다.
Text
상황: 스타트업 A가 Series A 투자를 검토 중입니다.
- 현재 ARR: 5억 원 (전년 대비 200% 성장)
- 팀: 15명, 소진율 월 5,000만 원
- 현금: 3억 원 남음
- 밸류에이션 요구: 100억 원
투자 여부를 단계별로 분석해줘.
단계 1: 재무 건전성 확인
단계 2: 성장률 평가
단계 3: 런웨이 계산
단계 4: 밸류에이션 적정성
단계 5: 종합 판단
자기 검증 CoT: 답을 스스로 확인하게 만들기#
Diagram · Mermaid
Text
문제를 풀고, 풀이가 끝나면 답이 올바른지 검증하는 단계를 추가해줘.
검증 단계에서 오류가 발견되면 수정해줘.
이 패턴은 LLM이 자신의 실수를 스스로 잡아내게 만듭니다.
Zero-shot CoT vs Few-shot CoT#
Diagram · Mermaid
실무에서는 보통 Zero-shot CoT(단계별로 생각해줘)로 시작하고, 결과가 마음에 안 들 때 Few-shot CoT로 전환합니다.
CoT 활용 시 주의사항#
Diagram · Mermaid
- 추론 과정을 반드시 검토하세요. 그럴듯한 과정이 잘못된 결론으로 이어질 수 있습니다.
- 중요한 계산은 별도로 검증하세요.
- CoT는 추론 과정을 투명하게 만들 뿐, 정확성을 보장하지 않습니다.
정리#
| 개념 | 내용 |
|---|---|
| Chain-of-Thought | 중간 추론 과정을 명시하는 프롬프팅 기법 |
| Zero-shot CoT | "단계별로 생각해줘" 문구만으로 활성화 |
| Few-shot CoT | 추론 예시를 함께 제공해 방식 통제 |
| 자기 검증 | 풀이 후 스스로 답 확인하게 유도 |
| 적합한 상황 | 수학·논리·복잡한 의사결정 |
다음 편에서는 시스템 프롬프트 설계 — LLM의 전반적인 행동 방식을 제어하는 시스템 레벨 프롬프트를 설계하는 방법을 배웁니다.
