ChatGPT가 거짓말 못하게 만드는 '생각의 사슬(CoT)' 프롬프트 기법
TL;DR — AI가 헛소리하는 걸 막고 싶다면? 구글이 개발한 '생각의 사슬(Chain of Thought)' 기법으로 AI의 정확도를 획기적으로 높이는 방법을 실전 예시와 함께 알려드립니다.
ChatGPT가 거짓말 못하게 만드는 '생각의 사슬(CoT)' 프롬프트 기법
🤔 "GPT가 또 헛소리를 하네..."
안녕하세요! 30대 IT 저널리스트입니다. ChatGPT를 사용하다가 이런 경험 있으신가요?
"2023년 노벨문학상 수상자가 누구야?"라고 물었더니 자신있게 틀린 답을 하거나, 복잡한 수학 문제를 풀어달라고 했더니 중간 과정을 건너뛰고 엉뚱한 답을 내놓는 경우 말이죠.
이런 현상을 AI 업계에서는 '환각(Hallucination)'이라고 부릅니다. 마치 AI가 헛것을 보고 대답하는 것처럼 보이죠.
하지만 걱정 마세요! 오늘 소개할 '생각의 사슬(Chain of Thought, CoT)' 기법을 사용하면 AI의 정확도를 획기적으로 높일 수 있습니다. 구글 리서치팀이 발표한 이 기법은 AI 업계에 센세이션을 일으켰고, 지금은 프롬프트 엔지니어링의 필수 기술이 되었습니다.
🧠 생각의 사슬(CoT)이란 무엇인가?
📖 핵심 개념
Chain of Thought(CoT)는 AI가 문제를 단계별로 풀어가도록 유도하는 프롬프트 기법입니다.
마치 수학 선생님이 "답만 쓰지 말고 풀이 과정도 써라!"라고 하는 것과 같은 원리죠.
🔍 왜 효과적일까?
일반 프롬프트: "23 × 47은?"
AI: "1081" (종종 틀림)
CoT 프롬프트: "23 × 47을 단계별로 계산해줘"
AI: "1단계: 23 × 40 = 920
2단계: 23 × 7 = 161
3단계: 920 + 161 = 1081
답: 1081" (정확도 높음)
단계별 사고를 거치면서 실수가 줄어듭니다!
📊 일반 프롬프트 vs CoT 프롬프트 비교
실제 예시로 차이를 확인해보겠습니다.
❌ 일반 프롬프트 (정확도 낮음)
질문: "철수는 사과 5개를 가지고 있었습니다.
영희가 3개를 주고, 민수가 2개를 가져갔습니다.
그 후 철수가 가진 사과의 절반을 먹었다면
남은 사과는 몇 개일까요?"
AI 답변: "3개입니다." (틀림!)
✅ CoT 프롬프트 (정확도 높음)
질문: "다음 문제를 단계별로 풀어줘:
철수는 사과 5개를 가지고 있었습니다.
영희가 3개를 주고, 민수가 2개를 가져갔습니다.
그 후 철수가 가진 사과의 절반을 먹었다면
남은 사과는 몇 개일까요?"
AI 답변:
"1단계: 철수의 초기 사과 = 5개
2단계: 영희가 준 사과 = 3개
현재 총계 = 5 + 3 = 8개
3단계: 민수가 가져간 사과 = 2개
현재 총계 = 8 - 2 = 6개
4단계: 절반을 먹음 = 6 ÷ 2 = 3개를 먹음
5단계: 남은 사과 = 6 - 3 = 3개
답: 3개입니다." (정답!)
🎯 Zero-shot CoT: "차근차근 생각해봐"
🌟 가장 간단한 CoT 기법
복잡한 예시 없이도 CoT를 활용할 수 있는 방법입니다.
마법의 문구들:
- "Let's think step by step" (차근차근 생각해보자)
- "단계별로 설명해줘"
- "논리적으로 추론해서 답해줘"
- "생각의 과정을 보여주면서 답해줘"
💡 Zero-shot CoT 활용 예시
프롬프트:
"다음 논리 문제를 풀어줘. 차근차근 생각해서 답해줘:
모든 새는 날 수 있다.
펭귄은 새다.
따라서 펭귄은 날 수 있다.
이 추론의 문제점은 무엇일까?"
AI 답변:
"차근차근 분석해보겠습니다:
1단계: 전제 확인
- 전제 1: "모든 새는 날 수 있다"
- 전제 2: "펭귄은 새다"
- 결론: "펭귄은 날 수 있다"
2단계: 논리 구조 분석
- 이것은 연역적 삼단논법 형태입니다
- 형식상으로는 타당해 보입니다
3단계: 사실 확인
- 전제 1의 문제: 실제로 모든 새가 날 수 있는 것은 아닙니다
- 타조, 에뮤, 키위새 등도 날지 못합니다
4단계: 결론
이 추론의 문제점은 첫 번째 전제가 거짓이라는 점입니다.
'모든 새는 날 수 있다'는 잘못된 일반화입니다."
📚 Few-shot CoT: "이런 식으로 풀어줘"
🎓 예시를 통한 학습
AI에게 문제 해결 방식의 예시를 먼저 보여주는 방법입니다.
📝 Few-shot CoT 템플릿
프롬프트:
"다음 예시처럼 문제를 풀어줘:
[예시]
문제: 가게에 연필이 24개 있었습니다. 12개들이 상자가 3개 더 왔다면 총 몇 개?
풀이:
1단계: 원래 있던 연필 = 24개
2단계: 새로 온 상자 = 3개
3단계: 각 상자의 연필 = 12개
4단계: 새로 온 연필 총합 = 3 × 12 = 36개
5단계: 전체 연필 = 24 + 36 = 60개
답: 60개
[실제 문제]
문제: 도서관에 책이 150권 있었습니다. 20권들이 박스가 5개 왔고,
낡은 책 30권을 버렸다면 총 몇 권?"
AI 답변:
"예시와 같은 방식으로 풀어보겠습니다:
1단계: 원래 있던 책 = 150권
2단계: 새로 온 박스 = 5개
3단계: 각 박스의 책 = 20권
4단계: 새로 온 책 총합 = 5 × 20 = 100권
5단계: 추가 후 총계 = 150 + 100 = 250권
6단계: 버린 책 = 30권
7단계: 최종 책 수 = 250 - 30 = 220권
답: 220권"
💼 실전 CoT 활용 예시 5가지
1️⃣ 복잡한 업무 계획 수립
프롬프트:
"신제품 런칭 계획을 수립해줘. 단계별로 고려사항과 함께 설명해줘:
- 제품: 건강관리 앱
- 예산: 5000만원
- 기간: 3개월"
AI가 단계별로 시장조사 → 개발 → 마케팅 → 런칭 계획을 체계적으로 제시
2️⃣ 코드 디버깅
프롬프트:
"이 코드의 문제점을 찾아줘. 단계별로 분석해서 설명해줘:
[코드 붙여넣기]
1. 먼저 코드의 목적 파악
2. 각 함수의 역할 분석
3. 잠재적 버그 포인트 확인
4. 해결 방안 제시"
3️⃣ 투자 의사결정
프롬프트:
"이 주식에 투자할지 판단하는 과정을 단계별로 보여줘:
- 종목: ABC 회사
- 현재가: 50,000원
- PER: 15
- 최근 실적: 전년 대비 20% 성장
각 단계에서 고려해야 할 리스크도 함께 설명해줘"
4️⃣ 학습 커리큘럼 설계
프롬프트:
"React 마스터하기 위한 3개월 학습 계획을 세워줘.
주차별로 학습 내용과 이유를 단계적으로 설명해줘.
현재 수준: JavaScript 기초 가능"
5️⃣ 문제 해결 전략
프롬프트:
"고객 이탈률이 늘어나는 문제를 해결하려고 해.
원인 분석부터 해결책까지 단계별로 접근 방법을 제시해줘.
각 단계에서 필요한 데이터와 액션도 포함해서"
🎯 효과적인 CoT 사용을 위한 5가지 팁
1. 명확한 단계 구분 요청
❌ "설명해줘"
✅ "5단계로 나누어 설명해줘"
2. 중간 검증 포인트 추가
"각 단계마다 논리적 타당성을 검증하면서 진행해줘"
3. 구체적인 사고 과정 요구
"계산 과정", "판단 근거", "가정 사항"을 명시하도록 요청
4. 오류 가능성 인지시키기
"혹시 놓친 부분이 있는지 다시 한 번 검토하면서 답해줘"
5. 결론 요약 요청
"마지막에 전체 사고 과정을 간단히 요약해줘"
🚀 마무리: 이제 당신도 CoT 마스터!
Chain of Thought는 단순해 보이지만 강력한 기법입니다.
핵심 정리:
- "차근차근 생각해봐" - 가장 간단한 Zero-shot CoT
- 예시 제공 - Few-shot CoT로 정확도 향상
- 단계별 사고 - 복잡한 문제일수록 효과적
- 중간 검증 - 각 단계에서 논리 확인
- 실전 활용 - 업무, 학습, 분석 등 모든 분야 적용 가능
🔥 오늘부터 실천하기:
- 복잡한 질문을 할 때는 항상 "단계별로" 추가하기
- 중요한 의사결정 시 CoT 활용하여 논리적 검증하기
- 업무 자동화 프롬프트에 CoT 적용하여 정확도 높이기
다음 포스트 예고: "GPT-4o vs Claude 3.5 Sonnet: 내게 맞는 최강의 AI 모델은?"
CoT 기법으로 AI와의 대화가 어떻게 달라졌는지 댓글로 공유해주세요! 🎉
태그: #ChainOfThought #CoT #프롬프트엔지니어링 #ChatGPT #AI환각 #프롬프트기법 #AI정확도 #생각의사슬 #제로샷CoT #퓨샷CoT