추론 모델 설명: Grok에게 생각할 시간이 필요한 때

채팅에서 Grok 4.3 Thinking을 선택하면 첫 단어가 나오기 전에 잠깐 멈추는 걸 볼 수 있어요. 이 시간 동안 모델이 멈춘 게 아닙니다. 질문을 여러 부분으로 나누고, 접근법을 시도해 보고, 검토하고, 때로는 처음부터 다시 시작하며 스스로 메모를 작성하는 중이에요. 이렇게 작동하는 모델을 '추론 모델' 또는 'Thinking 모델'이라고 부릅니다. 이 가이드에서는 이러한 모델이 어떻게 작동하는지, 몇 초의 기다림으로 무엇을 얻을 수 있는지, 그리고 작업에 따라 빠른 기본 모델인 Grok 4.20과 Grok 4.3 Thinking 중 어떤 것을 골라야 할지 쉽게 결정하는 방법을 알려드릴게요.

Thinking 모델은 무엇이 다를까요?

모든 언어 모델은 이전의 모든 텍스트를 바탕으로 한 번에 조금씩 답변을 작성해요. 일반적인 모델은 바로 답변을 시작합니다. 만약 첫 문장에서 잘못된 방향으로 가기 시작하면, 이후의 단어들이 이전 단어를 바탕으로 이어지기 때문에 계속 그 잘못된 경로를 유지하는 경향이 있어요.

반면 추론 모델은 시험에서 최종 답안을 적기 전에 연습장을 쓰는 것처럼, 먼저 일련의 풀이 과정을 생성하도록 훈련받았습니다. 이 과정에서 문제의 조건을 나열하고, 계산을 시도해 보고, 모순을 발견해 수정할 수 있죠. 그런 다음 비로소 여러분에게 보이는 최종 답변을 작성합니다. 이 풀이 과정 자체도 모델이 생성하는 추가 텍스트이기 때문에, 사용자 눈에 보이지 않더라도 시간과 컴퓨팅 자원이 소모돼요.

이것이 핵심이며, 장단점이 모두 여기서 발생합니다. 단계별 접근, 검토, 재시도가 필요한 문제는 훨씬 더 정확해지지만, 굳이 단계가 필요 없는 문제는 그저 답변 속도만 느려질 뿐이에요.

기다려야 하는 이유와 보이지 않는 과정

저희 채팅창에서는 생각하는 과정이 보이지 않는 곳에서 이루어져요. Grok 4.3이 작업하는 동안에는 "Thinking…" 표시가 뜨고, 작업이 끝나면 최종 답변이 스트리밍됩니다. 숨겨진 메모는 표시되지 않으며 대화 기록에도 저장되지 않아요.

xAI의 개발자 문서에는 모델이 답변하기 전에 얼마나 깊이 생각할지 제어하는 '추론 강도(reasoning effort)' 설정이 나와 있습니다. Grok 4.3의 옵션은 none부터 high까지 있으며, 기본값은 low예요. 저희 채팅은 Grok 4.3을 low 설정으로 실행합니다. 답변을 받기 위해 1분씩 기다리지 않아도 되면서, 많은 실수를 잡아내기에 충분한 수준이죠. Grok 4.7 역시 모든 답변 전에 추론을 거칩니다. xAI 문서에 따르면 추론 기능을 끌 수 없기 때문이며, 이 역시 low 설정으로 실행돼요. Grok 4.20은 추론 기능이 꺼진 상태로 실행되므로 거의 즉시 답변을 시작합니다.

자체 테스트 결과, 짧은 질문의 경우 Grok 4.20은 약 1초 만에 답변을 시작했지만, Grok 4.3 Thinking은 몇 초가 걸렸어요. 더 어려운 문제일수록 생각하는 과정이 길어지므로 대기 시간이 늘어날 수 있습니다.

Thinking 모델이 빛을 발하는 작업

• 여러 단계의 수학 및 서술형 문제. 복합 백분율, 단위 변환, 확률 등 초반의 작은 실수 하나가 결과를 망칠 수 있는 모든 문제에 적합해요.
• 논리 및 제약 조건 문제. 좌석 배치도, 시간표, '아인슈타인의 논리 퍼즐', 일정이 서로 겹치는 5명의 약속 잡기 등이 포함돼요.
• 디버깅. 함수가 왜 잘못된 값을 반환하는지 추적하려면 코드를 한 줄씩 따라가야 하는데, 이는 추론 과정이 가장 잘하는 일이에요.
• 장단점을 비교하는 작업. 여러 조건이 복잡하게 얽혀 있을 때 두 가지 채용 제안, 두 가지 주택담보대출, 세 가지 소프트웨어 툴 중에서 고민하는 경우예요.
• 논리 검증. 증명 과정의 빈틈, 사업 계획서에 숨겨진 전제, 에세이에서 논리적으로 이어지지 않는 단계를 찾아내는 작업이에요.

기다릴 가치가 있는 예시:
한 상점에서 가격을 20% 인상한 후, 인상된 가격에서 25%를
할인하여 판매합니다. 손님이 할인된 가격으로 54를 냈다면, 원래
가격은 얼마였으며, 할인가가 원래 가격보다 높을까요 낮을까요?
풀이 과정을 함께 보여주세요.

빠른 모델도 정답을 맞힐 수 있지만, 이런 유형의 질문은 매우 확신에 찬 어조로 중간 단계를 틀릴 가능성이 가장 높습니다. Grok 4.3 Thinking을 열어 직접 테스트해 보시거나, 선택한 모델에 가격 퍼즐을 보내 결과를 비교해 보세요.

Thinking 모델이 굳이 필요 없는 작업

일상적인 요청의 상당수는 먼저 생각하는 과정이 그저 지연만 초래할 뿐이에요. 다음과 같은 작업에는 Grok 4.20을 그대로 사용하세요:

• 붙여넣은 텍스트의 문장 다듬기, 요약하기, 어조 변경;
• 이메일, SNS 게시글, 캡션, 짧은 스토리 초안 작성;
• 단순한 사실 정보 및 정의 확인 (추론 모델이든 아니든 여전히 팩트체크가 필요합니다);
• 정확성보다 다양성이 중요한 이름, 아이디어, 헤드라인 브레인스토밍;
• 일반적인 텍스트 번역.

xAI 자체 개발자 쿡북에서도 비슷한 점을 지적합니다. 한 예시에서 짧은 고객지원 티켓에 높은 추론 강도를 적용했더니, 결과가 눈에 띄게 좋아지지도 않으면서 토큰만 더 많이 소모했거든요. 생각을 더 많이 한다고 해서 무조건 결과가 더 좋아지는 것은 아닙니다.

저희 채팅에서 제공하는 세 가지 모델 비교

세 모델 모두 이미지를 인식할 수 있고, 매일 제공되는 30회의 무료 메시지 한도를 공유하므로 Thinking 답변이라고 해서 메시지가 더 많이 차감되지 않아요. 비용은 약간의 기다림뿐입니다. 자세한 내용은 Grok 4.3 페이지와 Grok 4.7 및 Grok 4.3 비교에서 확인하실 수 있습니다.

Thinking 모델에 프롬프트를 작성하는 법

추론 모델은 문제를 어떻게 풀지 알아내는 데 뛰어납니다. 하지만 사용자가 빠뜨린 정보까지 스스로 알아낼 수는 없어요. 모든 제약 조건은 첫 메시지에 적어주세요.

아쉬운 프롬프트:
다음 주 우리 팀 회의 일정 잡는 것 좀 도와줘.

좋은 프롬프트:
다음 주 월요일부터 금요일 사이, 9:00에서 17:00 사이에
진행할 30분짜리 1:1 회의 5개를 계획해 줘. 규칙: 나는 화요일
오전과 매일 12:00~13:00에 일정이 있어. Ana는 월요일부터
수요일까지만 근무해. Ben은 오전에 시간이 안 돼. 하루에 회의는
최대 2개까지만 잡아줘. 표 형태로 정리해 주고, 지키지 못한
규칙이 있다면 알려줘.

몇 가지 유용한 팁을 더 알려드릴게요:

• "단계별로 생각해 봐"라는 지시는 건너뛰어도 돼요. 모델이 답변하기 전에 이미 그렇게 하고 있거든요. 풀이 과정을 직접 확인하고 싶다면 답변에 단계별 과정을 보여달라고 요청하세요.
• 답을 쉽게 찾을 수 있도록 마지막 줄에 최종 정답만 따로 적어달라고 해보세요.
• 스스로 전제한 가정이 있다면 나열해 달라고 하세요. Thinking 모델도 부족한 정보는 임의로 추측해 채우기도 하니까요.
• 더 신중하게 생각한다고 해서 정답을 보장하는 건 아닙니다. 추론 모델도 그럴듯한 논리로 틀린 결론에 도달할 수 있으며, 특히 학습하지 않은 사실에 대해서는 더욱 그렇습니다.

2분 만에 끝내는 테스트

차이를 체감하는 가장 좋은 방법은 직접 확인해 보는 거예요. 이미 답을 알고 있는 문제, 예를 들어 해설이 있는 시험 문제나 지난주에 해결했던 버그 등을 골라보세요. Grok 4.20에 질문을 보내본 다음, Grok 4.3 Thinking으로 새 대화를 시작해 동일한 메시지를 보내보세요. 최종 답변뿐만 아니라 까다로운 단계를 각자 어떻게 풀어내는지 비교해 보세요. 몇 번 해보고 나면 어떤 작업에 기다릴 만한 가치가 있는지 감이 올 거예요. 수학 문제 풀이 도구와 코드 어시스턴트에서 이러한 테스트를 진행하기 좋으며, 단계별 접근이 왜 효과적인지는 언어 모델의 작동 원리 가이드에서 자세히 다루고 있습니다.

자주 묻는 질문 (FAQ)

저희 채팅에서 Grok의 생각 과정을 직접 읽을 수 있나요?

아니요. 저희 채팅창은 중간 풀이 과정을 숨기고 최종 답변만 보여줍니다. 답을 도출한 과정을 확인하고 싶다면, 답변에 풀이 단계를 설명해 달라고 요청해 보세요.

Thinking 모델을 쓰면 일일 무료 메시지가 더 많이 소모되나요?

아니요. 어떤 모델을 선택하든 답변 하나당 메시지 1회로 계산됩니다. 단, Grok 4.7은 전체 30회 한도 내에서 하루 10회로 제한돼요.

Grok 4.3 Thinking이 항상 더 정확한가요?

항상 그런 것은 아닙니다. 단계가 필요한 문제에서는 대체로 더 뛰어난 성능을 보이지만, 여전히 틀릴 수 있으며 학습 데이터를 벗어난 사실을 더 많이 알지는 못합니다. 중요한 내용은 AI 팩트체크 가이드를 참고해 꼭 교차 검증해 주세요.

여기서 Grok 4.20은 왜 Thinking 모델이 아닌가요?

Grok 4.20도 추론 능력이 있지만, 일상적인 작업에서 기본 속도를 빠르게 유지하기 위해 추론 기능을 끈 상태로 실행합니다. 더 신중한 답변이 필요할 때는 모델 메뉴에서 Grok 4.3 Thinking을 선택해 주세요.

Grok 4.3 Thinking과 Grok 4.7의 차이점은 무엇인가요?

두 모델 모두 답변 전에 추론을 거칩니다. Grok 4.7은 xAI의 최신 플래그십 모델로 코딩, 에이전트 작업, 전문 지식 처리에 특화되어 있으며, 저희 채팅에서는 하루 10회로 제한됩니다. Grok 4.3은 신중한 추론이 필요한 일상 작업에 적합한 선택이에요.