애플에서 공개한 추론(Reasoning) 모델의 한계에 대한 논문
원본 : https://machinelearning.apple.com/research/illusion-of-thinking
주요 한계 요약: 위 모델들의 공통적인 한계로, 문제 복잡도가 높아질수록 정답률이 급격히 떨어지는 현상(accuracy collapse)이 보고됩니다 . 또한 난도가 올라갈 때 모델이 생각해야 할 단계를 충분히 밟지 못하고 일찍 포기하는 경향이 있어 , 이를 “사고 노력 감소”로 지적합니다. 반대로, 쉬운 문제에서는 과도한 추론 과정이 오히려 방해가 되어 성능이 저하되기도 합니다 . 마지막으로, 현세대 모델들은 정확한 산술 계산이나 알고리즘적 문제 해결에 근본적 한계를 보여주고 있으며, 논리 퍼즐에서 추론의 일관성 부족도 관찰됩니다.
단, 이 연구는 제어된 퍼즐 환경에 초점을 맞추고 있어 실제 세계의 복잡한 추론 문제를 완전히 포착하지 못할 수 있습니다. 또한, 폐쇄형 LRM에 대한 블랙박스 API 접근에 의존하여 내부 상태 분석에 한계가 있습니다.
대형 추론 모델 비교: Apple 연구 기반 주요 한계와 성능
| 모델 (출시 시기) | 특징 및 강점 | 주요 한계 / 이슈 |
|---|---|---|
GPT-4 (OpenAI, 2023) |
- 수조 개 파라미터를 지닌 초대형 LLM - 뛰어난 언어 이해력, 다양한 분야에서 최고 수준 성능 - 제한적이나마 논리적 추론 가능 |
- 정확도 붕괴: 복잡도가 증가하면 급격한 성능 저하 발생- 사고 노력 감소: 난이도 증가 시 사고 단계 수 감소- 계산 취약: 정확한 알고리즘 수행에 취약- 과도한 사고: 간단한 문제에 지나친 추론으로 성능 저하 |
OpenAI O1 (2024 Preview) |
- GPT-4 기반 강화학습 기반 추론 특화 모델 - RL을 통해 사고 과정을 체계적으로 학습 - 복잡 문제에서 GPT-4보다 향상된 성능 |
- 최신 Preview 모델로 실사용 최적화는 미완 - 복잡 추론의 완전 일반화는 미해결 |
Claude 3.7 Sonnet (Anthropic, 2025) |
- 일반 모드 + 확장 추론 모드를 통합한 하이브리드 추론 모델 - API를 통해 사고 토큰 제어 가능 - 중간 복잡도 문제에서 강세 |
- 수학 정확도 약점: 계산 문제에서 다소 낮은 정답률- 복잡 추론 한계: 특정 고난도 퍼즐에서 실패율 존재 |
Gemini 2.5 Pro (Google, 2024) |
- 멀티모달 지원, 도구 활용 기반 추론 가능 - “Deep Think” 모드로 인간 유사 사고 유도 - 상식/지식 문제에서 강세 |
- 수학/논리 경시 분야 일부 열세- AGI 추론력까지는 미도달 |
DeepSeek R1 (DeepSeek, 2025) |
- RL만으로 학습된 오픈소스 추론 특화 모델 - 자기 검증, 반성, CoT 등을 자발적 수행 - OpenAI O1 수준의 성능 목표 |
- 안정성 및 신뢰도 검증 진행 중- 일반화된 고난도 추론 능력은 추가 연구 필요 |
GPT 피셜 최신 연구 동향 요약: 한계 해결을 위한 접근법
✅ 강화학습을 통한 추론 능력 강화: OpenAI와 DeepSeek 등은 강화학습(RL)을 활용해 모델이 스스로 생각하는 법을 배우도록 훈련했습니다. OpenAI는 GPT-4를 발전시킨 O1 모델에 거대 규모 RL 알고리즘을 적용하여, 체계적인 사고 과정을 학습시키고 복잡한 문제에서 GPT-4보다 향상된 성능을 얻었습니다  . 이 모델은 추론에 더 많은 연산 시간을 투입할수록 성능이 향상되는 특징을 보여주어, 추론 과정의 스케일업 가능성을 확인시켰습니다 . 오픈소스 진영의 DeepSeek-R1도 유사하게 전적으로 RL로 학습한 모델을 선보여, 자기 검증과 반성, 연쇄 추론 등을 자연스럽게 수행하며 최신 폐쇄형 모델과 견줄 성능을 달성했다고 보고했습니다
✅ 추론 모드의 통합 및 하이브리드화: 기존에는 복잡한 추론에 특화된 모델(LRM)과 일반 대화형 LLM이 구분되는 경향이 있었으나, 이 둘을 통합하려는 움직임이 있습니다. Anthropic의 Claude 3.7 Sonnet은 한 모델 안에 즉각 답변 모드와 심층 사고 모드를 모두 내장하여, 사람처럼 필요에 따라 빠르게 답하거나 숙고하는 능력을 한데 구현했습니다 . 사용자는 모델이 생각에 할애하는 토큰량을 조절할 수도 있어, 간단한 질문에는 빠르게 답하고 어려운 문제는 신중히 추론하도록 유도할 수 있습니다 . Google의 Gemini Pro 역시 2025년 I/O 행사에서 “Deep Think”라는 심층 추론 기능을 소개했는데, 추가 연산 시간을 투입해 문제를 인간처럼 단계적으로 해부하고 해결하는 방식으로 성능을 높였습니다 . 이러한 하이브리드 추론 접근은 간단한 질의에는 불필요한 장황한 풀이를 피하면서, 복잡한 문제에는 충분한 사고를 부여해 과도한 사고로 인한 성능 저하를 완화하려는 의도입니다.
✅ 체인-오브-띵크(CoT) 개선 기법들: “연쇄적 사고” 기법은 복잡 문제에서 모델의 정확도를 높였지만, 이유 과정이 불필요하게 길어지는 비효율이 문제였습니다. 이를 개선하기 위해 연구자들은 트리-오브-띵크(Tree-of-Thought)와 같이 분기 탐색으로 다양한 경로를 모색하여 최선의 해법을 찾는 방법을 고안했습니다. 이 접근은 성능을 높였으나 추론에 막대한 토큰 비용이 들었습니다 . 2024년 NeurIPS에서는 선호도 사슬 최적화(CPO) 기법이 제안되어, 트리 탐색을 통해 얻은 최적 경로를 모델이 학습하도록 미세튜닝함으로써, 추론 성능 향상과 추론 비용 절감을 동시에 달성했습니다 . 결과적으로 CPO로 훈련한 모델은 추가 검색 없이도 기존 다중 탐색과 맞먹는 성능 향상을 보였습니다 . 또한 Algorithm-of-Thoughts 기법도 등장하여, 알고리즘적 예시들을 프롬프트에 온전히 포함시키는 방식으로 한 번의 시도만으로도 모델이 폭넓은 아이디어 탐색을 하게끔 유도했습니다  . 이는 복잡한 검색 없이도 모델 내재의 반복적 사고 능력을 활용하여 성능을 높이는 전략으로, 일부 경우 알고리즘 자체보다도 높은 효율을 보이는 흥미로운 결과를 내기도 했습니다 .
`✅ 인터리브드(interleaved) 추론 및 부분 답변: Apple 연구팀은 문제 풀이 중간에 부분적인 해답을 내놓으며 추론을 지속하는 인터리브드 추론 방법을 2025년에 발표했습니다. 이는 한 번에 긴 사슬을 모두 생각한 뒤 답을 내는 전통적 CoT와 달리, 생각과 답변을 교차하는 접근입니다. 강화학습을 통해 모델이 중간 단계별로 답을 검증받도록 보상을 주었더니, 중간 결과를 확인하며 올바른 경로로 유도되는 효과가 나타났습니다 . 그 결과, 이 방식은 첫 토큰 출력 지연(TTFT)을 80% 이상 감소시키고 최종 정확도를 최대 19.3%까지 개선하는 성과를 보였습니다 . 외부 도구 없이도 달성된 개선이어서, 긴 사고로 인한 비효율 문제를 모델 훈련 기법으로 해결한 사례로 주목받고 있습니다.
`✅ 외부 도구 및 프로그램 연계: 모델 자체의 계산 한계를 극복하기 위해, 모델에게 계산을 맡기지 않고 도구를 사용하게 하는 연구도 활발합니다. Meta의 Toolformer(2023)는 LLM 스스로 API 호출 시점과 방법을 배우게 하여, 필요한 경우 계산기나 검색 엔진을 불러 쓰도록 했습니다 . 이러한 아이디어는 OpenAI의 코드 인터프리터 기능(2023) 등 실용 제품에도 적용되어, ChatGPT가 Python으로 수치를 계산하고 정확한 결과를 응답하게 만들었습니다. 실제로 LLM은 확률적으로 단어를 예측할 뿐 내부에 계산 기능이 없기 때문에 순수 언어 모델만으로는 복잡 산술에 약한데 , 파이썬 REPL이나 WolframAlpha 같은 외부 계산 도구를 결합하면 수학 문제 정답률이 크게 향상됩니다 . 이러한 툴 사용 능력은 모델의 한계를 보완하는 현실적인 해결책으로 떠올랐습니다.
2025년: 대형 추론 모델에 대한 냉정한 평가와 개선 동시 진행. Apple은 “The Illusion of Thinking” 연구 논문을 통해 최신 모델들이 여전히 문제 난도 증가 시 추론 성능이 붕괴한다는 사실을 밝혔고 , 추론 흔적을 심층 분석하여 일관성 부족과 계산 한계를 지적했습니다 . 한편으로 OpenAI는 ChatGPT에 O1-preview를 통합 배포하여 사용자들이 강화학습 기반 추론 모델을 시험해볼 수 있게 했고, Anthropic도 Claude 3.7 (Sonnet)을 출시해 하나의 모델로 경량 응답과 심층 추론을 모두 처리하는 새 경험을 제공했습니다 . Google은 I/O 2025에서 Gemini 업그레이드판에 “Deep Think” 모드를 도입, 추론 과정의 질을 한층 높이는 비법을 시연했습니다 . 또한 Apple은 Interleaved Reasoning 연구를 통해 추론 단계 출력과 응답을 교차하는 방법으로 응답 지연을 5분의1 수준으로 줄이고 정확도도 개선할 수 있음을 보여주었습니다 . 오픈소스 커뮤니티에서도, 앞서 언급한 DeepSeek R1이 공개되어 최첨단 폐쇄 모델들과 어깨를 나란히 하면서 AI 연구의 개방성을 높였습니다. 2025년 현재, 대형 모델의 사고 능력을 인간에 가깝게 만들기 위한 경쟁이 가속화되고 있으며, 추론 효율성과 정확도라는 두 마리 토끼를 잡기 위한 다양한 기법들이 실험되고 있습니다
후기. 개인적으로 Cursor, Aider 등 Agent 를 이용해 자동 모드로 두고 코딩을 계속 실행하게 할 때 한번 잘 못된 길로 빠져들거나 환경 설정에 의해 잘못된 작업을 수행하면 극복하지 못하면서 계속 실행하던 현상이 있었습니다. 그러나 Cursor 만 하더라도 이러한 현상이 적어들고 있었습니다. 사용 모델은 o1 , claude sonnet 3.5 등이었습니다. 이것이 위 사례와 같은것은 아니지만 CoT, Agentic 을 통해서 극복 되고 있는 것으로 보입니다.