사고의 환상에 관한 환상 - The Illusion of the Illusion of Thinking

이번 에피소드에서는 최근 AI 연구계를 뜨겁게 달구고 있는 '사고의 환상(The Illusion of Thinking)'이라는 애플의 논문과 이에 대한 반박 논문인 '사고의 환상의 환상(The Illusion of the Illusion of Thinking)'을 심층 분석합니다. 애플의 초기 논문은 대규모 추론 모델(LRM)이 특정 복잡도 임계값을 넘어서면 추론 능력이 급격히 저하된다는 '정확도 붕괴' 현상을 보고하며, AI의 근본적인 추론 한계를 주장했습니다. 이 주장은 AI 연구의 중요한 함의를 가지고 있습니다.

하지만 반박 논문은 애플의 발견이 모델 자체의 근본적인 추론 실패보다는 실험 설계의 한계에서 비롯된 것이라고 지적합니다. 주요 문제점으로는 모델의 출력 토큰 제한 초과, 자동화된 평가 프레임워크의 잘못된 분류, 그리고 심지어 수학적으로 불가능한 퍼즐 인스턴스를 포함하여 모델이 실패로 처리된 경우가 있었다는 점이 제시됩니다. 모델들은 실제로 출력 제약을 인식하고 있거나, 풀 수 없는 문제에 대해 '실패' 점수를 받았다는 것이죠.

특히 타워 오브 하노이 실험에서는 모델이 출력 길이 제약 때문에 전체 해답을 제시하지 않았을 뿐, 문제 해결 알고리즘을 이해하고 있음을 보여주었습니다. 실제로 모델에게 완전한 이동 목록 대신 생성 함수를 요청했을 때 높은 정확도를 보였습니다. 또한, 리버 크로싱 퍼즐에서는 N=6 이상인 경우 수학적으로 풀 수 없는 문제인데도, 모델이 이를 풀지 못하면 '실패'로 간주되는 평가 방식의 맹점이 드러났습니다. 이는 퍼즐의 난이도가 아닌 출력 형식 제약이나 문제 자체의 비현실성 때문에 모델이 실패로 오분류될 수 있음을 시사합니다.

이러한 논쟁은 AI 모델의 '추론' 능력을 어떻게 정의하고 평가해야 하는지에 대한 중요한 질문을 던집니다. 단순히 해답의 길이나 기계적인 실행만으로 문제의 복잡성을 판단하는 것은 적절하지 않으며, 모델의 진정한 알고리즘 이해와 실행 능력을 구분하는 정교한 평가 설계가 필요하다는 점을 강조합니다. AI가 진정으로 추론하는지 아니면 단순히 패턴을 모방하는지에 대한 깊은 통찰을 얻기 위해서는, 우리의 평가 방식 또한 진화해야 할 것입니다.

더 자세한 내용과 흥미로운 논쟁은 지금 바로 에피소드에서 확인하세요!

참고 문헌:

• Opus, C., & Lawsen, A. (2025, June 10). The Illusion of the Illusion of Thinking A Comment on Shojaee et al. (2025). https://arxiv.org/abs/2506.09250
• Goedecke, S. (2025, June 8). The illusion of "The Illusion of Thinking". https://www.seangoedecke.com/p/the-illusion-of-the-illusion-of-thinking
• Hacker News. The Illusion of “The Illusion of Thinking” (seangoedecke.com). https://news.ycombinator.com/item?id=40625345
• hi_im_bored13 (2025). [Paper by Apple] The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity : r/apple. https://www.reddit.com/r/apple/comments/1l6ibwg/when_yo/
• 권석준. 애플 AI: 비판적 시선과 미래 전망. 링크 없음 (출처: 페이스북 권석준)