Knuth가 "Shock!"라고 외친 순간: Claude가 수십 년 된 수학 문제를 1시간에 풀다

87세의 Donald Knuth가 "Shock! Shock!" 라고 논문을 시작했습니다. 컴퓨터 과학의 성경이라 불리는 The Art of Computer Programming 의 저자, 튜링상 수상자, 알고리즘의 아버지. 그가 수십 년간 풀지 못한 그래프 이론 문제를 Anthropic의 Claude Opus 4.6 이 약 1시간, 31번의 탐색 만에 해결했습니다. Knuth는 이 논문에 "Claude's Cycles" 라는 이름을 붙였습니다. AI의 이름이 수학 논문의 제목에 올라간, 역사적 순간입니다.

30년 된 문제, 1시간의 해답

문제는 이것이었습니다. 3차원 방향 그래프(directed graph)에서 Hamiltonian 순환(Hamiltonian cycle) 을 구성하는 일반적 규칙을 찾는 것. Hamiltonian 순환이란 그래프의 모든 정점을 정확히 한 번씩 방문하고 시작점으로 돌아오는 경로입니다. 이 문제는 TAOCP의 다음 권에 실릴 예정이었습니다.

Knuth는 3×3×3 케이스는 수동으로 풀었고, 컴퓨터를 사용해 16×16×16 까지 검증했습니다. 하지만 모든 차원에 적용되는 일반적 구성 규칙 은 찾지 못했습니다. 이것이 수십 년간 열려 있던 문제였습니다.

그런데 Knuth의 동료인 Filip Stappers가 이 정확한 문제를 Claude Opus 4.6에 제시했습니다. Claude의 접근은 체계적이었습니다. 처음에는 brute-force 검색 을 시도했습니다. 막히면 "serpentine patterns" 이라는 자체 명명한 패턴을 발명했습니다. 또 막히면 전략을 전환했습니다. 31번의 시도 끝에, Claude는 모든 홀수 차원(m=3, 5, 7...) 에서 작동하는 일반 구성을 발견했습니다.

Claude의 핵심 통찰은 이것이었습니다. 이 문제의 기저 구조가 군론(group theory)의 Cayley digraph 라는 것을 독자적으로 인식 한 것입니다. 최종 구성은 고전적인 modular m-ary Gray code 에 대응되는 것으로 밝혀졌습니다. 수십 년간 인간이 찾지 못한 연결을, AI가 1시간 만에 발견한 것입니다.

"생성형 AI에 대한 의견을 수정해야 할 것 같다"

이 사건이 특별한 이유는 Knuth라는 인물 때문입니다.

Knuth는 AI 하이프에 쉽게 넘어가는 사람이 아닙니다. 그는 공개적으로 LLM에 회의적 입장을 표명해 왔습니다. 텍스트 생성에는 인상적이지만, 자신의 작업이 요구하는 엄격한 수학적 추론 에는 신뢰할 수 없다고 말했습니다.

그런 Knuth가 논문을 "Shock! Shock!" 로 시작하고, 마지막을 이렇게 마무리합니다.

어느 날 생성형 AI에 대한 의견을 수정해야 할 것 같습니다.

AI에 대해 가장 높은 기준을 가진 학자가, 자신의 전문 분야에서 AI에 의해 설득당한 것입니다. 그리고 이 논문에 AI의 이름을 붙였습니다. "Claude's Cycles." 이것은 경의의 표현입니다.

논문은 공개 수시간 만에 635,000 조회, 6,000 좋아요 를 기록하며 지난 10년간 가장 많이 논의된 AI-수학 사건이 되었습니다.

자율적 발견인가, 안내된 탐색인가

이 발견을 어떻게 해석할 것인가는 커뮤니티에서 가장 뜨거운 논쟁입니다.

"AI의 독자적 수학 발견" 이라고 보는 시각이 있습니다. Claude는 Cayley digraph 구조를 독자적으로 인식 했습니다. 이 연결은 Knuth도 만들지 못한 것이었습니다. 31번의 탐색 과정에서 전략을 자체적으로 변경하고, 새로운 패턴을 발명하는 등 창의적 추론 의 특징을 보였습니다.

"인간이 안내한 탐색에 불과하다" 는 반론도 강합니다. Stappers는 세션 전반에 걸쳐 연속적 안내 를 제공했습니다. 중간 결과를 문서화하도록 지시하고, 진행이 막힐 때 방향을 재지시하고, 일반화 목표에 집중하도록 유도했습니다. "31번의 탐색"은 단일 프롬프트가 아니라 상호작용적 과정 이었습니다.

그리고 결정적으로, 수학적 증명은 Knuth가 완성 했습니다. Claude가 발견한 구성(construction)을 검증하고, 이것이 왜 모든 홀수 차원에서 작동하는지를 엄격하게 증명한 것은 인간 수학자입니다. Claude는 "정답"을 찾았지만, 그 정답이 왜 맞는지를 증명 한 것은 아닙니다.

가장 균형 잡힌 시각은 이것입니다.

수학의 아름다움은, 정리가 어떻게 나왔든 정리라는 것입니다. LLM이 수학 발전에 도움이 되는 정리를 합성한다면, 그것은 좋은 것이고 인상적인 것입니다. 증명이 검증되면, 그 기원과 무관하게 새로운 지식입니다.

AI 수학의 새로운 패러다임

"Claude's Cycles"가 보여준 것은 단순한 "AI가 수학 문제를 풀었다"가 아닙니다. AI와 인간이 수학적 발견을 협력하는 새로운 모델 입니다.

1단계 — 인간이 문제를 제시합니다. 수십 년간 열려 있던 문제의 정확한 수학적 정의를 AI에게 전달합니다. 이 단계에서 인간의 전문성이 필수적입니다. 어떤 문제가 중요하고, 어떤 형태로 AI에게 제시해야 하는지를 판단하는 것은 여전히 인간의 역할입니다.

2단계 — AI가 구조를 탐색합니다. Claude는 1시간 동안 31가지 접근법을 시도하며, 인간 연구자가 수주 또는 수년간 시도할 탐색 공간을 빠르게 커버합니다. 핵심은 "속도"만이 아니라 "다른 시각" 입니다. Claude가 Cayley digraph 연결을 발견한 것은 인간과 다른 패턴 인식 방식 덕분일 수 있습니다.

3단계 — 인간이 검증하고 증명합니다. AI의 발견이 진짜인지, 왜 작동하는지를 엄격하게 증명하는 것은 인간 수학자의 영역입니다. 이 단계가 없으면 AI의 "발견"은 검증되지 않은 추측에 불과합니다.

이 3단계 모델은 Karpathy의 Autoresearch와 구조적으로 유사합니다. 인간이 프레임을 설정하고, AI가 탐색하고, 인간이 결과를 해석하고 검증합니다. "실험자"에서 "실험 설계자"로 의 전환이 코딩뿐 아니라 수학적 발견 에서도 일어나고 있습니다.

아직 풀리지 않은 절반

Claude가 해결한 것은 홀수 차원(m=3, 5, 7...) 의 일반적 구성입니다. 하지만 짝수 차원(m=4, 6, 8...) 은 인간도 AI도 아직 풀지 못했습니다. Knuth는 m=4와 m=6에 대한 개별 분해를 찾았지만, 일반적 패턴은 없습니다.

이 미해결 문제는 두 가지를 보여줍니다. 첫째, Claude의 능력이 무한하지 않다 는 것. 짝수 차원의 구조적 복잡성은 현재 AI의 패턴 인식 능력을 넘어섭니다. 둘째, 인간과 AI 모두에게 열린 도전 이 여전히 존재한다는 것. 수학의 프론티어는 AI 시대에도 사라지지 않았습니다.

커뮤니티의 갈린 평가

Hacker News에서 이 논문은 대규모 토론을 촉발했습니다.

긍정 진영 은 이 발견의 수학적 가치를 강조합니다. 증명이 검증된 이상, 그것이 어디서 나왔든 새로운 지식이라는 것입니다. AI가 수학 연구의 속도를 극적으로 높일 수 있는 가능성이 입증되었습니다.

비판 진영 은 발견의 맥락을 강조합니다. "31번의 탐색"은 인간 안내 없이는 불가능했습니다. Claude가 자율적으로 문제를 인식하고 해결한 것이 아니라, 인간이 문제를 정확히 제시하고 방향을 잡아준 결과입니다. 또한 Claude는 구성을 발견했지만 증명을 작성하지는 못했습니다. 수학의 핵심인 "왜"에 대한 답은 여전히 인간의 것입니다.

Knuth 자신의 입장 은 미묘합니다. "생성형 AI에 대한 의견을 수정해야 할 것 같다"고 말했지만, "수정하겠다"가 아니라 "수정해야 할 것 같다"입니다. 수학자다운 신중함입니다.

이것이 개발자에게 의미하는 바

"Claude's Cycles"는 수학 분야의 이야기이지만, 개발자에게도 중요한 시사점을 줍니다.

AI의 "다른 시각"이 가치 있다. Claude가 Knuth가 수십 년간 보지 못한 연결을 발견한 것은, AI가 인간과 다른 방식으로 패턴을 인식 하기 때문입니다. 코드 리팩토링, 아키텍처 설계, 성능 최적화에서도 AI에게 "같은 문제를 다른 시각에서 봐달라"고 요청하는 것이 가치 있을 수 있습니다.

"안내된 탐색"이 열쇠다. Claude가 혼자서 문제를 풀지 않았습니다. Stappers의 안내가 있었습니다. 이것은 AI 코딩 도구를 사용할 때도 마찬가지입니다. 좋은 프롬프트, 중간 결과의 검증, 방향 재지시 — 인간의 안내 품질이 AI의 결과 품질을 결정 합니다.

검증은 인간의 책임이다. Claude가 올바른 구성을 찾았지만, 그것이 맞는지 확인한 것은 Knuth입니다. AI가 생성한 코드를 리뷰 없이 배포하는 것은, AI가 발견한 수학적 구성을 증명 없이 게시하는 것과 같습니다.

"Shock! Shock!"의 의미

Donald Knuth는 67년 동안 알고리즘을 연구해 왔습니다. 20권 분량의 TAOCP를 쓰고 있으며, TeX와 METAFONT를 만들었고, 컴파일러 이론과 분석적 조합론의 기초를 세웠습니다. 그런 사람이 AI에 놀랐다 고 고백하고, AI의 이름을 자기 논문 제목에 올렸습니다.

이것은 단순한 "AI가 수학 문제를 풀었다" 뉴스가 아닙니다. 컴퓨터 과학의 가장 엄격한 기준을 가진 학자가, AI가 수학적 발견에 기여할 수 있다는 것을 인정한 순간 입니다. 회의론자를 설득한 것은 마케팅이 아니라 결과였습니다.

물론 짝수 차원은 아직 풀리지 않았고, Claude는 인간 없이 이 발견을 하지 못했으며, 증명은 여전히 인간이 작성했습니다. 하지만 "Shock! Shock!" — 이 두 단어에 담긴 무게는 벤치마크 점수 어떤 것보다 무겁습니다.