[지디넷코리아]
오픈AI가 최신 인공지능(AI) 모델 GPT-5.6 솔 울트라(Sol Ultra)가 그래프 이론 분야의 50년 난제를 1시간 만에 증명했다고 주장하며 수학계의 관심이 쏠리고 있다.
12일 에단 나이트 오픈AI 연구원은 소셜 플랫폼 엑스(X)를 통해 GPT-5.6 솔 울트라가 그래프 이론 분야의 대표적 미해결 문제인 ‘사이클 더블 커버 추측(Cycle Double Cover Conjecture)’을 증명한 논문과 프롬프트를 공개했다고 밝혔다.
사이클 더블 커버 추측은 1973년 조지 세케레스(George Szekeres)와 1979년 폴 세이모어(Paul Seymour)가 각각 제기한 그래프 이론의 대표적 난제다. 이 추측은 “모든 브리지 없는(bridgeless) 그래프에 대해 모든 간선이 정확히 두 번씩 포함되는 사이클들의 집합이 존재하는가”를 묻는다.
그래프 이론에서 그래프는 점과 선으로 이뤄진 네트워크를 의미한다. 도로망, 통신망, 전력망 등을 수학적으로 단순화해 표현한 구조라고 볼 수 있다. 사이클 더블 커버 추측은 네트워크가 충분히 연결돼 있을 때 모든 연결선을 두 개의 순환 경로가 중복해 지나가도록 구성할 수 있는지를 묻는 문제다. 그래프 이론은 통신망·교통망·전력망 등의 구조를 분석하는 데 활용되는 수학적 기반으로 알려져 있다.
에단 나이트 연구원은 “GPT-5.6 솔 울트라를 일반 공개한 지 하루 만에 이 모델이 64개의 서브에이전트를 활용해 1시간이 채 안 되는 시간 안에 50년 된 사이클 더블 커버 추측의 증명을 만들어냈다”고 밝혔다.
공개된 프롬프트에 따르면 오픈AI는 모델에 최대 64개의 동시 서브에이전트를 할당했다. 각 에이전트는 서로 다른 수학적 표현과 대수적 접근, 구조적 귀납법 등을 독립적으로 탐색했고, 별도의 적대적(adversarial) 에이전트는 반례 가능성과 논리적 오류를 집중적으로 검토하도록 설계됐다.
또 인터넷 검색 사용을 금지하고 부분적인 결과나 특수한 경우에 대한 증명은 인정하지 않았으며, 일반적인 수학적 오류를 탐지하기 위한 검증 절차도 수행하도록 했다. 시스템에는 최대 8시간의 계산 시간이 할당됐지만 실제로는 약 1시간 만에 결과를 도출한 것으로 알려졌다.
오픈AI가 공개한 논문에 따르면 증명은 먼저 문제를 3차 정규 그래프(cubic graph)로 환원한 뒤 8-플로우 정리(8-flow theorem)를 활용해 그래프의 간선에 GF(3) 기반 레이블을 부여하는 방식으로 진행된다. 이후 각 간선이 정확히 두 개의 사이클에 포함되도록 만드는 구조를 선형대수 기법으로 구성했다.
논문은 총 3페이지 분량으로 비교적 짧다. 핵심 증명은 정리와 두 개의 보조정리(Lemma)를 중심으로 전개되며, 마지막에는 1970~1980년대 주요 그래프 이론 연구들을 참고문헌으로 제시했다.
다만 수학계는 아직 신중한 입장이다. 이번 결과는 학술지 게재나 동료 심사(peer review)를 거치지 않았으며, 오픈AI가 자체 콘텐츠 전송망(CDN)에 PDF를 공개한 것과 수학계가 정식 증명으로 인정하는 것은 전혀 다른 문제라는 지적이 나온다.
실제로 사이클 더블 커버 추측은 과거에도 여러 차례 증명이 주장됐지만 이후 오류가 발견되거나 철회된 사례가 적지 않았다. 이 때문에 그래프 이론 연구자들은 각 단계의 논리적 타당성을 면밀히 검토하고 있다.
또한 이번 증명은 수학 정리 검증 도구인 린(Lean)이나 코크(Coq) 같은 형식 검증 시스템으로 검증되지 않았다. 연구 수준 그래프 이론 정리를 자동 검증할 수 있는 라이브러리가 아직 충분히 구축되지 않았다는 점도 한계로 지적된다.
수학계에서는 향후 수일에서 수주에 걸쳐 증명의 각 단계를 검토한 뒤 결과의 타당성을 판단할 전망이다.
그럼에도 일부 수학자들의 긍정적인 평가가 나오고 있다. 영국 맨체스터대 수학자 토마스 블룸은 해당 증명을 검토한 뒤 “매우 훌륭한 증명(a very nice proof)”이라며 “놀라울 정도로 간결하고 어쩌면 오래전에도 가능했을 법한 해법”이라고 평가했다.
이어 “특히 AI가 실패한 접근법을 쉽게 포기하지 않고 수많은 변형을 반복적으로 탐색한 점이 강점”이라며 “인간 연구자라면 초기에 실패한 아이디어를 버릴 수 있지만 AI는 이를 지속적으로 검토하며 해답을 찾았을 가능성이 있다”고 설명했다.
반면 참고문헌 인용이 부족한 점은 비판했다. 그는 증명과 밀접한 관련이 있는 1983년 바몬드, 잭슨, 예거의 연구가 언급되지 않은 점을 지적하며 AI가 생성한 수학 논문에서 자주 나타나는 문제라고 평가했다.