왜 100만 달러가 걸린 수학 7대 난제는 AI 시대에도 안 풀릴까
AI는 바둑도 단백질 접힘도 풀었는데, 1900년대부터 내려온 수학 난제 일곱은 그대로다. 이 일곱은 무작위가 아니라 정확히 100년 간격으로 골라낸 목록이며, AI가 멈추는 까닭은 이들이 계산이 아니라 증명을 요구하기 때문이다.
AI는 바둑 세계 챔피언을 이기고, 수십 년 묵은 단백질 접힘 문제도 풀었다. 그런데 1900년대부터 내려온 수학 난제들은 여전히 그대로다. 각각 100만 달러의 상금이 걸려 있는데도 그렇다. 세상에서 가장 똑똑하다는 도구가 왜 이 일곱 문제 앞에서는 멈춰 설까. 그 답을 알려면, 먼저 이 일곱이 어쩌다 한자리에 묶였는지를 봐야 한다.
어려우니까 못 풀지라고 답하면 너무 싱겁다. 더 흥미로운 사실이 있다. 이 일곱은 누가 무작위로 모은 게 아니라, 정확히 100년의 간격을 두고 의도적으로 골라낸 목록이다. 1900년 한 수학자가 20세기가 풀어야 할 문제를 발표했고, 꼭 100년 뒤인 2000년에 한 연구소가 그 정신을 이어받아 21세기의 문제 일곱 개를 새 천년의 기념으로 내걸었다. 그러니 이 난제들의 정체를 이해하는 일은, 수학사의 두 장면을 잇는 일과 같다.
그래서 이 일곱은 단순히 어려운 문제 모음이 아니다. 한 세기 전 한 사람이 그어둔 방향을, 100년 뒤 후배들이 이어받아 새로 묶은 수학사의 이정표다. AI가 멈춰 서는 까닭도 여기서 드러난다. 이 문제들은 빠른 계산이 아니라 새로운 증명, 곧 아직 아무도 떠올리지 못한 생각의 도약을 요구한다. 계산은 길을 빠르게 걷는 일이고, 증명은 없던 길을 내는 일이다.
위: 1900 → 2000 → 2003, 100년의 계승 타임라인. 아래: 일곱 난제의 분야와 현재 상태. 점과 카드를 눌러보세요.
1900년 파리, 다비트 힐베르트는 국제 수학자 대회에서 23개의 미해결 문제를 제시했다. 그는 이 목록이 다가올 세기의 수학 방향을 정하리라 믿었고, 실제로 20세기 수학자들은 이 문제들과 씨름하며 새 분야를 열었다.
꼭 100년 뒤인 2000년 5월 24일, 같은 파리의 콜레주 드 프랑스에서 클레이 수학연구소가 힐베르트 강연 100주년을 기려 밀레니엄 7대 난제를 발표했다. 자문 위원회가 세계 석학들과 상의해, 오래도록 풀리지 않은 가장 중요한 고전 문제들을 골랐다. 문제마다 100만 달러, 모두 합해 700만 달러의 상금이 걸렸고, 푸는 데 시간 제한은 없다.
흥미롭게도 두 목록은 한 점에서 만난다. 일곱 중 하나인 리만 가설(1859년 제기)은, 100년 전 힐베르트의 23문제 목록에도 들어 있던 바로 그 문제다. 한 세기가 지나도록 풀리지 않아, 두 목록에 모두 이름을 올린 것이다.
그렇다면 AI는 왜 못 풀까. 핵심은 이 문제들이 답을 계산하는 게 아니라 증명해야 하는 것이기 때문이다. 바둑은 경우의 수를 탐색하는 일이고 단백질 접힘은 방대한 패턴을 학습하는 일이지만, 수학 증명은 무한히 많은 경우에 대해 반드시 그렇다를 빈틈없이 논증하는 일이다. 경우를 아무리 많이 확인해도 증명이 되지 않는다. 게다가 이 일곱 중 하나인 P 대 NP 문제는, 역설적이게도 기계가 빠르게 풀 수 있는 문제의 한계가 어디까지인가를 묻는 문제다. 그 답이 나오기 전에는, AI의 한계 자체가 아직 미정인 셈이다.
이 난제들은 칠판 안에만 머물지 않는다. 리만 가설은 소수의 분포에 관한 것인데, 소수는 오늘날 인터넷 암호의 바탕이다. P 대 NP는 우리가 매일 쓰는 검색과 물류와 일정 최적화의 근본 한계를 묻고, 나비에-스토크스는 날씨 예측과 비행기 설계가 딛고 선 유체 방정식이다. 가장 추상적으로 보이는 문제들이, 실은 우리가 매일 기대고 사는 기술의 맨 아래층을 떠받치고 있다. 그래서 그중 하나가 풀리는 날은, 단지 한 수학자가 100만 달러를 받는 날이 아니라 세상의 어떤 바닥이 새로 깔리는 날이 될 것이다.