{"slug":"bNPYpE","url":"https://popup2026.com/bNPYpE","kind":"html","title":"수학은 산(山)을 만드는 일이다","description":"기고 · AI와 수학 수학은 산 (山) 을 만드는 일이다 AI가 리만 가설을 증명하는 세 갈래 길, 그리고 인간에게 남겨진 봉우리 2025년 인공지능은 국제수학올림피아드(IMO)에서 금메달 수준의 성적을 냈고, 곧이어 수십 년 묵은 에르되시(Erdős) 난제 하나를 반증했다.…","createdVia":"web-html","createdAt":"2026-07-08T03:45:04.780944+00:00","lastEditedAt":null,"viewCount":0,"forkedFrom":null,"forkCount":0,"agentCreated":false,"text":"수학은 산(山)을 만드는 일이다 \n \n \n \n \n \n \n \n\n 기고 · AI와 수학\n\n 수학은 산 (山) 을 만드는 일이다\n\n AI가 리만 가설을 증명하는 세 갈래 길, 그리고 인간에게 남겨진 봉우리\n\n \n \n \n \n\n 2025년 인공지능은 국제수학올림피아드(IMO)에서 금메달 수준의 성적을 냈고, 곧이어 수십 년 묵은 에르되시(Erdős) 난제 하나를 반증했다. 상식대로라면 “기계가 마침내 인간 수학자를 앞질렀다”는 헤드라인이 나올 법하다. 그런데 이 분야를 가장 가까이서 지켜보는 사람들은 정반대의 이야기를 한다. 수학 유튜브 채널 3Blue1Brown을 운영하는 그랜트 샌더슨은 최근 한 대담에서, IMO 금메달은 “또 하나의 벤치마크가 넘어간 것일 뿐 특별한 순간이 아니었다”고 잘라 말했다. 바둑에서 이세돌을 이긴 알파고처럼, 하나의 표지판을 지났을 뿐이라는 것이다.\n\n 흥미로운 지점은 여기서부터다. AI의 진보는 매끈한 파도가 아니라 뾰족뾰족한 스파이크(spiky frontier)의 형태를 띤다. 같은 IMO 안에서도 기하는 브루트포스 방식으로 순식간에 풀어 치우지만, 좀 더 ‘장난기 있는’ 조합론 문제 앞에서는 여전히 헤맨다. 수학이라는 지형 자체가 균질하지 않은 것이다. 그렇다면 우리가 진짜 물어야 할 질문은 “AI가 리만 가설을 풀 수 있는가”가 아니라, “어떤 방식으로 풀 것인가” 다. 샌더슨은 그 방식을 세 갈래로 나눈다. 나는 이 분류가 수학을 넘어 앞으로 몇 년간 우리 사회 전체가 겪을 변화의 축소판이라고 본다.\n\n 첫째, 번개(lightning bolt)다. 이미 존재하는 두 분야 사이에 예상치 못한 다리를 놓는 일이다. 1970년대, 리만 제타 함수의 영점 간 통계를 연구하던 정수론자 몽고메리가 적어 내려간 식을, 우연히 점심 자리에 있던 물리학자 프리먼 다이슨이 “그건 원자핵 에너지 준위를 다루는 무작위 행렬 이론의 식”이라고 알아본 그 순간이 전형이다. 서로 무관해 보이던 두 세계가 같은 수식으로 연결된다. LLM은 원리적으로 이런 연결에 강하다. 양자물리에도 해석적 정수론에도 ‘전문가’인 초인적 박식함을 지녔으니, 몽고메리와 다이슨이 하필 같은 식탁에 앉는 우연에 기대지 않고도 그 유사성을 짚어낼 수 있어야 한다. 이런 증명은 시작점과 끝점만 보여주면 되므로 인간이 읽어낼 수 있다(human-parsable).\n\n 둘째, 산(mountain)을 짓는 일이다. 페르마의 마지막 정리를 떠올려 보자. “n이 3 이상일 때 xⁿ+yⁿ=zⁿ의 정수해는 없다”는, 열두 살도 이해할 만큼 단순한 문장이다. 그러나 그 증명에는 수백 년에 걸쳐 쌓아 올린 타원곡선(elliptic curve)이라는 거대한 산맥과, 모듈러 형식(modular form)이라는 또 하나의 산맥이 필요했다. 두 산이 각각 세워진 뒤에야 비로소 둘을 잇는 올바른 질문을 던질 수 있었다. 여기서 ‘산을 짓는다’는 것은 단순한 연결이 아니다. 한 주제를 어떻게 사고해야 하는지를 결정(結晶)시키는, 완전히 새로운 이론 자체를 창조하는 일이다. 만약 리만 가설의 해법이 이런 ‘새로운 산 쌓기’라면, 그것은 지금 AI가 보여주는 지능의 성격과는 근본적으로 다르다. 그리고 만약 기계가 정말로 그 일을 해낸다면 — 한 분야를 바라보는 우리의 관점 자체를 재구성하는 산을 세운다면 — 그 지능이 수학 바깥으로 흘러넘치지 않을 리 없다.\n\n 셋째, 노가다(raw hustle)다. 새로운 이론 없이 순전히 더 오래, 더 무식하게 계산을 밀어붙이는 길이다. 페르마 정리도 어쩌면 수천 페이지에 걸친 초등적 증명이 가능할지 모른다. 다만 그 누구도 거기서 아무것도 얻지 못할 뿐이다. 리만 가설의 천 페이지짜리 증명이 나온들, 아무도 이해할 수 없다면 그것은 인간의 이해를 조금도 늘려주지 않는다.\n\n 이 세 갈래는 그저 수학의 이야기가 아니다. AI가 앞으로 만들어낼 성과가 우리에게 선물이 될지, 해독 불가능한 신탁(神託)이 될지 를 가르는 분기점이다. 번개는 곧바로 읽히고, 산은 오르는 데 오랜 소화(digestion)의 시간이 들며, 노가다는 끝내 소화되지 않는다.\n\n · · ·\n\n 진짜 어려운 문제는 ‘산 짓기’가 왜 그토록 어려운가에 있다. 나는 그 답이 검증 루프(verification loop)의 길이 에 있다고 본다. 오늘날 AI를 훈련시키는 강력한 방법은 ‘검증 가능한 보상을 통한 강화학습(RLVR)’이다. 정답인지 아닌지를 기계가 즉시 채점할 수 있어야 학습이 돈다. 문제를 풀었는가—채점—보상, 이 고리가 짧을수록 좋다.\n\n 그런데 진정으로 새로운 개념은 이 고리를 조롱한다. 갈루아(Galois)를 보라. 5차 방정식의 근을 근호로 쓸 수 없음을 증명하는 과정에서 그는 ‘군(群, group)’이라는 개념의 씨앗을 뿌렸다. 그 씨앗을 처음 심은 것은 라그랑주였고, 아벨과 갈루아가 밀어붙였으며, 스무 살에 결투로 죽은 갈루아의 어질러진 노트를 20년 뒤 리우빌이 알아보았고, 다시 세월이 흘러 조르당이 현대적 군론으로 정리했다. 그리고 이 개념이 ‘유용하다’는 최종 확인은, 20세기에 겔만이 군론적 물음으로 쿼크의 존재를 예언하고 나서야 도착했다.\n\n 하나의 정의가 옳았음을 검증하는 데 100년 이상이 걸린 것이다. \n\n 당대의 인간 심사자조차 갈루아의 원고를 “무슨 소린지 모르겠다”며 반려했다. 채점기의 신호는 ‘오답’이었다. 100년 뒤에야 도착하는 보상 신호로 어떻게 강화학습을 돌릴 것인가. 정보이론의 언어로 말하자면, 한 세기 늦게 도착하는 보상은 사실상 노이즈에 파묻힌 신호다. 우리가 기계에게 가르치기 가장 어려운 것은 바로 이것 — “여기 뭔가 있다”는 라그랑주의 예감, 리우빌의 직관, 갈루아의 확신이다. “훌륭한 수학자는 정리를 증명하고, 위대한 수학자는 추측을 세우며, 가장 위대한 수학자는 정의를 만든다”는 격언은 정확히 이 위계를 가리킨다. AI는 지금 정리 증명에서 추측 생성으로, 그리고 정의 창조를 향해 산비탈을 오르는 중이다. 그러나 정상은 채점기로 측정되지 않는다.\n\n · · ·\n\n 그렇다면 인간에게는 무엇이 남는가. 나는 두 가지라고 본다.\n\n 하나는 압축과 이해다. 증명(proof)과 설명(explanation)은 다르다. 어떤 명제는 증명되고도 오랫동안 이해되지 못한 채 남는다. ‘풀리지 않은 서술의 문제(unsolved expository problem)’라는 표현이 있을 정도다. 지능이 곧 압축이라면, 천 페이지를 한 줄로 줄이는 일 — 뉴턴의 만유인력 법칙처럼 복잡한 현상을 가장 작고 예측력 높은 표현으로 응축하는 일 — 은 여전히 값지다. 콜모고로프 복잡도가 ‘우아함’의 대용물이 될 수 있다는 발상이 여기서 나온다. 정보를 삼키기만 하는 것이 아니라, 무엇을 버릴지 아는 능력. 엔트로피를 다루어 본 사람이라면 이 감각이 낯설지 않을 것이다.\n\n 다른 하나는 큐레이션(curation)이다. 샌더슨은 미래의 수학자를 미술관 큐레이터에 비유한다. AI가 작품을 만들고 심지어 설명까지 잘한다 해도, 이 무한에 가까운 아이디어의 공간에서 “무엇을 볼 가치가 있는가”를 안내하는 역할은 남는다는 것이다. 그리고 그는 이렇게 덧붙인다 — 인간이 어떤 것에 흥미를 갖도록 동기를 부여받는 일은 근본적으로 사회적 현상 이라고. 우리는 관계 맺은 사람의 안목을 신뢰한다.\n\n 그래서 그가 꼽는 가장 안정적인 ‘탈AGI 시대의 직업’이 교육이라는 점은 의미심장하다. 설명 자체는 기계가 더 잘할지 모른다. 그러나 학생이 엉뚱한 방식으로 던진 질문 속에서 그 나름의 옳은 길을 발견해 되살려 주는 일, 무엇이 배울 가치가 있는지를 함께 결정해 주는 일은 지극히 관계적이다. 좋은 교사는 정보를 전달하는 사람이 아니라, 학생이 오를 산을 골라 주는 사람이다. 나는 오랫동안 물리를 가르쳐 왔고, 이 대목에서 위로가 아니라 책임을 느낀다.\n\n · · ·\n\n 결국 이 모든 이야기는 하나의 질문으로 수렴한다. AI가 인간의 지평 너머까지 가장 멀리 나아갈 분야가 수학이라면, 그 너머에서 무엇을 보았는지 우리에게 번역해 줄 사람에 대한 수요는 폭발할 것이다. 기계는 번개를 치고, 어쩌면 산도 세울 것이다. 그러나 어느 산에 오를 가치가 있는지, 어느 봉우리를 새로 지어야 하는지를 묻는 일 — 그 산 만들기의 방향을 정하는 일은, 적어도 당분간, 여전히 인간의 몫이다.\n\n 수학은 문제를 푸는 일이기 이전에, 오를 산을 짓는 일이었다. 기계가 우리 대신 계산을 밀어붙이는 시대일수록, 어떤 산이 아름답고 어떤 산이 인간을 데려갈 만한지를 아는 눈이 더 귀해진다. 그 눈을 기르는 일을, 우리는 여전히 교육이라 부른다.\n\n 이 글은 그랜트 샌더슨(3Blue1Brown)과 드워케시 파텔(Dwarkesh Patel)의 대담 「AI and the future of math」(2026)에서 제시된 논지를 필자의 관점으로 재구성한 것이다.","alternates":{"markdown":"https://popup2026.com/bNPYpE.md","json":"https://popup2026.com/bNPYpE.json","html":"https://popup2026.com/bNPYpE"}}