수학7대난제

수학 난제의 공모 역사는 1900년 8월 8일 파리로 거슬러 올라간다.

제2 차 국제수학자회의 초청 강연에서 당시 수학계를 이끌던 독일 수학자 힐베르트는 20세기 수학 발전을 위해 해결해야할 미해결 문제 23개를 나열했다. ‘힐베르트 문제’로 불리는 이 문제들은 그가 생각한 것보다 쉬운 문제도 있었지만, 대부분 매우 어렵고 중요한 문제로 인정받았다.

그동안 수많은 수학자가 힐베르트 문제에 도전해 대부분을 푸는데 성공했다. 이 사건은 20세기 수학 발전에 지대한 영향을 준 것으로 평가받는다. 클레이수학연구소는 이런 기대를 가지고 7대 난제를 미국이 아닌 파리에서 발표했다.

얼마나 어렵고 중요한 문제이기에 무려 100만 달러나 주는 것일까?
우선 어떤 문제인지 이름만 나열해 보자. 7대 난제는 리만 가설, P대 NP 문제, 푸앙카레 추측, 호지 추측, 내비어-스톡스 방정식, 양-밀스 이론과 질량 간극 가설, 버츠와 스위너톤-다이어 추측이다.

전 문가에 따르면 7대 난제를 일반인이 이해하기는 매우 어렵고, 수학에 대한 호기심과 도전 정신이 높은 아마추어 수학자조차 도전하기 쉽지 않다고 한다. 이에 필자는 힐베르트의 8번째 문제였지만 약 150년 동안 풀리지 않아 다시 7대 난제에 포함된 리만 가설을 중심으로 간략하게나마 소개하고자 한다.

리만 가설은 1859년 독일 수학자 리만(G. Riemann)에 의해 처음 제기돼 아직까지 풀리지 않은 난제다. 리만 가설은 어떤 <U>복소수</U>로 만들어진 함수가 0이 되는 값들의 분포에 대한 가설이다. 리만 가설에 쓰이는 리만의 제타함수는 다음과 같이 정의된다.
ζ(s) = 1 + 2-s + 3-s + 4-s + ... (s는 복소수)
이 함수값을 0으로 하는 해 중에서 <U>실수부</U>가 1 이상인 복소수는 없고, 실수부가 0 이하인 복소수에 대해서는 -2, -4, -6, ...처럼 음의 짝수인 경우만 해가 될 수 있다는 것이 밝혀졌다. 그런데 리만은 실수부가 0보다 크고 1보다 작은 복소수에 대해서는 해가 무한이 많다는 사실을 알게 됐다. 여기서 ‘실수부가 0보다 크고 1보다 작은 복소수의 해에서 실수부는 모두 1/2일지도 모른다’는 생각을 하게 됐는데 이것을 ‘리만 가설’이라고 부른다.

이 함수는 모든 소수에 대한 오일러 곱공식으로 나타낼 수 있다.

즉 리만 가설의 핵심에는 2, 3, 5, 7과 같이 1과 자기 자신으로만 나눠지는 소수에 어떤 패턴이 있다는 내용이 담겨있어 리만 가설이 풀리면 소수를 쉽게 찾아낼 수 있게 된다. 이것은 현재까지 널리 사용되는 소수를 이용한 ‘공개키 암호체계’가 무용지물이 될 수 있다는 얘기다.

소수를 이용한 공개키 암호체계는 예를 들어 설명하면 다음과 같다. ‘22,663은 어떤 소수의 곱인가’를 물으면, 즉 인수분해를 하라고 하면 시간이 많이 걸린다. 반면 ‘131x173을 계산하라’고 하면 앞에서보다 훨씬 빠르게 22,663이 나온다. 이처럼 곱하는 것은 쉬워도 역으로 인수분해가 어려운 특성을 고려해 만든 체계가 공개키 암호체계다.

현재는 소수의 자리수를 수십에서 1백자리 이상으로 늘려서 암호로 사용하고 있다. 이렇게 만들어진 수는 자리수만 수백자리가 되므로 어떤 수의 곱으로 이뤄졌는지 슈퍼컴퓨터로 계산하더라도 수천년에서 수억년 이상이 걸려 우리는 암호를 풀 수 없다고 말한다. 그런데 리만 가설이 풀리면 소수 패턴을 알아내 소수를 빠르게 구할 수 있게 되고, 이에 따라 암호로 사용된 소수를 쉽게 찾아져 공개키 암호체계가 무용지물이 되는 것이다.

혼자 연구했던 리만은 가설의 증거를 남기지 않고 죽을 때 모든 서류를 불태워버렸다. 영화 ‘뷰티풀 마인드’의 실제 주인공이며, 1994년 노벨경제학상 수상자인 존 내쉬가 리만 가설을 풀기위해 노력했으나 실패했다고 알려져 있다. 2004년 미국 퍼듀대의 루이스 드 브랑지 교수가 문제를 풀었다며 가설 증명을 발표했으나 아직 현상금이 주어지지는 않았다.

나머지 6가지 난제를 간단히 요약하면 다음과 같다.
 
◆ 버츠와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture) :
타원곡선을 유리수로 정의하는 방정식이 유한개의 유리수해를 가지는지 무한개를 가지는지를 알 수 있는 간단한 방법을 구하라.

이 문제에서 우리는 다시 리만 가설에서와 마찬가지로 일반적이 수학 영역으로 돌아오게 된다. 고대 그리스 시대 이래 수학자들은 다음과 같은 유형의 대수 방정식의 모든 정수해를 기술하는 문제를 놓고 씨름해왔다.
x² + y² = z²
이 특정한 방정식에 대해서는 유클리드가 완벽한 해답을 제시했다 - 즉 모든 해들을 산출하는 공식을 제시했다. 1944년 와일스는 2보다 큰 임의의 지수n에 대해서 방정식
x^n + y^n = z^n
이 0이 아닌 정수해를 가지지 않음을 증명했다.(이 결론이 페르마의 마지막 정리이다). 그러나 더 복잡한 방적식들에 대해서는 정수해가 있는지, 혹은 어떤 정수해가 있는지를 밝혀내기가 매우 어렵다. 버치와 스위너톤-다이어 추측은 그 난해한 방정식들 중 한 유형에 대해서 가능한 해들에 관한 정보를 제시한다.

이 문제는 리만 가설과 관련이 있으며, 이 문제가 해결된다면 소수에 대한 우리의 전반적인 이해에 도움이 될 것이다. 이 문제의 해결이 리만 가설 증명처럼 수학 이외의 영역에도 영향을 미칠지 여부는 불분명하다. 버치와 스위너톤-다이어 추측 증명은 수학자에게만 국한된 관심사로 판명될지도 모른다.

그러나 이 문제를 비롯한 많은 수학 문제가 "실용성이 없다"고 판정하는 것은 어리석은 일이다. 물론 "순수 수학"의 추상적 문제들을 연구하는 수학자드릉ㄴ 대개 어떤 실용적인 귀결에서 동기를 얻기보다는 지적 호기심에서 동기를 얻는다. 그러나 순수 수학에서의 발견이 중요한 실용적 귀결을 같는다는 사실은 역사 속에서 누차 입증되었다.

뿐만 아니라 한 문제를 풀기 위해서 수학자들이 개발한 기법들이 전혀 다른 문제들에 응용될 수 있다는 사실이 종종 입증되었다. 와일스가 페르마의 마지막 정리를 증명한 것이 전형적인 그런 사례이다. 이와 유사하게 버치와 스위너톤-다이어 추측의 증명 역시 다른 용도가 발견될 새로운 발상들을 포함할 것이 거의 확실하다.

어 느 토요일 저녁 당신이 규모가 큰 파티에 참석했다고 가정하자. 아는 사람이 혹시 있는지 두리 번 거리고 있을 때, 파티의 주인공이 와서 저쪽 구석에 당신이 아는 사람이 참석해 있다고 알려 준다면 그 쪽을 처다 보는 순간 그렇구나 하고 고개를 끄덕일 것이다. 그렇지 않다면 당신은 아는 사람을 찾기 위하여 참석자 얼굴을 일일이 처다 보며 파티장 안을 돌아 다녀야 할 것이다. 이것은 문제에 대한 해결을 찾는 일이 주어진 해결책이 맞는가를 확인하는 것보다 더 많은 시간이 걸린다는 일반적 현상을 말해주는 좋은 예가 될 것이다. 따른 예로서는, 어떤 사람이 13,717,421이라는 숫자가 두 숫자의 곱으로 표시될 수 있다고 말할 때 당신은 그 사람의 말을 믿기가 쉽지 않다. 그러나 만일 3607과 3803을 곱하면 된다고 말해 준다면 단순히 계산기로 두들겨보기만 해도 그 사람의 말이 맞는지 아닌지 알 수 있다.

어떤 지식이 주어질 때와 그렇지 않을 때에 의사결정에 어떤 영향을 미치는가 하는 문제는 논리와 컴퓨터 사이언스 분야에서 미해결 문제로 남아있다.

이 문제는 밀레니엄 문제들 중에서 유일하게 컴퓨터와 관련된 문제이다. 많은 사람들은 이를 의아하게 여길 것이다. "요새는 수학 연구를 대부분 컴퓨터로 하잖아?"라고 반문할 것이다. 정말 그렇까? 아니다. 실상은 그렇지 않다. 물론 맞는 말이기도 하다. 대부분의 수치 계산은 컴퓨터에 의해서 수행된다. 그러나 수치 계산은 수학의 작은 부분에 불과하며 핵심적인 부분이 아니다.
전 자 컴퓨터는 수학에서 나왔지만 - 컴퓨터를 위해서 위해서 필요한 수학의 마지막 단계는 최초의 컴퓨터가 제작되기 수년 전인 1930년대에 완성되었다 - 지금까지 컴퓨터 세계에서 발생한 중요한 - 세상에서 가장 중요하다고 인정할만한 - 수학적 문제는 단 두 개에 불과하다. 그 두 문제는 계산기계라기보다는 개념적 처리과정으로 이해된 컴퓨터와 관련된다. 물론 이런 이해가 실제 계산에 대해서 중요한 함축을 가질 가능성은 열려 있다. 두 문제 중 하나는 헬베르트의 1900년 문제 목록에 들어있다. 그 문제 - 특성한 방정식들은 컴퓨터로 풀 수 없음을 증명하라는 문제 - 는 1970년에 해결되었다.

다른 한 문제는 더 최근에 제기되었다. 그 문제는 컴퓨터가 얼마나 계산과제들을 효율적으로 해결할 수 있는지와 관련된다. 컴퓨터 과학자들은 계산과제들을 두 개의 주요 범위로 분류한다. P형 과제는 컴퓨터를 통해서 효율적으로 해결할 수 있다. E형 과제는 컴퓨터로 완수할려면 100만년 이상이 걸릴 수도 있다. 안타깝게도 공업이나 상업에서 발생하는 주요 계산과제들은 대부분 세번째 문제인 NP형에 속한다.NP형은 P형과 E형의 중간인 것처럼 보인다. 정말 그럴까? NP형 과제가 실은 변형된 P형 과제인 것은 아닐까? 대부분의 전문가들은 NP와 P가 다르다고 믿는다.(즉, NP형 계산과제는 P형 계산과제와 다르다고 믿는거죠). 그러나 30년에 걸친 노력에도 불구하고 NP가 P와 같은지 여부는 증명되지 않았다. 이 문제의 해결은 공업, 상업, 그리고 인터넷을 비롯한 전자통신에 커다란 영향을 끼칠 것이다.

◆ 내비어-스톡스 방정식(Navier-Stokes Equation) :
비행기 날개 위로 흐르는 공기 같은 기체 흐름과 배 옆으로 흐르는 물 같은 유체의 흐름을 기술하는 편미분 방정식의 해를 구하라.


; 내비어-스톡스 방정식들은 배의 몸통 주위를 흐르는 물이나 비행기 날개 우이로 흐르는 공기 같은 유체와 기체의 흐름을 기술한다. 그 방정식들은 수학자들이 말하는 이른바 편미분방정식이다. 과학이나 공학을 전공하는 대학생들은 의례적으로 편미분 방정식의 해법을 배운다. 내비어-스톡스 방정식들은 외관상 대학 미적분학 교과서에나오는 편미분방정식 연습 문제와 다르지 않아 보인다. 그러나 외관은 기만일 수 있다. 오늘날까지 그 누구도 내비어-스톡스 방정식의 해의 공식을 찾을 단서조차 발견하지 못했다 - 그런 공식의 존재 여부조차 밝혀지지 않았다.

이 실패에 아랑곳하지 않고 해양공학자들은 효율적인 배를 설계하고, 항공공학자들은 우수한 비행기를 설계한다. 내비어-스톡스 방정식을 푸는(2차방정식 해의 공식과 유사한) 일반 공식은 없지만, 컴퓨터를 이용하여 특정 형태의 방정식들에 대한 근사적인 해를 구하는 것은 가능하기 때문이다. 양-밀스 문제와 마찬가지로 내비어-스톡스 문제 역시 수학이 다른 분야를 따라잡을 것을 요구한다. 이 문제의 경우에는 공학자들이 이미 하고 있는 일을 수학이 따라잡아야 한다.

" 따라잡는다"는 표현이 그릇된 인상을 줄지도 모르겠다. 뒤쳐지기 싫어하는 수학자들의 자존심이 관건이라는 인상 말이다. 그런 인상을 가진다면, 과학적 지식이 발전해고는 방식을 오해한 것이다. 수학은 본성상 추상적이기 때문에, 현상을 수학적으로 이해한다는 것은 일반적으로 가장 깊고 확실하게 이해한다는 것이다. 또한 무엇인가를 더 깊게 이해하면, 그것을 더 잘 이용할 수 있다. 질량 간극 가설의 증명이 물리학에 획기적인 발전을 가져올 것과 마찬가지로, 내비어-스톡스 방정식 풀이는 해양 및 항공공학의 발전을 가져올 것이 분명하다.

◆ 양-밀스 이론과 질량 간극 가설(Yang-Mills and Mass Gap) :
양자물리학에서 나온 ‘원자 양-밀스 이론’과 ‘질량 간극가설’을 수학적으로 입증하라.

; 수학의 새로운 발전을 위한 계기는 상당 부분 과학 특히 물리학으로부터 주어진다. 예를 들면 수학자 뉴턴과 라이프니츠가 17세기에 미적분학을 발명한 동기는 물리학을 위해서였다. 미적분학은 연속 운동을 수학적으로 엄밀하게 기술하는 방법을 제공함으로써 과학에 혁명을 일으켰다. 뉴턴과 라이프니츠의 방법은 유효했다. 그러나 미적분학의 기반을 이루는 수학이 제대로 완성되기까지는 약 250년이 더 필요했다. 지난 반세기 정도에 걸쳐서 개발된 물리학 이론과 관련해서 유사한 상황이 벌어지고 있다. 이 일곱 번째 밀레니엄 문제는 수학자들에게 물리학을 따라잡을 것을 요구한다.

양-밀스 바정식들은 양자물리학에서 나왔다. 그 방정식들은 지금으로부터 거의 50년 전에 물리학자 양전닝과 로버트 밀스가 중력을 제외한 자연의 힘들을 기술하기 위해서 정식화했다. 그 방정식들은 훌륭한 성과를 거두었다. 방정식으로부터 도출된 예측들은 전 세계 실험실에서 관찰된 입자들을 설명한다. 그러나 실용적으로 효율적임에도 불구하고 양-밀스 이론은 아직 수학적으로 완성되지 않았다. 일곱 번째 밀레니엄 문제가 요구하는 것 중 하나는 , 그 이론을 공리로부터 출발해서 수하적으로 전개하라는 것이다. 요구되는 수학적 이론은 실험실에서 관찰된 여러 조건에 부합해야 할 것이다. 특히 그 이론은 양-밀스 방적식들의 해라고 상정된 것들과 관련된 "질량 간극 가설"을 (수학적으로)입증해야 한다. 대부분의 물리학자들은 이 가설을 받아들여 전자가 질량을 가지는 이유를 설명한다. 질량 간극 가설을 증명할 수 있는지 여부는 양-밀스 이론을 올바르게 수학적으로 전개했는지 여부를 판가름할 수 있는 좋은 시험기준이라고 여겨진다. 그들 역시 전자가 왜 질량을 가지는지 엄밀하게 설명하지 못하고 있다. 다만 그렇가는 것을 관찰했을 뿐이다.

여기까지입니다.

리만가설

프앵칼의 추측

P데MP 문제

편미분방정식

나머지는 모르구요