NHK에서 제작한 리만 가설과 관련한 흥미로운 다큐멘터리를 보고 그 내용을 간단하게 정리해 보았습니다...
수학이 이렇게 흥미진진할 수도 있네요...
과연 우리는 인류 지성의 최대 도전 과제라고 불리우는 창조주의 암호를 풀 수 있을까요?


소수는 1과 자기 자신만을 약수로 가지는 수를 말합니다. 예를 들어 2는 소수인데 2 = 1 x 2 로만 나타낼 수 있고, 3 역시 소수이며 3 = 1 x 3 으로만 나타낼 수 있습니다. 5, 7, 11, 13, 17, 19 등이 모두 소수이지요. 소수의 갯수는 무한히 많다는 것 역시 증명이 되어 있습니다.



그리고 소수가 아닌 양의 정수는 모두 소수의 곱으로 나타낼 수 있는데요 예를 들어서 255 라는 수는 소수가 아닌데 3과 5 그리고 17의 곱으로 나타낼 수 있으며 이 세 수는 모두 소수입니다.

255 = 3 x 5 x 17

그렇기 때문에 소수를 수의 원자라고 부르는 사람도 있지요.

그런데 이 소수가 출현하는 패턴에는 아무런 규칙성도 없는 것처럼 보였습니다. 바로 이어서 나타나기도 하고 (2, 3), 하나 건너서 나타나기도 하며 (5, 7……11, 13), 네 번째 마다 나오기도 하다가는 한참을 안 나오기도 하고 (42개의 수가 지나갈 때 까지 안나오기도 함) 또 그러다가 다시 하나 건너 나타나는 등 한 마디로 전혀 종잡을 수가 없었습니다. 이러한 소수의 배열의 비밀은 많은 수학자들의 관심의 대상이었지요.

소수 배열의 미스터리를 풀고자 노력했던 수학자 가운데 한 사람이 바로 오일러였습니다. 그는 소수의 규칙성을 발견해 내고자 평생을 노력했지만 결국 그 비밀을 풀지는 못했습니다. 하지만 그는 소수가 가지고 있는 중요한 특징을 알 수 있는 하나의 발견을 하게 됩니다. 오일러는 아래와 같은 하나의 식을 만들어 내는데요 보시다시피 소수 2 에서부터 하나씩 소수를 이용해서 분자에는 소수의 제곱이 오고 분모에는 그 소수의 제곱에 1을 뺀 것이 오도록 한 후 이 분수들을 계속해서 곱하는 형태의 식이었습니다.





소수의 배열이 불규칙적이기 때문에 소수로만 이루어진 이 식의 해답에 무언가 의미가 있는 결과가 나올 거라고 예상한 사람은 별로 없었지만 놀랍게도 이 식의 답은 파이의 제곱을 6으로 나눈 것이었습니다. 규칙성이 전혀 없는 소수로 이루어진 식의 결과가 우주에서 가장 완벽한 궁극의 형태라는 원의 원주율과 관련된 의외의 결과물을 토해 낸 것이었습니다. 불규칙적인 것으로만 보이는 소수가 우주의 법칙과 관련이 있을 수있다는 것을 보여주는 것인지도 모르는 첫 번째 결과물이었습니다.

그리고 드디어 19세기 중반 문제적 인물인 천재 수학자 베른하르트 리만이 등장합니다. 그리고 이 문제적 인물이 인류 역사상 최대의 수학 난제라는 리만 가설을 만들어내는 것입니다. 소수의 의미를 좀더 수학적으로 풀어보고자 노력했던 리만은 제타 함수라는 비밀 병기를 꺼내 듭니다.


베른하르트 리만



제타 함수 수식



제타 함수



눈치채셨는지 모르겠지만 제타 함수는 위의 오일러의 수식에서의 제곱을 모두 x 제곱으로 바꿔놓은 함수입니다. 어쨌든 제타 함수 역시 모두 소수로만 이루어진 식이라는 것이지요. 리만은 제타 함수를 입체적인 그래프로 그려보기로 합니다. 그리고 그래프의 높이가 제로가 되는 소위 제로 점들의 위치를 알아보려 했습니다. 애초에 소수가 불규칙한 분포를 보였으므로 소수로만 이루어진 이 제타 함수의 제로 점들도 불규칙하게 분포할 것으로 생각이 되었습니다. 리만은 자신이 직접 계산을 하여서 네 개의 제로 점의 위치를 알아냅니다. 그런데 놀랍게도 그 네 개의 제로 점이 모두 정확하게 일직선상에 위치하고 있었던 것이었습니다.



제타 함수의 제로 점을 그래픽으로 나타낸 이미지



제로 점들은 모두 일직선상에 있다???


“무질서한 소수로 이루어진 제타 함수의 제로 점들은 정확이 일직선상에 존재한다.” 이것이 이후 많은 천재 수학자들을 절망의 구렁텅이로 밀어 넣은 무시무시한 리만 가설의 시작이었습니다. 리만은 직감적으로 나머지 제로 점들도 모두 일직선상에 존재하지 않을까 하는 생각을 하게 되었고 이것을 수학적으로 표현한 것이 바로 “제타 함수의 비 자명한 제로 점들은 모두 일직선상에 있다”라고 하는 리만 가설인 것이었습니다. 즉 리만 가설은 “소수의 배열에 규칙성이 있는가?”라고 하는 물음을 “제타 함수의 비 자명한 제로 점들은 모두 일직선상에 있는가?”하는 수학의 문제로 바꾼 것이었습니다.



이것을 증명해야 할텐데...


이 리만 가설을 증명하기 위해 많은 천재적인 수학자들이 도전장을 던졌습니다. 20세기 초 영국 캠브리지 대학의 고드프리 하디와 존 리틀우드가 리만 가설의 증명에 나섰습니다. 특히 하디 같은 경우는 ‘뉴턴의 재림’이라고 불렸을 정도로 천재 수학자였습니다. 자신들보다 더 뛰어난 수학자는 없다는 자부심으로 가득 차 있었던 이 패기만만한 수학자들은 그러나 리만 가설을 증명해 내는데 실패하고 말았습니다.


1914년 하디는 그의 논문에서 리만이 언급한 그 직선에 “무수히 많은 제로 점들이 있다”는 것을 증명해 냅니다. 하지만 이것이 곧 리만 가설의 증명은 아니었습니다. 하디는 직선 상에 무수히 많은 제로 점들이 있다는 것은 밝혀냈지만 그 직선 이외의 다른 곳에도 제로 점들이 존재할 가능성을 완전히 없애지는 못했기 때문이었습니다.

본인들이 리만 가설을 증명하는 데 실패하게 되자 이들은 리만 가설 자체가 잘못된 가설이라는 식으로 리만 가설을 공격하기에 이릅니다. 결국 하디와 리틀우드는 리만 가설에 패하고 만 것이었습니다.

그 다음으로 리만 가설에 도전했던 유명한 수학자는 바로 존 내쉬였습니다 (영화 뷰티플 마인드의 주인공이기도 하지요). 게임 이론으로 노벨 경제학상을 수상하기도 했던 이 천재 수학자 역시 리만가설에 도전장을 내민 것이었습니다. 사람들은 리만 가설이 풀린다면 다름 아닌 바로 존 내쉬가 그 주인공이 될 것이라고 여겼습니다. 하지만 세기의 천재 수학자라고 불리던 존 내쉬 역시 이 도전 만큼은 성공하지 못했습니다. 그는 단지 가설 증명에 실패한 것뿐만 아니라 과도한 정신적 부하로 인해서 이후 한 동안 정신 분열증에 시달려야만 했습니다.



젊었을 때의 존 내쉬


존 내쉬의 실패 이후 리만 가설은 한 때 “수학자들의 영혼을 갉아먹는 악마와도 같은 가설”이라는 오명을 뒤집어 쓴 채 외면을 받기도 했습니다. 그러던 와중에 전혀 뜻하지 않았던 분야에서 리만 가설과 관련한 획기적인 발견이 있게 됩니다.

소립자 등 미시 세계를 연구하던 저명한 물리학자 프리먼 다이슨 박사는 어느 날 머리를 식힐 겸 차를 마시는 휴게실에 들렀는데 우연히 수학자인 휴 몽고메리 박사와 담소를 나누게 됩니다. 마침 몽고메리 박사는 제타 함수의 제로 점들의 배열과 관련한 연구를 하고 있었습니다.

제타 함수와 관련한 재미있는 사실 가운데 하나는 소수들 자체는 배열이 불규칙한데 반해서 제타 함수의 일직선상에 배열되는 제로 점들은 상대적으로 매우 균등하게 배열이 된다는 점이었습니다.
그 제로 점들의 배열은 수식으로 설명할 수 있을 만큼 규칙적이었습니다. 몽고메리 박사는 다이슨 박사에게 자신의 연구에 대한 얘기를 하면서 제타 함수의 제로 점들의 간격과 관련한 아래의 수식에 대한 얘기를 꺼냅니다.



휴 몽고메리 박사의 제타 함수 제로 점들의 분포에 관한 수식


그 수식을 본 다이슨 박사는 깜짝 놀라게 됩니다. 그 수식이 자신이 연구하고 있는 원자핵의 에너지 분포와 관련한 수식과 완전히 일치했기 때문이었습니다. 원자핵의 에너지는 일정하지 않고 어떤 영향에 따라서 비 선형적인 분포를 보이는데 그 원자핵 에너지의 분포를 나타내는 식과 제타 함수의 제로 점이 직선상에 배열되는 분포를 나타내는 식이 정확하게 일치하는 것이었습니다. 전혀 별개의 학문으로 여겨지던 연구 분야들이 의외의 지점에서 접점을 만들어 낸 것이었습니다.



우라늄 등 원자핵 에너지 분포와 관련된 수식


두 수식의 비교


이 사건을 계기로 다시 리만 가설에 대한 연구에 새로운 활력이 불어넣어졌습니다. 수학자들은 이제 소수가 틀림없이 자연 현상과 어떠한 밀접한 관계를 맺고 있다고 보고 있으며 리만 가설을 풀기 위해서 미시 세계에 대한 이해를 할 필요가 있음을 인식하게 되었습니다.

리만 가설의 증명 문제를 해결해 줄 유력한 대안으로 떠오르고 있는 것이 비가환 기하학이라고 하는 학문입니다. 이 학문은 우주의 성립에서 작은 미시 세계까지 모두를 아우르는 궁극의 물리법칙을 손에 넣기 위한 기초가 될 것으로 여겨지고 있습니다. 만약 리만 가설이 증명이 된다면 우리는 대우주가 따르는 자연 법칙을 이해하게 되고 창조주가 심어놓은 암호를 마침내 풀게 될지도 모를 일입니다.