2, 3, 5, 7, 11, 13… 규칙이라곤 전혀 없이 무작위로 흩뿌려진 것처럼 나타나는 소수들의 바다를 바라보세요. 수천 년 동안 수학자들은 이 불규칙성에 좌절했습니다.
1859년 베른하르트 리만은 복소수 제타 함수를 도입하여 소수들의 파동을 한곳에 모았습니다. 제타 함수의 모든 신비로운 영점들이 왜 실수부 1/2이라는 가느다란 외줄 위에 일렬로 늘어서 있을까요?

소수는 불규칙해 보입니다. 2, 3, 5, 7, 11, 13… 다음에 어디서 나올지 알 수 없습니다.
그런데 멀리서 보면 규칙이 있습니다. x 이하의 소수 개수는 대략 입니다. 이것을 소수 정리라 합니다.
물음은 “그 어림이 얼마나 정확한가” 입니다.
1859년 베른하르트 리만이 여덟 쪽짜리 논문에서 이 물음을 완전히 새로운 곳으로 옮겼습니다. 앞에서 본 바젤 문제의 그 함수 — 제타 함수 — 를 복소수까지 넓힌 것입니다.
그리고 소수의 분포가 이 함수가 0이 되는 자리에 달려 있음을 보였습니다.
그가 남긴 한 줄이 리만 가설입니다. “0이 되는 자리는 모두 한 직선 위에 있다.”
백육십 년이 넘도록 아무도 증명하지 못했습니다. 컴퓨터로 수십조 개를 확인했고 모두 그 직선 위에 있었습니다. 그러나 확인은 증명이 아닙니다.
클레이 수학연구소가 백만 달러를 걸었습니다. 수학에서 가장 유명한 미해결 문제입니다.
이 가설이 중요한 까닭은 소수가 얼마나 고르게 흩어져 있는지를 정하기 때문입니다. 영점이 모두 그 선 위에 있다면 소수의 분포가 예상에서 크게 벗어나지 않고, 하나라도 벗어나 있다면 소수는 우리가 아는 것보다 훨씬 제멋대로입니다.
지금까지 수십조 개의 영점을 컴퓨터로 확인했고 모두 그 선 위에 있었습니다. 그래도 증명은 아닙니다. 수학에서는 조 단위로 맞아도 다음 하나가 어긋날 수 있기 때문입니다.
상금 백만 달러가 걸려 있고, 이미 이 가설이 참이라고 가정하고 쓴 논문이 수천 편입니다. 무너지면 그 수천 편이 함께 무너집니다.
수백 편의 논문이 「리만 가설이 참이라면」으로 시작합니다. 참으로 밝혀지는 날 그것들이 한꺼번에 정리가 됩니다.
소수의 분포는 곧 암호의 안전과 닿아 있고, 0의 간격이 어떤 물리계의 에너지 준위와 닮았다는 것도 알려져 있습니다. 백만 달러가 걸려 있습니다.
100까지 소수에 동그라미를 친다
1부터 100까지 소수를 찾아 동그라미를 쳐 봅니다. 어디서 나타날지 종잡을 수 없을 만큼 제멋대로 흩어져 있습니다.
하지만 악기들이 저마다 다른 소리를 내어 하모니를 이루듯, 소수들도 거대한 음악처럼 정교한 파동의 합으로 이루어져 있다는 비밀을 리만이 발견했습니다.
오일러 곱과 제타 함수의 영점
오일러는 모든 자연수의 거듭제곱 덧셈이 모든 소수의 곱셈과 완벽하게 같다는 오일러 곱 공식 을 발견했습니다.
리만은 이 식의 를 복소수로 확장했습니다. 제타 함수가 0이 되는 지점(영점)들의 위치를 정확히 알면 어떤 숫자 아래에 소수가 몇 개 있는지 오차 없이 완벽하게 셀 수 있습니다. 소수의 비밀이 영점의 위치에 온전히 담겨 있습니다.
소수 개수의 어림
리만 제타 함수 는 복소평면 전체로 해석적 연속(Analytic Continuation)되며 함수방정식 을 만족합니다.
음의 짝수 의 자명한 영점을 제외한 모든 비자명한 영점(Non-trivial zeros)은 임계 구역 에 존재합니다. 리만 가설은 이 비자명한 영점들이 모두 임계선 위에만 존재한다는 추측입니다.
제타 함수의 영점
리만 가설은 100만 달러의 상금이 걸린 클레이 연구소 밀레니엄 난제이자 수학계 최고의 미해결 과제입니다. 영점들의 간격 분포는 놀랍게도 무작위 에르미트 행렬의 고유값 통계(GUE) 및 양자 카오스 에너지 준위와 완벽하게 일치합니다.
소수의 분포라는 순수 정수론의 심장이 양자물리학의 비가환 기하학과 맞닿아 있음을 보여 주는 우주적 수학의 최종 종착지입니다.
리만 제타 함수와 리만 가설. 다음 물음에 답하시오.
(1) 오일러 곱 공식 이 보여 주는 대수적 의미를 '자연수'와 '소수'의 관점에서 한 문장으로 쓰시오.
(2) 리만 제타 함수의 비자명한 영점들이 위치하는 임계선(Critical Line)의 방정식을 복소수 의 실수부 의 값으로 쓰시오.
(3) 리만 가설이 참일 때, 이하의 소수 개수 함수 와 로그 적분 함수 사이의 오차 한계가 대략 로 통제됨을 바탕으로 오차를 결정하는 핵심 지수가 1/2임을 쓰시오.
(1) 모든 자연수의 유일한 소인수분해 정리가 대수적 급수와 소수의 곱으로 연결됨을 뜻합니다. (2) (즉 )입니다. (3) 1/2입니다.
(1) 왼쪽은 자연수 전부를 더한 것이고 오른쪽은 소수만으로 곱한 것인데, 둘이 같다 — 곧 「모든 자연수는 소수의 곱으로 단 한 가지 방법으로 쪼개진다」는 사실이 식으로 적힌 것입니다.
오른쪽 각 인수를 등비급수로 펴면
이것들을 모두 곱하면 소인수분해의 가짓수만큼 항이 나오는데, 각 자연수가 정확히 한 번씩만 나타납니다.
⭐ 덧셈의 세계(자연수)와 곱셈의 세계(소수)를 잇는 다리입니다.
(2) 입니다.
곧 모든 비자명 영점이 위에 놓인다는 것이 리만 가설입니다.
지금까지 10 조 개 넘게 찾았는데 하나도 빠짐없이 그 선 위에 있었습니다. 그런데 모두 그렇다는 증명은 없습니다.
(3) 오차를 정하는 지수가 입니다.
⭐ 이 은 (2) 의 과 같은 수입니다 — 우연이 아닙니다.
영점이 임계선에서 만큼 오른쪽으로 벗어나면 오차가 로 커집니다. 영점의 자리가 곧 소수 분포의 고르기입니다.
소수는 아무렇게나 흩어져 있는 것처럼 보입니다. 리만 가설은 「그 흩어짐이 있을 수 있는 한 가장 고르다」고 말합니다.
1859 년 리만은 여덟 쪽짜리 논문에서 이것을 지나가듯 적었습니다 — 「엄밀한 증명은 잠시 미루어 둔다」고요. 166 년째 미루어져 있습니다.
이 가설을 참이라 가정하고 쓴 논문이 수천 편입니다. 만약 거짓으로 판명되면 그 수천 편이 한꺼번에 무너집니다.
⭐ 이 책의 마지막 장이 아직 아무도 모르는 문제인 것은 그래서입니다. 수학은 끝난 학문이 아니라 지금도 걸어가고 있는 길입니다.
이 한 줄에 수백 편의 정리가 매달려 있습니다.
베른하르트 리만(Bernhard Riemann)이 1859년 베를린 학술원에 제출한 8쪽짜리 소논문 「주어진 크기보다 작은 소수의 개수에 관하여」(Über die Anzahl der Primzahlen unter einer gegebenen Grösse)에서 제기했습니다.