바둑판처럼 규칙적으로 나무가 심겨 있는 과수원의 한가운데 (0, 0)에 서서 둘러보세요.
가까운 나무에 가려져 보이지 않는 나무들이 생깁니다. 어떤 자리의 나무는 보이고 어떤 자리의 나무는 가려질까요? 보이는 나무의 비율은 얼마나 될까요?

바둑판처럼 나무가 심긴 과수원 한가운데 서 있다고 해 보십시오. 앞줄 나무에 가려 안 보이는 나무가 생깁니다. (2,2)는 (1,1)에 가리고, (4,6)은 (2,3)에 가립니다. 가로와 세로가 서로소일 때만 보입니다.
공약수가 있으면 그 비율을 줄인 더 가까운 나무가 정확히 같은 방향에 서 있기 때문입니다.
그런데 여기서 뜻밖의 것이 나옵니다. 보이는 나무의 비율을 셈하면 6 나누기 원주율의 제곱, 약 60.8%입니다. 나무를 세고 있었는데 원주율이 튀어나온 것입니다. 과수원에는 둥근 것이 하나도 없는데 말입니다.
왜 그럴까요. 두 수가 동시에 2로 나누어질 확률은 4분의 1, 3으로 나누어질 확률은 9분의 1, 5로는 25분의 1입니다. 소수 p마다 p의 제곱분의 1입니다.
그러니 서로소일 확률은 모든 소수에 걸쳐 「그렇지 않을 몫」을 곱한 것이 되는데, 제곱의 역수를 다 더한 값이 원주율의 제곱을 6으로 나눈 것이기 때문에 그 뒤집힌 값이 답이 됩니다. 제곱수의 합에서 원이 들어오는 것입니다.
화면에 선을 그리는 방식과 닿아 있습니다. 격자점이 보이느냐 가려지느냐는 두 수가 서로소인가로 정해집니다.
컴퓨터 그래픽에서 직선을 픽셀로 옮기는 알고리즘, 톱니바퀴가 고르게 닳도록 잇수를 서로소로 잡는 설계에 같은 원리가 쓰입니다.
모눈에 점을 찍고 가려지는 것을 표시
모눈종이에 (0, 0) 자리를 정하고, (1, 1), (2, 2), (1, 2), (2, 4) 등에 점을 찍어 원점과 자로 이어 보세요.
(1, 1)을 지나는 직선은 (2, 2), (3, 3)을 그대로 가립니다. 반면에 (1, 2)나 (2, 3)은 앞에 아무 점도 없어 원점에서 똑바로 보입니다. 가려지는 점과 보이는 점을 직접 색칠해 찾아보세요.
서로소일 때만 보인다
원점 (0, 0)에서 점 가 보이려면, 원점과 그 점을 잇는 선분 위에 다른 정수점이 없어야 합니다.
만약 와 의 최대공약수가 이라면 선분 위에 점 가 있어 시야를 가립니다. 따라서 원점에서 나무가 보일 필요충분조건은 와 가 서로소()인 것입니다.
비율이 6/π² 인 것
임의로 고른 두 자연수 가 서로소일 확률을 계산해 봅니다. 어떤 소수 가 두 수를 동시에 나누지 않을 확률은 입니다.
모든 소수에 대해 이 확률을 곱하면 오일러의 곱 공식에 의해 가 됩니다. 즉 과수원 나무의 약 60.8%가 보입니다.
제타 함수
이 문제는 격자점의 가시성(Lattice Visibility) 문제로서 리만 제타 함수 의 특수값과 밀접하게 연결됩니다. 차원 정수 격자 에서 원점에서 보이는 점의 밀도는 정확히 입니다.
이러한 수론적 확률론은 디오판토스 근사론 및 에르고딕 이론, 양자 혼돈계(Quantum Chaos)에서 입자의 궤적 분포를 연구하는 첨단 통계물리학의 핵심 도구로 활용됩니다.
보이는 격자점과 서로소. 원점 에서 격자점 ( 는 양의 정수)를 바라본다.
(1) 점 와 중 원점에서 바로 보이는 점을 고르고 그 까닭을 설명하시오.
(2) 인 9개의 격자점 중 원점에서 보이는 점의 개수를 구하시오.
(3) 두 정수가 서로소일 확률이 일 때, 로 두고 보이는 점의 비율을 백분율(소수 첫째 자리까지)로 구하시오.
(2) (1,1), (1,2), (1,3), (2,1), (2,3), (3,1), (3,2)의 7개 점이 서로소입니다.
(1) (3, 5) 가 보입니다.
는 이라 절반인 나무에 정확히 가려집니다. 는 이라 사이에 격자점이 없어 보입니다.
(2) 서로소인 것만 세면
(1,1) (1,2) (1,3) (2,1) (2,3) (3,1) (3,2) — 7 개입니다.
안 보이는 것은 와 둘로, 모두 에 가려집니다.
(3) → 약 60.9%
나무를 세는 문제인데 원주율이 나옵니다. 그림 어디에도 원은 없는데 말입니다. 수학에서 가장 즐거운 순간은 이렇게 엉뚱한 데서 옛 친구를 만날 때입니다. 보이는 나무를 세는 일이 곧 서로소인 두 수를 세는 일이고, 그것이 다시 소수의 짜임을 묻는 일이 되기 때문에 원주율이 끼어듭니다.
「서로소일 확률」은 여러 곳에서 쓰입니다.
원점에서 나무가 보이려면 가로와 세로 좌표가 서로소여야 하듯, 두 수의 최대공약수를 빠르게 찾아 서로소인지 판별하는 가장 오래된 알고리즘이 있습니다 — 제76장에서 2300년 전 유클리드가 찾은 명쾌한 해법을 배워보세요.
헤르만 민코프스키가 1896년 출간한 명저 『수의 기하학』(Geometrie der Zahlen)에서 정수 격자와 소수의 분포를 결합하여 격자점 가시성 정리를 규명한 연구에서 유래했습니다.