큰 수의 법칙
동전을 백 번, 만 번 던지면
동전을 딱 4번 던졌을 때 앞면이 3번 나올 확률은 꽤 높습니다. 75%나 됩니다.
하지만 동전을 10,000번 던졌을 때 앞면이 7,500번(75%) 나올 수 있을까요? 던지는 횟수를 늘릴수록 앞면이 나올 비율이 정확히 50%에 달라붙는 까닭은 무엇일까요?
이야기
야코프 베르누이는 이 정리를 자기 「황금 정리」라 불렀습니다. 이십 년을 매달렸고, 끝내 책을 마치지 못한 채 세상을 떠났습니다. 『추측술』이 인쇄된 것은 그가 죽고 여덟 해 뒤인 1713년, 조카가 원고를 정리해 낸 것입니다.
그런데 이 법칙만큼 자주 오해받는 것도 드뭅니다. 「앞면이 다섯 번 내리 나왔으니 이제 뒷면이 나올 차례」라는 생각 말입니다. 틀렸습니다. 동전은 앞에 무엇이 나왔는지 기억하지 못합니다. 이것을 「도박사의 오류」라 합니다.
이 법칙이 말하는 것은 「모자란 것을 채워 준다」가 아니라 「묽어진다」입니다. 앞선 다섯 번의 치우침이 사라지는 것이 아니라, 뒤에 오는 수천 번에 파묻히는 것입니다.
그래서 비율은 0.5로 다가가는데 개수 차이는 오히려 커집니다. 만 번을 던지면 앞뒤 개수가 백 개쯤 벌어지는 것이 보통인데, 만 번에서 백 개는 비율로 1%밖에 안 되기 때문입니다.
보험과 카지노가 이것으로 돈을 법니다. 한 사람은 알 수 없어도 만 명이면 거의 정확히 예측됩니다.
여론조사가 천 명만 물어도 되는 까닭, 품질 검사가 표본만 봐도 되는 까닭이 이 법칙입니다.
계단 넷 — 같은 사실을 네 깊이로
동전을 백 번 던져 표로
동전을 10번 던져 표에 앞면 개수를 기록해 보세요. 7개나 3개가 나올 수도 있습니다.
하지만 100번, 1000번 던지면 앞면의 비율은 점점 2분의 1에 가까워집니다. 시행 횟수가 적을 때는 우연이 크게 작용하지만, 횟수가 아주 많아지면 숨어 있던 진짜 확률이 모습을 드러냅니다.
동전을 많이 던져 보세요
많이 던질수록 비율이 반듯해집니다.
비율과 개수는 다르다
시행 횟수 이 커질수록 통계적 표본평균이 수학적 기댓값에 한없이 가까워진다는 정리를 큰 수의 법칙(Law of large numbers)이라 합니다.
카지노가 손님 한두 명에게는 돈을 잃을 수 있어도, 수천 명의 게임이 쌓이면 수학적으로 정해진 승률에 따라 반드시 막대한 이익을 거두는 비결이 바로 이 법칙에 있습니다.
비율은 모이고 개수는 벌어집니다
「많이 하면 앞뒤 개수가 같아진다」는 틀린 말입니다 — 비율이 같아집니다.
분산이 줄어드는 것
독립항등분포(i.i.d.)를 따르는 확률변수 의 표본평균 의 분산은 이 됩니다.
일 때 분산이 0으로 수렴하므로 체비쇼프 부등식에 의해 표본평균이 기댓값 로 확률수렴(약한 법칙)함이 엄밀하게 증명됩니다.
얼마나 벗어날까요
1000 번에서 5% 벗어날 확률은 1 만분의 1 도 안 됩니다.
수렴의 여러 뜻
콜모고로프의 강한 큰 수의 법칙(Strong LLN)은 표본평균이 기댓값으로 거의 확실하게 수렴(Almost sure convergence)함을 보장합니다.
이는 중심극한정리(CLT)와 함께 현대 통계학의 추론, 보험 상품의 요율 산정, 몬테카를로 적분 및 머신러닝의 경험적 위험 최소화(ERM) 원리를 지탱하는 가장 거대한 주춧돌입니다.
약한 법칙과 강한 법칙
둘의 차이는 ∑1/n 이 발산하느냐에 걸려 있습니다.
풀어 보기
표본평균과 분산의 축소. 주사위 하나를 던져 나오는 눈의 기댓값은 , 분산은 이다.
(1) 주사위를 100번 던져 나온 눈의 표본평균 의 기댓값과 분산을 구하시오.
(2) 주사위를 던지는 횟수 이 100에서 10,000으로 100배 늘어날 때, 표본평균의 표준편차는 몇 분의 몇으로 줄어드는지 구하시오.
(3) 보험 회사가 가입자 수가 많을수록 경영 위험이 안정되는 까닭을 큰 수의 법칙으로 설명하시오.
(2) 는 표준편차가 임을 이용하세요.
답과 풀이 보기
(1) 기댓값 3.5 · 분산 입니다.
— 몇 번을 던지든 그대로입니다.
⭐ 가운데는 그대로인데 흔들림만 줄어듭니다. 이것이 큰 수의 법칙의 전부입니다.
(2) 로 줄어듭니다.
표준편차는 이므로 이 100 배가 되면 은 10 배가 되고, 표준편차는 10 분의 1 이 됩니다.
⛔ 100 분의 1 이 아닙니다. 정밀도를 10 배 올리려면 100 배 더 던져야 합니다.
(3) 사고가 언제 날지는 한 사람만 보면 전혀 알 수 없습니다.
그런데 가입자가 명이 되면 1 인당 평균 보험금의 흔들림이 로 줄어듭니다.
그래서 가입자가 많을수록 내년에 얼마가 나갈지를 정확히 내다볼 수 있고, 보험료를 낮게 잡아도 회사가 흔들리지 않습니다.
⛔ 다만 지진이나 감염병처럼 모두가 한꺼번에 당하는 위험은 서로 독립이 아니라서 이 법칙이 통하지 않습니다.
보험은 운을 없애는 것이 아니라 여럿이 나누어 묽게 만드는 것입니다.
한 사람에게는 여전히 우연이지만, 만 명에게는 거의 확실한 숫자가 됩니다.
여기 「풀어 보기」는 기본 한 벌입니다. 더 풀어 보고 싶으면 행복수학의 그 단원으로 건너가세요.
더 멀리
큰 수의 법칙 위에 세상의 여러 제도가 서 있습니다.
- 보험 — 한 사람에게 언제 사고가 날지는 모르지만, 만 명이면 예측이 됩니다
- 여론조사 — 천 명만 물어도 전체를 어림할 수 있는 까닭입니다
- 카지노 — 손님 한 명에게는 질 수 있어도 전체로는 반드시 법니다
이어지는 장
영감을 받은 곳
야코프 베르누이(Jakob Bernoulli)가 1713년 유고로 출간된 저서 『추측술(Ars Conjectandi)』 제4부에서 독립적인 시행 횟수가 늘어날수록 표본평균이 참확률에 수렴함을 최초로 엄밀하게 증명한 정리에서 왔습니다.