닫힌 문 3개 중 하나 뒤에는 스포츠카가 있고, 나머지 둘 뒤에는 염소가 있습니다. 당신이 1번 문을 골랐습니다.
문 뒤를 알고 있는 사회자가 염소가 있는 3번 문을 활짝 열어 보여주며 묻습니다. “2번 문으로 바꾸시겠습니까?” 선택을 바꾸는 것이 유리할까요, 아니면 그대로 두는 것이 유리할까요?

문이 셋입니다. 하나 뒤에는 자동차, 둘 뒤에는 염소가 있습니다. 여러분이 1번 문을 고릅니다.
그러자 사회자가 2번 문을 열어 염소를 보여 줍니다. 사회자는 어디에 무엇이 있는지 알고 있고, 반드시 염소가 있는 문을 엽니다.
이제 사회자가 묻습니다. “3번으로 바꾸시겠습니까?”
대부분 “남은 게 둘이니 반반”이라고 생각합니다. 틀렸습니다. 바꾸면 당첨 확률이 가 됩니다. 두 배로 유리합니다.
까닭은 이렇습니다. 처음에 자동차를 고를 확률은 , 염소를 고를 확률은 입니다. 처음에 염소를 골랐다면(3분의 2), 사회자가 나머지 염소를 열어 주니 남은 문이 반드시 자동차입니다. 그러니 바꾸면 3분의 2로 이깁니다.
1990년 매릴린 보스 사반트가 잡지에 이 답을 싣자, 수학 박사 천 명을 포함해 만 통의 항의 편지가 왔습니다. 그런데 그가 옳았습니다.
의료 진단과 스팸 필터가 이 셈을 씁니다. 새 정보가 들어오면 확률을 고쳐 잡는 것 — 그것이 베이즈 갱신이고, 몬티 홀이 그 가장 짧은 보기입니다.
자율주행차가 센서 신호를 받을 때마다 「저것이 사람일 확률」을 고쳐 잡는 것도 같은 셈입니다.
컵 세 개로 직접 해 본다
종이컵 3개를 엎어놓고 한 군데만 동전을 숨긴 뒤 친구와 직접 10번 게임을 해 보세요.
처음 선택을 끝까지 고집했을 때와, 사회자가 빈 컵을 치워준 뒤 다른 컵으로 바꿨을 때의 승률을 기록해 보세요. 직접 해 보면 바꿨을 때 동전을 가져갈 확률이 2배나 높다는 놀라운 사실을 눈으로 확인하게 됩니다.
경우를 다 적어 세기
처음에 스포츠카를 골랐을 확률은 이고, 염소를 골랐을 확률은 입니다.
만약 처음에 염소를 골랐다면, 사회자는 남은 다른 염소 문을 열 수밖에 없으므로 선택을 바꾸면 무조건 자동차를 얻습니다. 처음에 염소를 골랐을 확률이 였으니, 바꾸면 이길 확률도 그대로 3분의 2가 됩니다.
조건부확률
조건부확률과 베이즈 정리(Bayes' theorem)로 엄밀하게 계산할 수 있습니다.
자동차가 1번 문에 있을 사건을 , 2번에 있을 사건을 , 사회자가 3번 문을 열 사건을 라 하면, 사전확률은 이고 우도는 입니다. 사후확률을 계산하면 가 됩니다.
베이즈 갱신
몬티 홀 딜레마는 인간의 직관이 조건부 정보의 비대칭성과 정보 갱신(Information update) 메커니즘을 얼마나 오판하기 쉬운지 보여주는 행동경제학의 고전입니다.
정보 이론(Information theory)의 엔트로피 감소, 칼만 필터(Kalman filter), 베이지안 인공지능이 새로운 관측 데이터를 바탕으로 신념(Belief)을 갱신하는 수학적 핵심입니다.
몬티 홀 문제의 확률 계산. 다음 물음에 답하시오.
(1) 몬티 홀 게임에서 선택을 바꾸지 않았을 때 자동차를 획득할 확률을 구하시오.
(2) 문이 총 100개(자동차 1대, 염소 99마리)이고, 참가자가 1개를 고른 뒤 사회자가 염소가 있는 문 98개를 열어주었을 때, 남은 다른 문으로 바꾸어 자동차를 얻을 확률을 구하시오.
(3) '문이 2개 남았으니 확률은 반반(50:50)이다'라는 주장의 논리적 오류를 한 문장으로 지적하시오.
(2) 는 처음에 염소를 골랐을 확률이 얼마였는지 생각해 보세요.
(1) 입니다.
처음 고를 때 자동차를 맞힐 확률이 이고, 바꾸지 않으면 그 확률이 그대로입니다. 사회자가 문을 열어도 내가 처음 고른 문은 아무것도 달라지지 않습니다.
그러므로 바꾸면 — 두 배입니다.
(2) 입니다.
처음에 염소를 골랐을 확률이 입니다. 그런 경우 사회자는 자동차 문만 남기고 98 개를 열 수밖에 없습니다.
그러니 처음에 틀렸을 때는 바꾸면 무조건 맞습니다. 바꿔서 이길 확률 = 처음에 틀렸을 확률 = .
⭐ 문이 100 개면 느낌으로도 바꿔야 한다는 것이 보입니다. 3 개일 때 헷갈릴 뿐 구조는 똑같습니다.
(3) 사회자가 아무 문이나 연 것이 아니기 때문입니다.
사회자는 답을 알고 있고 반드시 염소가 있는 문을 엽니다. 그 선택에 정보가 실려 남은 문으로 흘러갑니다.
⛔ '남은 것이 둘이니 반반'은 둘이 대등할 때만 옳습니다. 여기서는 내 문은 처음 그대로이고 남은 문만 걸러진 것이라 대등하지 않습니다.
1990 년 마릴린 보스 사반트가 신문에 '바꾸세요'라고 썼습니다. 수학 박사 1,000 명을 포함해 1 만 통의 항의 편지가 왔습니다.
그가 옳았습니다. 컴퓨터로 만 번을 돌려 보면 바꾼 쪽이 3분의 2로 이깁니다.
여기 「풀어 보기」는 기본 한 벌입니다. 더 풀어 보고 싶으면 행복수학의 그 단원으로 건너가세요.
열쇠는 사회자가 답을 알고 있다는 점입니다.
직관을 정면으로 배신하는 확률의 덫은 의학 검사에서 양성이 나왔을 때 실제 병에 걸렸을 확률을 계산하는 조건부 확률의 본질과 똑같이 닿아 있습니다 — 제130장 에서 같은 눈으로 조건부 확률을 다시 만납니다.
스티브 셀빈(Steve Selvin)이 1975년 『The American Statistician』에 기고하고, 1990년 마릴린 보스 사반트(Marilyn vos Savant)가 『Parade』 칼럼을 통해 대중에게 널리 알린 퀴즈 쇼의 확률 역설에서 왔습니다.