별과 정리 · 제104장 · 2부 · 조금 자란 뒤에

심프슨의 역설

Simpson's Paradox

두 반 모두 A가 높은데 합치면 B가 높다

두 병원 모두 이겼는데 합치면 지다니

A 병원이 가벼운 환자 치료율도 B 병원보다 높고, 중증 환자 치료율도 B 병원보다 높습니다.

그런데 두 환자 그룹을 합쳐서 전체 치료율을 계산했더니 B 병원이 A 병원을 이겨버렸습니다! 개별적으로는 모두 이겼는데 전체를 합치면 뒤집히는 이 황당한 마술의 비밀은 무엇일까요?

이야기

두 병원의 수술 성공률을 견줍니다. A병원이 B병원보다 모든 환자군에서 성공률이 높습니다. 가벼운 환자에서도, 위중한 환자에서도요.

그런데 전체를 합치면 B병원이 더 높습니다. 어떻게 이런 일이?

비밀은 환자 구성에 있습니다. A병원이 위중한 환자를 훨씬 많이 받았다면, 성공률이 낮은 집단의 비중이 커집니다. 그래서 부분마다 이기고도 전체에서 집니다.

이것을 심프슨의 역설이라 합니다.

실제로 있었던 일입니다. 1973년 버클리 대학원 입학에서 남성 합격률이 여성보다 높아 차별 의혹이 일었습니다. 그런데 학과별로 보니 오히려 여성 합격률이 높은 학과가 많았습니다. 여성이 경쟁률 높은 학과에 많이 지원했던 것입니다.

숫자가 거짓말을 한 것이 아닙니다. 합치는 순간 무언가가 감춰진 것입니다.

1973년 버클리 대학원 입학에서 이 일이 실제로 벌어졌습니다. 전체로 보면 남자의 합격률이 여자보다 훨씬 높아 차별 소송이 제기되었습니다. 그런데 학과별로 갈라 보니 오히려 여자의 합격률이 더 높은 학과가 대부분이었습니다.

까닭은 여자 지원자가 경쟁이 심한 학과에 몰려 있었기 때문입니다. 숫자는 하나도 안 틀렸는데, 묶어 보느냐 갈라 보느냐로 결론이 뒤집힌 것입니다.

이 현상에 이름을 준 사람은 영국의 통계학자 에드워드 심프슨입니다. 1951년의 글입니다. 그는 제2차 세계대전 때 블레츨리 파크에서 암호를 푸는 일을 했고, 전쟁이 끝난 뒤 통계학으로 돌아왔습니다.

🚩 그런데 정작 이 현상을 먼저 적은 사람은 따로 있습니다. 1899년 피어슨과 1903년 율이 이미 같은 것을 지적해 두었습니다. 그래서 「율–심프슨 효과」라 부르기도 합니다.

오늘 이것이 하는 일

통계를 잘못 읽으면 결론이 뒤집힙니다. 나이·성별로 나눠 보지 않으면 약의 효과 판정이 정반대로 나올 수 있습니다.

의학 연구에서 반드시 층별로 나눠 보는 이유이고, 대학 입학·채용 통계를 읽을 때도 같은 주의가 필요합니다.

계단 넷 — 같은 사실을 네 깊이로

초4 · 초5 — 손으로 해 본다

표 두 개를 만들어 합쳐 본다

야구 선수의 타율을 비교해 보세요. 전반기 타율도 민우가 준서보다 높고, 후반기 타율도 민우가 준서보다 높습니다.

하지만 1년 전체 타율을 합산하면 준서가 더 높아질 수 있습니다. 타석에 들어선 횟수(비중)가 서로 다르기 때문입니다. 비율의 함정을 손으로 계산해 보세요.

합치면 뒤집힙니다

두 병원 A, B의 경증 환자 치료율과 중증 환자 치료율 막대를 전체로 합친다

A 전체 성공률 % —B 전체 성공률 % —차이 —

쉬운 일 인원 — 90

어려운 일 인원 — 10

경증에서도 A병원이 이기고(99%>95%) 중증에서도 A병원이 이기는데, 그런데 환자를 다 합치자 B병원이 이긴다(89%>74%)
두 과목 다 1등 한 친구가 총점을 합쳤더니 2등으로 떨어진다

중1 · 중2 — 까닭을 찾는다

비율과 개수

이 현상을 통계학에서 심프슨의 역설(Simpson's paradox)이라 부릅니다.

가벼운 환자 완치율(A: 90% vs B: 80%), 중증 환자 완치율(A: 50% vs B: 40%)로 A가 다 높더라도, 실력 있는 A 병원에 위험한 중증 환자가 훨씬 많이 몰리면 전체 평균은 중증 환자의 낮은 치료율 쪽으로 끌어내려지기 때문입니다.

비율은 그냥 더하면 안 됩니다

환자 집단의 비중 슬라이더를 움직여 A병원(중증 50% 배정)과 B병원(경증 91% 배정)의 환자 구성비를 시각화한다

합친 비율 % —1반 % —2반 % —

1반 인원 — 10

2반 인원 — 90

두 과목 모두 실력이 뛰어난 병원인데, 그런데 어려운 중증 환자를 몰아서 맡았다는 이유 하나만으로 전체 성공률 꼴찌로 전락하는 착시가 발생한다
어려운 수술만 도맡아 한 훌륭한 병원이 통계 표에서는 엉터리 병원처럼 둔갑한다

고1 · 고2 — 넓혀 본다

교란변수

심프슨의 역설은 제3의 숨겨진 변수인 교란요인(Confounding variable)이 원인과 결과 모두에 영향을 미칠 때 발생합니다.

벡터로 해석하면 이고 일 때, 두 벡터의 합의 기울기 와 사이에는 대소 관계가 뒤집힐 수 있다는 유리수 덧셈의 비단조성에서 기인합니다.

버클리 입학 사건

두 부분 집단을 2차원 평면의 기울기 벡터 (성공, 전체)로 놓고 두 벡터의 합 벡터 기울기를 본다

차이 %p —남 합격률 % —여 합격률 % —

남 지원자(경쟁 낮은 과) — 400

여 지원자(경쟁 낮은 과) — 100

벡터 v_1이 u_1보다 기울기가 가파르고 v_2가 u_2보다 기울기가 가파른데, 그런데 둘을 합친 벡터 (v_1 + v_2)의 기울기는 거꾸로 (u_1 + u_2)보다 완만해질 수 있다
더 가파른 화살표 둘을 각각 더했는데 합쳐진 화살표는 거꾸로 누워버린다

대학 — 어디까지 가나

인과추론

주디아 펄(Judea Pearl)의 인과추론(Causal inference) 이론에서 심프슨의 역설은 상관관계와 인과관계의 근본적 괴리를 보여주는 결정적 사례입니다.

방향성 비순환 그래프(DAG)와 do-연산자(do-calculus)를 도입하여 교란 경로(백도어 경로)를 차단해야만 편향 없는 진짜 인과 효과를 추정할 수 있습니다.

어느 쪽이 옳은가

숨은 변수의 세기를 밀어 보세요.

참 효과 % —겉보기 효과 —숨은 몫 —

숨은 원인의 세기 — 60%

겉보기 효과 — 30%

합칠 것인가 나눌 것인가는 수학이 아니라 인과가 정합니다.
펄이 만든 인과 그래프가 이 물음에 처음으로 답을 주었습니다.

풀어 보기

중학교 · 고등학교 수준 · 답은 검산을 마쳤습니다

심프슨의 역설 계산. 두 야구 선수 A와 B의 전반기와 후반기 타격 기록이 다음과 같다.
· 전반기: A는 10타수 4안타(0.400), B는 100타수 35안타(0.350)
· 후반기: A는 100타수 25안타(0.250), B는 10타수 2안타(0.200)

(1) 전반기와 후반기 각각 어느 선수의 타율이 더 높은지 비교하시오.
(2) 두 선수의 시즌 전체(전반기+후반기 합산) 타율을 각각 계산하고 대소를 비교하시오.
(3) (1) 과 (2) 의 결과가 상반되게 나타난 까닭을 타수(가중치)의 관점에서 서술하시오.

(2) 에서 A의 전체 타율은 29/110, B의 전체 타율은 37/110 입니다.

답과 풀이 보기

(1) 전반기도 후반기도 A 가 높습니다.
· 전반기
· 후반기

(2) 시즌 전체로는 B 가 높습니다.
· A :
· B :
두 번 다 진 선수가 합치면 이깁니다.

(3) 타수가 한쪽으로 쏠려 있기 때문입니다.
· A 는 잘 친 전반기에 10 타수뿐이고 못 친 후반기에 100 타수를 썼습니다
· B 는 그 반대로 잘 친 전반기에 100 타수를 썼습니다
타율을 합칠 때는 타수가 무게(가중치)가 됩니다. 그러니 A 의 시즌 타율은 0.250 쪽으로 끌려가고, B 는 0.350 쪽으로 끌려갑니다.
⛔ 비율은 그냥 더하거나 평균 내면 안 됩니다. 분모가 다르면 같은 자로 잰 것이 아닙니다.

1973 년 버클리 대학원 입학에서 실제로 일어났습니다. 전체로 보면 남성 합격률이 훨씬 높아 차별 소송까지 갔는데, 학과별로 나눠 보니 오히려 여성이 높은 학과가 많았습니다.
여성이 경쟁이 치열한 학과에 많이 지원했던 것입니다. 숫자는 거짓말을 하지 않았지만 합치는 방식이 거짓말을 했습니다.

여기 「풀어 보기」는 기본 한 벌입니다. 더 풀어 보고 싶으면 행복수학의 그 단원으로 건너가세요.

중3-2 03 통계

만지는 수학으로 손에 쥐어 보기

이 장과 이어지는 「만지는 수학」 칼럼입니다. 손끝으로 직접 끌고 눌러 보며 같은 생각을 몸으로 겪을 수 있습니다.

평균과가능성초5 확률중2

더 멀리

「나눠 볼 것인가 합쳐 볼 것인가」는 늘 조심할 문제입니다.

의학 연구 — 나이·성별을 나눠 보지 않으면 결론이 뒤집힙니다
인과추론 — 무엇으로 나눠야 옳은지를 다루는 분야가 자랐습니다
직접 만들기 — 작은 표 두 개로 역설을 만들어 볼 수 있습니다

이어지는 장

부분 집단에서 모두 앞서던 결과가 전체를 합치면 뒤집히는 이 역설은, 불공정하게 선거구를 나누어 판세를 뒤바꾸는 게리맨더링의 착시와도 깊게 닿아 있습니다 — 제10장 과 통계의 숨은 편향을 다루는 제90장 을 통해 데이터의 착시를 경계해 보세요.

이어지는 자료

중3 · 통계 — 흩어뜨려 보세요 — 평균은 그대로인데만지는수학 중3 통계 단원살아있는수학교과서

영감을 받은 곳

에드워드 심프슨(Edward H. Simpson)이 1951년 왕립통계학회 저널 『Journal of the Royal Statistical Society』에 발표한 논문 「The Interpretation of Interaction in Contingency Tables」과, 칼 피어슨(Karl Pearson)이 1899년 지적했던 통계적 역전 현상에서 왔습니다.