몬티 홀 문제의 통계학적 역설과 확률 오류

문이 세 개 있다. 하나 뒤에는 자동차, 나머지 두 개 뒤에는 염소가 있다. 너는 문 하나를 고른다. 그런데 사회자가 답을 알고 있고, 남은 두 문 중 염소가 있는 문을 하나 열어서 보여준다. 이제 너에게 묻는다. "선택을 바꾸시겠습니까?" 정답은 "바꿔라"다. 그것도 두 배나 유리하게.

1990년에 이 문제가 미국 신문 칼럼에 실렸을 때 엄청난 소동이 벌어졌다. 칼럼을 쓴 매릴린 보스 사반트라는 여성은 세계에서 IQ가 가장 높은 사람으로 기네스북에도 오른 적이 있는 인물이었는데, 그녀가 "바꾸는 게 두 배 유리하다"고 답을 내놓자 수학 박사들까지 나서서 "틀렸다"며 편지 폭탄을 보냈다. 문제는, 박사들이 틀렸고 그녀가 맞았다는 거다.

왜 바꾸는 게 유리할까? 핵심은 사회자가 아무 문이나 여는 게 아니라는 점이다. 사회자는 답을 알고, 항상 염소가 있는 문만 골라 연다. 이게 결정적인 힌트를 주는 셈이다.

이렇게 생각해 보자. 네가 처음 문을 고를 때 맞힐 확률은 3분의 1이고, 틀릴 확률은 3분의 2다. 만약 네가 처음에 틀렸다면, 사회자가 열지 않은 나머지 문에 반드시 자동차가 있다. 그러니까 '바꾸기'를 선택하면 네가 처음에 틀렸던 그 3분의 2의 확률을 그대로 이어받아 이기게 되는 것이다. 반대로 안 바꾸면 처음에 맞혔던 3분의 1의 확률에 갇혀버린다.

많은 사람이 "문이 두 개 남았으니 반반 아니야?"라고 생각하는데, 이게 바로 함정이다. 문의 개수가 줄었다고 처음 선택의 확률까지 자동으로 반반이 되는 게 아니다. 사회자가 '알고서' 염소 문만 골라 열었다는 정보가 확률의 균형을 한쪽으로 기울인 것이다.

이 문제는 미국의 유명한 게임쇼 '거래를 합시다'의 진행자였던 몬티 홀의 이름을 땄다. 재미있는 건, 실제 몬티 홀 본인은 방송에서 이 규칙을 그대로 따르지 않았다는 사실이다. 그는 시청률을 위해 상황에 따라 문을 열지 않기도 했다. 그러니 우리가 배우는 몬티 홀 문제는 실제 쇼의 재현이 아니라, 규칙이 딱 정해진 수학 모델이라고 보면 된다.

이 문제가 유명해진 이유는 단순히 답이 신기해서가 아니다. 직관이 얼마나 쉽게 틀릴 수 있는지, 그리고 아무리 똑똑한 사람도 통계 앞에서는 겸손해야 한다는 걸 보여주는 사건이었기 때문이다.

문이 세 개 있어요. 그중 하나 뒤에는 멋진 자동차 장난감이, 나머지 두 개 뒤에는 염소 인형이 숨어 있어요. 여러분은 문 하나를 골라요.

그런데 이 게임의 진행자 아저씨는 어느 문 뒤에 무엇이 있는지 다 알고 있어요. 여러분이 문을 고르고 나면, 아저씨는 남은 두 문 중에서 염소가 있는 문을 하나 열어서 "여기는 염소예요!"라고 보여줘요.

그리고 아저씨가 물어봐요. "처음 고른 문 그대로 할래요, 아니면 다른 문으로 바꿀래요?"

정답은 "바꾸는 게 좋아요"예요! 왜 그럴까요?

이렇게 생각해 볼까요. 문이 세 개 있을 때 여러분이 자동차를 딱 맞힐 확률은 3번 중 1번, 그러니까 조금 낮아요. 반대로 틀릴 확률은 3번 중 2번으로 훨씬 높아요.

그런데 아저씨는 답을 알고 있어서 항상 염소 문만 골라서 열어줘요. 이게 아주 중요한 힌트예요! 만약 여러분이 처음에 틀린 문을 골랐다면(이럴 확률이 더 높죠), 아저씨가 열지 않고 남겨둔 그 문에 자동차가 숨어 있을 수밖에 없어요. 그러니까 문을 바꾸면, 원래 틀렸을 확률이 높았던 만큼 오히려 자동차를 찾을 확률이 더 높아지는 거예요!

많은 어른들도 "문이 두 개 남았으니까 반반 아니야?"라고 생각했다가 틀렸어요. 심지어 수학을 아주 잘하는 박사님들도 처음엔 "그건 틀린 답"이라고 화를 냈는데, 나중에 컴퓨터로 여러 번 게임을 해보니 정말로 '바꾸는 사람'이 훨씬 더 자주 이긴다는 게 밝혀졌어요.

이 문제는 옛날 미국 TV 게임쇼에서 나온 이야기예요. 그 쇼의 진행자 이름이 '몬티 홀'이어서, 이 문제를 '몬티 홀 문제'라고 불러요. 아주 간단해 보이는 문제인데도 어른들까지 헷갈리게 만든 재미있는 확률 이야기랍니다.