[호평동 바꿈영수학원] 무한에도 크기가 있다, 힐베르트의 호텔 이야기

수학자 다비트 힐베르트가 들었다고 전해지는 이야기 하나를 소개하려 합니다. 방이 무한 개 있는 호텔이 있습니다. 방 번호는 1호, 2호, 3호, 이렇게 끝없이 이어집니다. 어느 날 이 호텔이 손님으로 꽉 찼습니다. 방이 모두 무한 개인데 전부 찼다는 것은, 1호에도 2호에도 100호에도 10000호에도 누군가 묵고 있다는 뜻입니다.

그런데 이 꽉 찬 호텔에 새로운 손님 한 명이 찾아와 방을 달라고 합니다. 보통의 호텔이라면 방이 없으니 돌려보내야 합니다. 그런데 이 무한 호텔의 지배인은 다릅니다. 방송으로 이렇게 안내합니다. 지금 묵고 계신 모든 분은 옆방, 즉 자기 방 번호보다 하나 큰 방으로 옮겨 주세요.

1호 손님은 2호로, 2호 손님은 3호로, n호 손님은 (n+1)호로 옮깁니다. 방이 무한히 있으니 아무리 큰 번호의 손님이라도 옮겨갈 다음 방이 반드시 있습니다. 이렇게 모두가 한 칸씩 옮기고 나면 1호가 비게 되고, 새 손님은 그 1호에 들어가면 됩니다. 꽉 찬 호텔에 손님을 하나 더 받은 것입니다.

여기서 더 나아가 볼 수 있습니다. 새 손님이 한 명이 아니라 무한히 많은 사람, 즉 1번, 2번, 3번 이렇게 끝없이 이어지는 버스 한 대가 통째로 도착했다고 해봅시다. 이번에는 한 칸씩 옮기는 것으로는 부족합니다. 무한 명이 들어갈 자리를 한 번에 비워야 하기 때문입니다.

지배인은 이번엔 이렇게 안내합니다. 원래 n호에 묵던 손님은 (2n)호로 옮겨 주세요. 1호 손님은 2호로, 2호 손님은 4호로, 3호 손님은 6호로 옮깁니다. 그러면 기존 손님들은 짝수 번호 방에만 남게 되고, 1호, 3호, 5호 같은 홀수 번호 방이 모두 비게 됩니다.

홀수 번호 방도 무한히 많으니, 버스에서 내린 무한 명의 새 손님을 하나씩 그 방에 배정하면 됩니다. 이 이야기가 신기한 이유는, 꽉 찬 것과 꽉 차지 않은 것의 구분이 유한한 세계에서 쓰던 방식으로는 통하지 않는다는 점을 보여주기 때문입니다. 유한한 개수의 집합이라면 전체 중 일부만 뽑아도 전체보다 개수가 적습니다.

그런데 자연수 전체의 집합과 짝수 전체의 집합을 비교해 보면, 짝수는 자연수의 절반처럼 보이지만 1은 2에, 2는 4에, 3은 6에, n은 2n에 대응시키면 하나도 빠짐없이 쌍을 지을 수 있습니다. 이렇게 빠짐없이 하나씩 짝지을 수 있는 두 집합은 크기가 같다고 보는 것이 무한을 다루는 수학의 약속입니다.

이 개념을 정리한 사람이 19세기 수학자 게오르크 칸토어입니다. 칸토어는 자연수처럼 하나씩 셀 수 있는 무한을 가산무한이라 부르고, 자연수와 쌍을 지을 수 없는 더 큰 무한도 있다는 것을 증명했습니다. 예를 들어 0과 1 사이에 있는 모든 소수(小數)를 모은 집합은 자연수와 아무리 애를 써도 하나씩 짝지을 수 없다는 사실을 보인 것이 유명한 대각선 논법입니다.

힐베르트의 호텔은 바로 이 가산무한의 성질을 쉽게 보여주려고 든 비유로 알려져 있습니다. 호텔 이야기를 수업 시간에 접하면 처음에는 말장난처럼 느껴질 수 있습니다. 꽉 찼는데 어떻게 더 받느냐는 질문이 자연스럽게 나옵니다. 그런데 이 질문 자체가 무한과 유한의 차이를 정확히 짚은 것입니다.

유한한 세계의 상식으로는 설명이 안 되는 상황이 무한의 세계에서는 자연스럽게 일어납니다. 중학교, 고등학교 수학에서 다루는 집합과 함수 단원에서 두 집합 사이의 대응을 배우는데, 그 대응이라는 개념이 바로 이런 무한집합의 크기를 비교하는 데까지 이어진다는 것을 알면 집합 단원이 조금 다르게 보일 수 있습니다.

당장 시험에 나오는 내용은 아니지만, 숫자를 세는 행위와 집합의 크기를 비교하는 행위가 어떻게 다른지 생각해 보는 것만으로도 수학을 보는 눈이 조금 넓어질 수 있습니다.