속도의 한계 — 나이퀴스트와 섀넌

"광케이블을 깔면 속도 제한이 없는 거 아닌가?" 이 질문에 물리학은 아니라고 답합니다. 어떤 통신 채널이든 이론적인 최대 속도가 존재합니다. 20세기 두 과학자, 나이퀴스트와 섀넌이 이 한계를 수학으로 표현했습니다.

나이퀴스트 — 잡음 없는 이상적인 세계

해리 나이퀴스트(Harry Nyquist)는 1928년, 잡음이 전혀 없는 완벽한 채널에서의 최대 전송 속도를 계산했습니다.

최대 전송률 = 2 × 대역폭 × log₂(신호 레벨 수)

이 식이 말하는 것은 간단합니다. 채널의 주파수 범위(대역폭)가 넓을수록, 그리고 신호 하나에 더 많은 정보를 담을수록(신호 레벨 수가 많을수록) 빠르게 보낼 수 있다는 것입니다.

예를 들어 신호 레벨이 2개(0과 1뿐)라면 log₂(2) = 1이고, 레벨을 4개로 늘리면 log₂(4) = 2로 두 배가 됩니다. 신호 하나로 두 비트를 표현할 수 있게 됩니다. 전화선 대신 더 많은 전압 단계를 구분할 수 있는 회로를 쓰면 속도가 높아지는 이유입니다.

단, 이 식은 잡음이 없다는 전제에서만 성립합니다. 현실은 다릅니다.

섀넌 — 잡음이 있는 현실 세계

클로드 섀넌(Claude Shannon)은 1948년, 잡음이 있는 실제 채널에서의 최대 용량을 계산했습니다.

채널 용량 = 대역폭 × log₂(1 + S/N)

여기서 S/N은 신호 대 잡음 비율(Signal-to-Noise Ratio)입니다. 카페에서 통화하면 주변 소음 때문에 상대 목소리가 잘 안 들리는 것처럼, S/N 비가 낮으면(잡음이 강하면) 채널 용량이 줄어듭니다.

섀넌의 공식이 중요한 이유는 신호 레벨을 아무리 늘려도 잡음 때문에 실제로 얻을 수 있는 속도에는 한계가 있다는 것을 증명했기 때문입니다. 신호 레벨을 1024개로 늘려도 잡음이 크면 0과 1조차 구별하기 어렵습니다.

두 공식이 함께 주는 교훈

나이퀴스트는 "잡음이 없다면 신호 레벨을 늘려 속도를 높일 수 있다"고 말하고, 섀넌은 "하지만 잡음이 있는 현실에서는 S/N 비가 그 한계를 결정한다"고 답합니다. 공식을 암기하는 것보다 이 두 가지 제약이 함께 작용한다는 감각이 더 중요합니다.

5G가 4G보다 빠른 것도, 광케이블이 구리선보다 빠른 것도 결국 이 두 요소 — 더 넓은 주파수 대역과 더 높은 S/N 비 — 덕분입니다. 다음 장에서는 이 0과 1을 실제 물리 신호로 바꾸는 방법, 즉 부호화와 변조를 살펴보겠습니다.