OpenVPN: TCP vs UDP

TCP(전송 제어 프로토콜)와 UDP(사용자 데이터그램 프로토콜)는  인터넷을 통해 정보를 전송하는 데 사용되는 2가지 유형의 통신 프로토콜입니다.

VPN 소프트웨어에서 OpenVPN 프로토콜은 UDP 또는 TCP를 사용하여 기기와 VPN 서버 간에 데이터를 전송해야 합니다.

TCP와 UDP의 주요 차이점을 정리한 표입니다:

	TCP	UDP
작동 방식	연결 지향적	비연결성
속도	더 느림	더 빠름
신뢰성	더 높음	더 낮음
손상된 패킷 재송	재전송함	안 함
패킷 전송	순서대로	흐름대로
오류 수정	철저	최소
플로우 컨트롤	있음	없음
데이터 소비량	높음	낮음
실시간 앱 사용에 적합한가요?	아니오	네

결론적으로 UDP이 더 빠른 속도와 낮은 데이터 오버헤드 덕분에 일반적으로 VPN 연결에 가장 적합한 옵션입니다.

그러나 특히 신뢰도가 중요한 경우처럼 TCP가 더 나을 때도 있습니다.

각 프로토콜을 언제 더 적합한지에 대한 빠른 가이드입니다:

• TCP: 웹 브라우징(HTTP, HTTPS), 이메일(SMTP, IMAP/POP), 다운로드 및 업로드(FTP), SSH(Secure Shell)를 통한 원격 컴퓨터 액세스 등 신뢰성이 필요한 웹 활동에 적합합니다.
• UDP: 온라인 게임, 동영상 스트리밍, VoIP(Voice over IP), IoT(사물 인터넷) 기기(예: 데이터를 산발적으로 집으로 보내는 센서) 같이 속도가 중요한 경우 적합합니다.

TCP는 컴퓨터와 웹 서버와 같이 2개의 기기 사이에 연결을 생성합니다. 해당 연결을 통해 데이터가 전송됩니다. 마치 2개의 기기가 서로 대화하여 정보가 올바르게 수신되었는지 확인하는 전화 통화와 같습니다.

TCP는 “연결 지향적” 프로토콜이며 해당 연결을 설정하기 위해 3방향 핸드셰이크를 사용합니다. 핸드셰이크는 다음 패킷 교환을 통해 작동합니다.

1. SYN (동기화) 패킷: 클라이언트는 SYN 패킷을 서버에 보내 연결을 시작합니다. 이 패킷에는 클라이언트의 초기 시퀀스 번호가 포함되어 있습니다.
2. SYN-ACK (동기화-승인) 패킷: SYN 패킷을 수신하면 서버는 SYN-ACK 패킷으로 응답합니다. 이 패킷은 서버 자체의 초기 시퀀스 번호를 포함하며 클라이언트의 SYN을 승합니다.
3. ACK (승인) 패킷: 마지막으로 클라이언트는 서버의 SYN-ACK를 확인하는 ACK 패킷을 서버에 보냅니다. 이 시점에서 연결이 설정되고 클라이언트와 서버가 데이터 교환을 시작할 수 있습니다.

TCP 연결을 설정하는 VPN 예시입니다:

3방향 핸드셰이크는 클라이언트와 서버 모두 통신할 준비가 되어 있는지 확인하고 전송되는 데이터를 추적하는 데 사용되는 시퀀스 번호를 동기화합니다.

이 과정은 초기 연결 설정 중에 발생할 수 있는 연결 문제, 데이터 손실, 기타 문제를 방지하는 데 도움이 됩니다.

핸드셰이크가 완료되면 클라이언트와 서버는 신뢰할 수 있는 양방향 데이터 교환에 참여할 수 있게 됩니다.

TCP와 달리 UDP는 연결이 없는 프로토콜입니다. 데이터가 전송되지만 제대로 수신되었는지 확인하는 피드백 메커니즘이 없습니다. UDP는 마치 우편으로 무언가를 보낼 때 우편함에 넣고 잊는 것과 비슷합니다.

UDP는 TCP에 비해 신뢰성이 떨어지지만 연결을 설정하고 유지할 필요가 없기 때문에 UDP가 TCP보다 빠르게 작동합니다. 화상 회의, 온라인 게임 등 대기 시간에 매우 민감한 애플리케이션 사용 시에 이상적입니다.

이 경우, 간헐적으로 누락된 패킷으로 인한 결함이 발생할 수 있지만 TCP가 패킷을 재전송하는 동안 발생하는 지연보다 나을 수 있습니다.

또한 UDP는 TCP에 비해 헤더 크기가 작아서 오버헤드가 낮고 전송 속도가 빠릅니다.

도메인 이름 시스템(DNS)은 UDP와 TCP를 모두 사용할 수 있으며 실제로도 사용합니다. 쿼리 패킷이 증가함에 따라 TCP를 점점 더 많이 사용하고 있는 추세이지만, UDP는 여전히 최대한 빠른 속도를 보장하는 기본 프로토콜입니다.

TCP와 UDP는 둘 다 호스트 간 인터넷 통신을 용이하게 하는 네트워크 프로토콜이지만 데이터를 전송하는 방식은 상당히 다릅니다.TCP와 UDP의 주요 차이점 5가지는 다음과 같습니다:

1. UDP는 TCP보다 빠릅니다.

Top10VPN은 OpenVPN 프로토콜 사용 시 UDP와 TCP의 속도를 비교하기 위해 2024년 최고의 VPN인 ExpressVPN과 NordVPN을 테스트했습니다.

각 VPN 및 OpenVPN 유형에 대해 미국 본사에서 미국, 영국, 호주의 서버에 연결하고 다운로드 속도를 측정한 결과는 다음과 같습니다.

테스트 결과에서 볼 수 있듯이 UDP가 일반적으로 TCP보다 빠르며 서버와의 거리가 멀어질수록 그 차이가 더 커집니다.

TCP는 오류가 확인된 스트림으로 순서대로 데이터 패킷을 전달하기 때문입니다. 올바르지 않거나 누락된 데이터는 전송을 보내는 컴퓨터에 다시 요청해기 때문에 지연이 발생합니다.

반면, UDP 패킷의 헤더는 더 작기 때문에 각 연결당 부하(payload)가 더 많이 허용되어 데이터 처리량이 증가합니다.

결과적으로, 스트리밍이나 게임처럼 속도에 민감한 앱을 사용하는 경우 UDP가 더 나은 경우가 많습니다.

ExpressVPN 사용 시, UDP의 경우 미국에서 영국에 연결할 때 속도가 24% 더 빨라졌고, 호주에 연결할 때는 37% 더 빨라졌습니다.

NordVPN 사용 시에 이 차이는 더욱 뚜렷하게 나타났습니다. TCP의 경우 영국에 연결했을 때 다운로드 속도가 81%, 호주에 연결했을 때 94% 저하되었습니다.

하지만 같은 국가 내의 NordVPN 서버에 연결할 때는 TCP가 UDP보다 약간 더 빠르다는 것을 발견했습니다.

2. TCP는 UDP보다 데이터 소비량이 많습니다.

TCP는 각 데이터 패킷의 헤더에 더 많은 정보를 포함하기 때문에 UDP보다 더 많은 데이터를 사용합니다.

인터넷을 통해 전송되는 모든 데이터 패킷에는 헤더가 있는데, 이는 봉투에 주소를 쓰는 것과 같습니다. 여기에는 데이터를 올바른 위치로 가져오는 데 필요한 정보와 프로토콜에 필요한 추가 정보가 포함되어 있습니다.

UDP와 TCP 모두 데이터의 소스 및 착신 포트, 데이터 패킷 길이, 헤더의 체크섬을 표시하지만 TCP에는 올바른 전달을 보장하기 위한 추가 필드도 포함되어 있습니다:

• 순서 번호
• 승인 번호
• TCP 플래그 (예: 동기화, 승인)
• 윈도 (수신 버퍼 크기)
• 긴급 포인터
• 선택적 TCP 옵션

이 때문에 TCP는 UDP보다 더 안정적이기는 하지만 효율성은 떨어집니다. UDP 헤더는 8바이트에 불과한 반면 TCP 헤더는 20바이트를 초과할 수 있습니다.

또한, TCP의 경우 발신자와 수신자 간에 더 많은 통신이 이루어집니다. 이는 수신자가 TCP를 사용하여 패킷을 수신할 때 각 패킷마다 ACK(승인)를 보내고 손실된 패킷은 재전송되기 때문입니다. 그 결과, TCP는 UDP보다 더 많은 데이터를 사용하게됩니다.

VPN 데이터 사용량 분석 결과, OpenVPN TCP를 사용하면 VPN을 사용하지 않았을 때 보다 19.96%의 데이터가 더 소비되었고, OpenVPN UDP를 사용하면 17.23%가 더 소비되었습니다.

기가바이트 단위로 요금을 지불하는 모바일 데이터 요금제를 사용 중이거나 데이터 한도가 고정되어 있는 경우 TCP를 사용하면 데이터가 더 빨리 소진될 수 있습니다.

3. TCP는 UDP보다 조금 더 안전합니다.

UDP와 TCP는 보안을 목적으로 설계되지 않았습니다. 인터넷을 통해 데이터 패킷을 보낼 뿐입니다.

일반적으로 다른 상위 프로토콜이나 애플리케이션이 보안을 담당합니다.

그럼에도 불구하고, TCP에서는 패킷의 순서가 지정되고 승인되기 때문에 UDP에 비해 TCP의 경우 해커가 악성 데이터를 심기 더 어렵습니다.

TCP는 패킷이 올바른 순서로 수신되고 누락/손상된 데이터가 재전송되도록 하기 때문입니다.

그러나, 실제로 두 프로토콜 모두 VPN과 함께 사용 시 심각한 보안 문제가 발생하지 않습니다. TCP와 UDP 모두 사용자의 안전한 온라인 활동을 위해 강력한 암호화와 개인정보 보호 기능을 지원합니다.

4. TCP는 UDP보다 더 신뢰할 수 있습니다.

여러 이유로 TCP를 UDP보다 더 신뢰할 수 있습니다. 그 이유 중 하나는 더 철저한 오류 확인 및 연결 설정을 위한 3방향 핸드셰이크 사용입니다.

또한, UDP와 달리 TCP는 전송 플로우를 컨트롤하는 메커니즘을 사용하기 때문에 패킷 삭제 가능성이 훨씬 적다는 것입니다.

TCP는 데이터 전송을 관리하기 위해 “슬라이딩 윈도우” 메커니즘을 사용합니다.

수신자는 들어오는 패킷을 수락하는 데 필요한 버퍼 공간의 사용 가능성을 전달합니다.

그런 다음 TCP는 발신자가 이 윈도우 크기까지만 데이터를 전송하도록 제한하고, 데이터를 더 전송하기 전에 수신자가 더 많은 공간이 있다는 신호를 보낼 때까지 기다려야 합니다.

이 플로우 컨트롤 과정을 통해 TCP는 수신자의 수신 가능 용량에 맞게 전송 속도를 조정하여 수신량이 초과하는 것을 방지할 수 있습니다.

하지만 각 패킷을 보내기 전에 이 피드백을 기다려야 하기 때문에 TCP는 연결을 설정하지 않는 UDP 프로토콜보다 약간 느리고 효율성이 떨어집니다.

반면, UDP는 플로우를 컨트롤하지 않고 발신자에게 가장 적합한 속도로 데이터를 전송합니다.

이로 인해 강력한 서버가 데이터를 공격적으로 연달아 보내면 수신자의 용량을 초과하여 데이터가 전송될 가능성이 있습니다.

그런 경우, 수신자는 플로우 컨트롤 신호를 기다리지 않고 처리 불가한 초과 UDP 패킷을 삭제합니다.

5. UDP와 달리, TCP는 멀티캐스트를 지원하지 않습니다.

TCP는 연결 지향적입니다. 즉, 클라이언트와 서버 간에 일대일 연결을 설정합니다. 이로 인해 브라우저와 웹 서버 사이의 안정적인 지점 간 통신을 하는데 많은 장점이 있습니다.

그러나 이 구조에는 일대다 통신 모델이 필요하기 때문에 화상 회의나 온라인 게임에 사용되는 네트워크 통신 유형인 멀티캐스트와 호환되지 않습니다.

반면, UDP는 수신자에 대해 파악할 필요가 없기 때문에 멀티캐스트와 호환됩니다.

안전성이나 신뢰성보다 속도를 중요시하는 UDP는 수신 확인을 기다리지 않고 데이터를 전송하기 때문에 멀티캐스트에 이상적입니다. 수신 용량을 초과하는 패킷이 삭제되더라도 전체 플로우에는 영향을 주지 않고 실시간 스트림에 사소한 결함이 발생할 뿐입니다.

OpenVPN은 대부분의 안전한 VPN 서비스들이 사용하는 오픈 소스 VPN 프로토콜입니다. 대부분의 경우 사용자가 OpenVPN UDP와 OpenVPN TCP 중에서 선택할 수 있습니다. 이 섹션에서는 어떤 것을 선택하느냐에 따라 VPN 기능에 어떤 영향을 미치는지에 대해 설명하도록 하겠습니다.

먼저, VPN 없이 웹페이지를 탐색하고 있다고 상상해보세요. 기기와 웹 서버 간의 연결에 UDP보다 안정적인 TCP를 사용하고 있다고 가정할 경우, 작동 방식은 다음과 같습니다.

VPN을 사용하기 시작하면 기기와 VPN 서버 사이의 OpenVPN 터널에 새로운 통신이 래핑됩니다. 해당 터널은 기기와 VPN 서버를 연결하며 이때 UDP나 TCP가 사용됩니다.

VPN 설정을 변경할 때 어떤 래퍼(wrapper)를 사용할지 결정하기만 하면 됩니다.