입문 가이드 예상 읽기 시간 10분

VMess와 VLESS의 차이점? 일반 사용자를 위한 1분 선택 가이드

암호화 방식, 전송 오버헤드, 서버 요구 사항을 기준으로 VMess와 VLESS의 실제 차이를 설명하고, 일반 사용자가 구독 정보만 보고 선택하는 방법을 안내합니다.

1분 결론: 구독에 표시된 프로토콜을 사용하세요

일반 사용자가 VMess와 VLESS 중 선택할 때 가장 안전한 방법은 프로토콜을 직접 바꾸는 것이 아니라 서버나 구독에서 제공한 설정을 그대로 사용하는 것입니다. 노드가 vmess://로 표시되면 클라이언트에서 VMess로 가져오고, vless://로 표시되면 VLESS로 가져오세요. 프로토콜 유형, 포트, 사용자 식별자, 전송 방식, 보안 계층과 경로는 함께 맞춰야 하는 매개변수이므로 하나만 바꾸면 연결되지 않는 경우가 많습니다.

같은 서비스에서 VMess와 VLESS 노드를 모두 제공한다면 다음 순서로 판단하세요.

  1. 현재 클라이언트 코어와 호환되고 정상적으로 가져올 수 있는 노드를 우선 선택하세요.
  2. VLESS 노드에 TLS 또는 REALITY가 설정되어 있고 클라이언트가 해당 매개변수를 지원한다면 VLESS를 먼저 테스트해 볼 수 있습니다.
  3. 구형 기기나 기존 설정, 현재 사용하는 서비스가 VMess만 제공한다면 계속 VMess를 사용해도 됩니다. 프로토콜 이름만을 이유로 마이그레이션할 필요는 없습니다.
  4. 둘 다 연결된다면 지연 시간, 지속 전송, 네트워크 전환 후 복구 상태를 각각 테스트한 뒤 실제로 더 안정적인 구성을 유지하세요.
비교 항목 VMess VLESS
프로토콜 역할 인증과 프로토콜 계층의 데이터 보호 기능을 포함 인증을 간소화하고 보안은 주로 외부 전송 계층에 위임
일반적인 보안 조합 VMess + TCP, WebSocket, gRPC 및 TLS 등 VLESS + TLS 또는 호환 코어에서 VLESS + REALITY
프로토콜 오버헤드 상대적으로 큼 상대적으로 적음
호환성 확인 사항 시간, 사용자 식별자와 전송 매개변수 확인 보안 계층, flow, SNI와 전송 매개변수 확인
일반적인 사용 방법 구독 후 바로 선택 클라이언트가 전체 매개변수를 지원하는지 확인한 뒤 선택

VMess: 프로토콜에 인증과 데이터 보호 기능이 포함됨

VMess는 V2Ray 계열에서 오랫동안 널리 사용된 프로토콜입니다. 사용자 식별자로 인증을 수행하고 프로토콜 계층에서 요청 정보와 데이터 전송을 처리합니다. 클라이언트가 서버에 연결하려면 프로토콜, 주소, 포트, 사용자 식별자, 전송 방식과 보안 설정이 서로 일치해야 합니다. 하나라도 다르면 연결 시간 초과, 핸드셰이크 실패 또는 연결 후 데이터가 전송되지 않는 문제가 발생할 수 있습니다.

VMess 설정에서 흔히 사용하는 사용자 식별자는 UUID입니다. 허용된 사용자를 식별하는 값이지만 UUID 자체가 서버 주소인 것은 아니며, 단독으로 노드를 구성할 수도 없습니다. 사용 가능한 노드에는 포트, 전송 유형과 관련 전송 매개변수도 필요합니다. 예를 들어 WebSocket에는 해당 경로가, gRPC에는 해당 서비스 이름이 필요하고, TLS를 사용하는 경우 서버 이름 등의 정보도 일치해야 합니다.

일부 사용자는 VMess의 프로토콜 계층 처리와 TLS를 혼동합니다. 둘은 서로 다른 계층입니다. VMess는 인증과 데이터 처리 방식을 정의하고, TLS는 외부 보안 전송을 담당합니다. 서버는 배포 구조에 따라 VMess를 TCP, WebSocket 또는 gRPC 위에 배치한 뒤 TLS 사용 여부를 결정할 수 있습니다. 클라이언트는 이 조합을 빠짐없이 재현해야 합니다.

VMess는 시스템 시간의 영향을 비교적 많이 받습니다. 기기 시간이 표준 시간과 크게 다르면 인증에 실패할 수 있습니다. 서버 주소와 구독 정보가 바뀌지 않았는데 VMess 노드가 갑자기 모두 작동하지 않는다면 자동 날짜, 자동 시간과 시간대를 먼저 확인하세요. 하나의 노드만 작동하지 않는다면 포트, 서비스 상태 또는 노드 매개변수가 바뀌었을 가능성이 더 큽니다.

VLESS: 프로토콜 계층의 부담을 줄이고 보안 계층에 의존

VLESS는 프로토콜 계층을 간소화하는 데 초점을 둡니다. 사용자 식별과 연결 대상 전달은 유지하되, 데이터 보안은 TLS, REALITY 같은 외부 메커니즘에 더 많이 맡깁니다. 따라서 VLESS 설정에서 흔히 보이는 encryption=none은 연결 전체가 반드시 보호되지 않은 상태로 전송된다는 뜻이 아니라, VLESS 프로토콜 계층에서 별도의 콘텐츠 암호화를 반복하지 않는다는 의미입니다. 실제 연결에 보안 계층이 적용되는지는 security, 서버 이름, 공개 키, 짧은 식별자 및 기타 관련 필드를 추가로 확인해야 합니다.

이 부분이 VLESS에서 가장 쉽게 오해되는 지점입니다. 프로토콜 이름만으로는 전체 연결 구조를 판단할 수 없습니다. 하나의 VLESS 노드가 TCP와 TLS를 사용할 수도 있고, gRPC와 TLS를 사용할 수도 있습니다. Xray 코어가 지원하는 배포 환경에서는 REALITY를 사용할 가능성도 있습니다. 조합마다 필요한 클라이언트 기능이 다르며 매개변수는 서로 바꿔 사용할 수 없습니다.

VLESS 설정에는 flow 필드가 포함될 수도 있습니다. 이 필드는 특정 전송 흐름과 코어 기능에 관련된 것으로, 모든 VLESS 노드에 필요한 것은 아닙니다. 구독에 없으면 임의로 추가하지 말고, 이미 포함되어 있다면 함부로 삭제하지 마세요. 클라이언트 버전이 너무 낮아 해당 flow 값을 인식하지 못하면 가져온 뒤 노드를 시작하지 못하거나 연결 단계에서 즉시 실패할 수 있습니다.

데스크톱에서 v2rayN, 안드로이드에서 v2rayNG를 사용할 때 실제 프로토콜 기능은 클라이언트에 내장되었거나 호출되는 코어 버전에 따라 달라집니다. v2rayNG는 일반적으로 Xray 코어를 사용하므로 해당 Xray 매개변수가 포함된 VLESS 노드를 가져오는 데 적합합니다. v2flyNG는 v2fly 코어를 사용하므로 가져오기 전에 구독이 해당 코어에서 아직 지원하지 않는 확장 필드에 의존하지 않는지 확인해야 합니다. 클라이언트 화면에 VLESS가 표시된다고 해서 모든 VLESS 조합의 호환성이 같은 것은 아닙니다.

핵심 차이 1: 암호화 방식이 적용되는 계층이 다름

VMess와 VLESS를 비교할 때 “하나는 암호화되고 하나는 암호화되지 않는다”라고만 설명해서는 안 됩니다. 더 정확히 말하면 VMess는 프로토콜 설계에 인증과 데이터 보호 기능을 포함하고, VLESS는 프로토콜 계층을 가볍게 설계하여 신뢰할 수 있는 외부 보안 방식을 함께 사용하도록 합니다. 최종 네트워크 연결은 프로토콜, 전송 계층과 보안 계층이 함께 결정합니다.

노드 설정은 다음 세 계층으로 나누어 이해할 수 있습니다.

  • 프로토콜 계층: VMess 또는 VLESS로, 사용자 식별과 연결 대상 정보를 담당합니다.
  • 전송 계층: TCP, WebSocket, gRPC 등으로, 데이터를 전달하는 방식을 결정합니다.
  • 보안 계층: TLS 또는 호환 코어가 제공하는 다른 보안 방식으로, 외부 핸드셰이크와 전송 보호를 담당합니다.

예를 들어 같은 VLESS라도 VLESS + TCP + TLS와 VLESS + gRPC + TLS는 서로 다른 조합입니다. 전자에는 gRPC 서비스 이름이 필요하지 않지만 후자에는 일반적으로 필요합니다. 어느 필드라도 잘못 입력되면 “프로토콜 암호화” 옵션을 바꾸는 것으로 해결할 수 없습니다. VMess도 마찬가지로 WebSocket 경로, Host, TLS 서버 이름 등의 정보가 서버 설정과 일치해야 합니다.

일반 사용자는 공유 링크를 확인할 때 몇 가지 핵심 매개변수를 식별할 수 있지만 직접 편집하는 것은 권장하지 않습니다. 아래 구조는 필드 관계를 설명하기 위한 예시입니다.

vless://사용자 식별자@서버 주소:포트
?type=전송 방식
&security=보안 계층
&sni=서버 이름
#노드 이름

공유 링크의 노드 이름은 클라이언트 목록에 표시하기 위한 값일 뿐 프로토콜 연결에는 관여하지 않습니다. 서버 주소, 포트와 쿼리 매개변수가 연결 방식을 결정합니다. 링크를 복사할 때 물음표 뒤의 매개변수를 빠뜨리면 노드를 가져올 수는 있어도 보안 계층이나 전송 설정이 불완전해 연결에 실패할 수 있습니다.

핵심 차이 2: VLESS는 오버헤드가 적지만 속도는 프로토콜만으로 결정되지 않음

VLESS는 프로토콜 계층의 중복 처리를 줄여 이론적으로 더 간결한 데이터 경로를 제공합니다. 프로세서 성능이 제한적이거나 연결 수가 많고 네트워크 처리량이 높은 환경에서는 이러한 차이를 측정하기 쉽습니다. 그러나 일반적인 웹 브라우징, 짧은 동영상 시청이나 일상적인 다운로드에서 체감 속도는 대개 서버 대역폭, 회선 혼잡, 왕복 지연 시간, 패킷 손실률과 전송 방식의 영향을 더 크게 받습니다.

따라서 VLESS라고 해서 반드시 더 빠르다고 단정할 수는 없습니다. 회선이 안정적이고 부하가 낮은 VMess 노드가 혼잡한 회선의 VLESS 노드보다 실제 사용감이 좋을 수도 있습니다. 반대로 같은 서버와 경로, 비슷한 설정이라면 VLESS가 간소화된 프로토콜 처리를 원하는 환경에 더 적합한 경우가 많습니다.

테스트할 때는 다른 조건을 고정해야 합니다. 같은 네트워크에서 먼저 VMess 노드를 선택해 연결 지연 시간, 처음 페이지가 열리는 시간과 지속 다운로드 성능을 기록한 다음, 같은 지역과 서버 조건의 VLESS 노드로 전환해 반복 테스트하세요. 네트워크, 클라이언트 버전과 라우팅 규칙을 동시에 바꾸면 테스트 결과로 프로토콜 차이를 판단할 수 없습니다.

Mux를 프로토콜 속도를 결정하는 고정 스위치로 보아서도 안 됩니다. Mux는 여러 논리 연결을 더 적은 하위 연결에 다중화하므로 지연 시간이 길거나 짧은 연결이 많은 환경에 적합할 수 있지만, 일부 네트워크와 서버 설정에서는 대기열이 늘거나 장시간 연결에 영향을 줄 수 있습니다. VMess와 VLESS 모두 구독 제공자의 권장 설정과 실제 측정 결과를 기준으로 판단하고, 노드 속도가 느리다는 이유만으로 고급 매개변수를 여러 개 연속해서 바꾸지 마세요.

핵심 차이 3: 클라이언트와 서버가 동시에 지원해야 함

VMess와 VLESS는 클라이언트에서만 바꾸는 표시 옵션이 아닙니다. 서버가 VMess를 수신하도록 설정되어 있으면 클라이언트도 VMess 연결을 시작해야 하고, 서버가 VLESS를 수신하면 클라이언트 역시 VLESS를 사용해야 합니다. 두 설정이 같은 서버 주소, 포트와 UUID를 사용하더라도 프로토콜이 다르면 서로 통신할 수 없습니다.

서버 코어와 클라이언트 코어는 동일한 전송 방식과 보안 필드도 지원해야 합니다. V2Ray, v2fly와 Xray는 기본 개념에서 이어지는 관계가 있지만 확장 기능과 구체적인 필드가 완전히 같지는 않습니다. 특히 REALITY, 특정 flow 또는 최신 전송 매개변수가 포함된 VLESS 노드는 해당 설정을 명확히 지원하는 코어 버전을 사용해야 합니다. 구버전 클라이언트는 필드를 무시하거나 설정 오류를 바로 표시할 수 있습니다.

구독은 수동 입력 오류를 줄이는 가장 좋은 방법입니다. 구독을 업데이트하면 서버 측에서 포트, 경로, 보안 계층과 노드 이름을 함께 변경할 수 있습니다. 사용자는 v2rayN, v2rayNG 또는 v2flyNG의 구독 그룹에서 업데이트를 실행한 뒤 새 노드를 선택하면 됩니다. 이전 노드를 수동으로 복사해 일부 필드만 덮어쓰면 이미 만료된 매개변수가 남기 쉽습니다.

v2rayN, v2rayNG와 v2flyNG에서 프로토콜 선택하기

v2rayN 데스크톱

v2rayN은 구독을 가져온 뒤 노드 내용을 기준으로 VMess 또는 VLESS를 인식합니다. 일반 사용자는 빈 설정을 먼저 만들 필요가 없습니다. 먼저 구독 주소를 추가하고 구독 그룹을 업데이트한 뒤 서버 목록에서 노드를 선택하세요. 노드는 연결되지만 브라우저에 트래픽이 없을 때는 바로 프로토콜을 바꾸지 말고 시스템 프록시 모드를 확인해야 합니다.

구독에서 여러 프로토콜을 함께 제공한다면 노드 이름이나 유형으로 먼저 필터링할 수 있습니다. 새로운 VLESS 설정을 테스트하려면 클라이언트와 코어가 모두 현재 사용 가능한 버전인지 확인하세요. 지원되지 않는 설정 필드라는 메시지가 나타나면 먼저 클라이언트를 업데이트하고 구독을 다시 업데이트하여 구형 노드의 필드를 하나씩 추측하며 수정하지 않도록 하세요.

v2rayNG 안드로이드

v2rayNG는 구독 또는 공유 링크를 통해 노드를 가져올 수 있습니다. VLESS를 가져온 뒤에는 노드 상세 정보에서 전송 방식, 보안 유형, 서버 이름과 flow가 모두 갖춰졌는지 확인하세요. 연결 버튼으로 시작되지만 네트워크가 작동하지 않는다면 앱별 프록시 범위, 라우팅 모드와 시스템 네트워크 전환 상태도 확인해야 합니다.

무선 네트워크에서 모바일 네트워크로 전환하면 기존 연결을 다시 설정해야 할 수 있습니다. 이 현상이 VMess 또는 VLESS 설정 오류를 의미하는 것은 아닙니다. 먼저 연결을 끊었다가 다시 연결한 뒤 노드를 계속 사용할 수 없는지 판단하세요. 모든 노드가 실패하면 기기 시간, 구독 업데이트와 로컬 네트워크를 확인하고, 하나의 노드만 실패하면 같은 그룹의 다른 노드로 먼저 바꿔 보세요.

v2flyNG 안드로이드

v2flyNG가 v2fly 코어를 사용할 때는 해당 코어가 지원하는 VMess, VLESS와 관련 전송 설정을 처리하는 데 적합합니다. 확장 보안 매개변수가 포함된 노드를 가져오기 전에 코어의 지원 범위를 확인하세요. 인식할 수 없는 필드가 있어도 삭제한 뒤 강제로 저장하지 마세요. 삭제 후 설정이 시작되더라도 서버와 올바른 핸드셰이크를 완료하지 못할 수 있습니다.

구독에 두 프로토콜이 함께 표시될 때의 선택 절차

  1. 먼저 구독을 업데이트하세요. 목록이 현재 구독 내용에서 가져온 것인지 확인하고 오래 보관한 이전 노드 사본은 사용하지 마세요.
  2. 노드 유형을 확인하세요. 노드 이름으로 추측하지 말고 클라이언트가 VMess 또는 VLESS로 인식하는지 확인하세요.
  3. 전체 매개변수를 확인하세요. 주소, 포트, 전송 방식, 보안 계층, SNI, 경로, 서비스 이름과 flow를 중점적으로 확인하세요.
  4. 먼저 연결을 테스트하세요. 노드를 선택하고 연결을 시작한 뒤 웹 페이지, 장시간 연결과 지속 전송이 모두 정상인지 확인하세요.
  5. 그다음 실제 성능을 비교하세요. 같은 네트워크에서 지연 시간, 패킷 손실, 속도와 네트워크 전환 후 복구 상태를 확인하세요.
  6. 예비 노드를 남겨 두세요. 주 노드는 실제 테스트에서 안정적인 구성을 선택하고, 다른 프로토콜은 회선이나 서비스 상태가 달라질 때 사용할 예비로 둘 수 있습니다.

두 프로토콜이 서로 다른 서버에서 제공된다면 테스트 결과는 주로 회선과 서버의 차이를 반영하므로 프로토콜의 우열을 판단할 수 없습니다. 서버 위치, 회선, 대역폭, 전송 방식과 부하가 비슷할 때에만 비교 결과의 참고 가치가 높아집니다.

자주 하는 실수와 연결 실패 문제 해결

VMess 링크를 VLESS로 직접 바꾸기

이렇게 바꾸면 클라이언트가 보내는 프로토콜만 달라질 뿐 서버의 수신 방식은 바뀌지 않습니다. 주소, 포트와 사용자 식별자가 같아도 연결은 실패합니다. 프로토콜을 마이그레이션하려면 서버에서 먼저 해당 인바운드를 구성한 뒤 완전한 새 노드 또는 새 구독을 생성해야 합니다.

VLESS의 encryption=none을 보고 보안 매개변수 삭제하기

encryption=none은 VLESS 프로토콜 계층의 설정을 설명하는 값이며 TLS, REALITY 같은 외부 매개변수를 삭제해도 된다는 뜻이 아닙니다. security, sni, 공개 키 또는 짧은 식별자를 삭제하면 클라이언트가 서버 요구 사항에 맞는 핸드셰이크를 완료할 수 없습니다.

가져온 뒤 지연 시간 수치만 확인하기

클라이언트의 지연 시간 테스트는 대개 특정 시점의 연결 응답만 보여 주며 지속적인 전송 품질과 같지 않습니다. 노드의 지연 시간은 낮아도 피크 시간대에 패킷 손실이나 속도 변동이 발생할 수 있습니다. 프로토콜과 노드를 선택할 때는 페이지 로딩, 지속 다운로드와 연결 유지 상태를 함께 테스트해야 합니다.

연결 실패 후 라우팅 모드만 반복해서 바꾸기

라우팅 분기는 어떤 요청을 프록시 아웃바운드로 보낼지 결정할 뿐 프로토콜 핸드셰이크 오류를 해결하지 못합니다. 노드 자체에 연결할 수 없다면 먼저 프로토콜, 서버, 포트, 사용자 식별자, 전송과 보안 매개변수를 확인하세요. 노드는 연결되지만 특정 웹사이트가 잘못된 출구로 나갈 때 라우팅 규칙을 점검하면 됩니다.

구독을 업데이트한 뒤에도 이전 설정 사용하기

일부 클라이언트는 구독을 업데이트한 뒤 수동으로 복사한 노드를 남겨 목록에 새 버전과 이전 버전이 함께 표시될 수 있습니다. 구독 그룹, 업데이트 시간과 노드 매개변수로 현재 선택한 항목을 확인하세요. 노드 이름이 같으면 포트와 보안 매개변수가 이미 업데이트되었을 수 있으므로 이름만 보고 판단하지 마세요.

최종 선택: 호환성을 우선하고 실제 테스트로 결정

VMess는 프로토콜에 비교적 완전한 인증과 데이터 처리 기능이 포함되어 있으며 기존 배포 사례와 클라이언트 호환 경험이 많습니다. VLESS는 프로토콜 계층이 더 간소화되어 TLS 또는 호환 코어가 제공하는 보안 방식과 함께 사용되는 경우가 많고, 최신 설정에서 더 자주 볼 수 있습니다. 어느 쪽도 이름만으로 속도와 안정성을 결정하는 단일 스위치는 아닙니다.

일반 사용자는 세 가지만 기억하면 됩니다. 첫째, 프로토콜은 서버와 일치해야 합니다. 둘째, 구독 매개변수는 완전하게 가져오고 직접 조합하지 마세요. 셋째, 클라이언트가 지원한다면 실제 회선 테스트로 주로 사용할 노드를 결정하세요. 구독에 VMess만 있으면 VMess를 사용하고, 완전한 VLESS 설정을 제공하며 클라이언트가 호환된다면 VLESS를 먼저 테스트해 볼 수 있습니다. 안정적으로 연결되고 라우팅이 예상대로 작동하며 네트워크 전환 후 정상적으로 복구되는 설정이 현재 환경에 더 적합한 선택입니다.

v2rayN 다운로드