v2rayN 첫 설치 및 설정: Windows·macOS 공통 핵심과 자주 겪는 문제

v2rayN 데스크톱판과 클래식판의 설치 선택, 실행 환경 준비, 초기 설정부터 초보자가 자주 겪는 시스템 프록시 미적용과 포트 충돌 해결까지 다룹니다.

버전부터 선택하기: 데스크톱판·클래식판과 프로세서 아키텍처

v2rayN 설치의 첫 단계는 구독을 가져오는 것이 아니라 운영체제, 프로세서 아키텍처, 인터페이스 버전을 확인하는 것입니다. 설치 패키지를 잘못 고르면 프로그램이 실행되지 않거나 호환되지 않는 앱이라는 안내가 표시되고, 코어 프로세스가 시작 직후 종료될 수 있습니다. 먼저 시스템 정보에서 기기 유형을 확인한 뒤 다운로드 센터에서 맞는 파일을 선택하세요.

Windows 선택 방법

최근 생산된 Windows PC 대부분은 x64 아키텍처를 사용하므로 Windows x64 설치 패키지를 선택하면 됩니다. ARM 프로세서 기기는 arm64를 선택하세요. 32비트 시스템을 명확히 사용하는 경우에만 x86 패키지를 고려하면 됩니다. 시스템 설정에 “64비트 운영 체제, x64 기반 프로세서”라고 표시된다면 x86 버전을 다운로드하지 마세요.

v2rayN 데스크톱판은 여러 플랫폼을 대상으로 한 인터페이스를 사용하며, Windows와 macOS의 주요 사용 흐름이 비슷합니다. 두 데스크톱 운영체제에서 일관된 사용 방식을 원하는 사용자에게 적합합니다. 클래식판은 주로 Windows용으로, 메뉴 구성과 트레이 조작, 서버 목록 관리 방식이 오래 유지되어 기존 흐름에 익숙한 사용자에게 알맞습니다. 두 버전 모두 구독 가져오기, 노드 선택, 시스템 프록시, 라우팅 분할을 지원하지만 설정 이름과 메뉴 위치는 버전에 따라 달라질 수 있습니다.

macOS 선택 방법

macOS에서 “이 Mac에 관하여” 또는 “시스템 정보”를 열어 먼저 프로세서 유형을 확인하세요. Apple 실리콘 기기는 arm64, Intel 프로세서 기기는 x64를 선택합니다. 아키텍처가 맞지 않아도 호환 기능으로 실행될 수 있지만 코어 호출, 트레이 표시, 업데이트 과정의 문제 해결이 복잡해질 수 있으므로 첫 설치에서는 네이티브 아키텍처 패키지를 바로 사용하세요.

구버전에서 새 버전으로 이전할 때는 프로그램 파일 전체를 덮어쓰기보다 구독을 다시 가져오는 편이 좋습니다. 기존 설정에는 다른 코어 경로, 로컬 포트, 라우팅 규칙, 인터페이스 항목이 저장되어 있을 수 있어 전체 파일을 덮으면 더 이상 유효하지 않은 설정까지 함께 가져오기 쉽습니다. 사용자 지정 규칙을 보존해야 한다면 먼저 규칙 내용, 수신 대기 포트, 구독 그룹을 기록한 뒤 새 버전에서 항목별로 복원하세요.

설치 전 준비: 파일 위치·실행 권한·네트워크 상태

Windows 클래식판은 압축 파일 형태로 제공될 수 있습니다. 압축을 푼 뒤 주 프로그램을 실행하고, 압축 파일 미리보기 창에서 직접 실행하지 마세요. 프로그램은 자체 폴더에서 코어, 설정, 실행 데이터를 읽어야 합니다. 임시 미리보기 위치에서 실행하면 코어 파일을 찾지 못하거나 설정을 저장하지 못하고, 업데이트 후 파일이 흩어질 수 있습니다.

프로그램 폴더는 현재 계정에 읽기·쓰기 권한이 있는 위치에 두세요. 경로에 영문이나 한글을 사용할 수 있지만 자주 정리되는 임시 폴더는 피하는 것이 좋습니다. Windows 초기 설정에서 관리자 권한으로 계속 실행할 필요는 대개 없습니다. 시스템 수준 권한이 필요한 네트워크 기능을 활성화하거나 보안 정책이 쓰기를 명확히 차단할 때만 안내에 따라 권한을 처리하세요.

macOS에서 다운로드가 끝나면 앱을 “응용 프로그램” 폴더로 이동한 뒤 실행하세요. 네트워크에서 받은 앱을 처음 열 때 출처 확인을 요구할 수 있으며, 시스템 설정의 개인정보 보호 및 보안 페이지에서 현재 차단 이유를 확인할 수 있습니다. 파일이 공식 사이트의 다운로드 센터에서 받은 것인지 확인한 뒤 시스템 안내에 따라 허용하세요. 앱 위치를 반복해서 옮기면 시스템이 권한을 다시 기록할 수 있어 로그인 시 자동 실행이나 네트워크 권한을 다시 확인해야 할 수 있습니다.

처음 실행하기 전에 다음 세 가지 기본 상태도 확인하세요:

  1. 시스템 날짜, 시간, 시간대가 정확한지 확인하세요. 시간 오차는 TLS에 의존하는 연결에 영향을 줄 수 있습니다.
  2. 현재 네트워크가 로컬 네트워크와 자주 직접 연결하는 사이트에 정상적으로 접속되는지 확인하세요. 기본적인 인터넷 연결 문제를 노드 장애로 오해하지 않도록 해야 합니다.
  3. 로컬 프록시 포트를 사용 중인 이전 인스턴스를 종료하세요. 특히 과거에 실행했던 v2rayN 프로세스를 확인해야 합니다.

첫 실행: 코어를 확인한 뒤 로컬 포트 설정하기

v2rayN은 그래픽 클라이언트이며, 실제로 VMess, VLESS, Trojan 또는 Shadowsocks 연결을 처리하는 것은 선택한 코어입니다. 일반적인 구성에서는 Xray 코어를 사용하며, 버전에서 제공하는 옵션에 따라 V2Ray 코어를 사용할 수도 있습니다. 클라이언트는 설정 관리, 코어 호출, 시스템 프록시 전환, 실행 로그 표시를 담당합니다. 인터페이스가 열린다고 해서 코어까지 정상 실행되었다는 뜻은 아닙니다.

처음 실행한 뒤 설정 페이지에서 코어 유형과 코어 경로를 확인하세요. 버전에서 코어 검사나 버전 정보 기능을 제공한다면 먼저 한 번 실행하는 것이 좋습니다. 로그에 코어 버전, 수신 대기 주소, 시작 완료 정보가 표시되면 프로그램이 로컬 연결을 받을 수 있는 상태입니다. 실행 파일을 찾을 수 없다는 로그가 나오면 설치 패키지가 완전히 압축 해제되었는지, 프로세서 아키텍처가 올바른지, 보안 설정이 코어 실행을 차단하지 않는지 다시 확인하세요.

다음으로 로컬 수신 대기 포트를 확인하세요. 버전에 따라 SOCKS, HTTP 또는 혼합 포트를 제공하며 인터페이스의 기본값도 달라질 수 있습니다. 초보자는 현재 버전이 제시하는 기본 설정을 그대로 사용해도 되며, 이전 가이드의 특정 숫자를 억지로 맞출 필요는 없습니다. 반드시 기록해야 할 것은 “현재 실제 포트”입니다. 브라우저 수동 프록시, 개발 도구, 포트 점검 명령이 모두 이 값과 일치해야 하기 때문입니다.

로컬 수신 대기 주소는 보통 루프백 주소로 유지하며, 로컬 프로그램만 연결할 수 있도록 하세요. 다른 기기가 LAN을 통해 접속해야 하는 명확한 이유가 없다면 로컬 네트워크 연결 허용을 켜지 마세요. LAN 수신 대기를 열면 시스템 방화벽, 네트워크 환경, 접근 제어까지 함께 고려해야 하므로 첫 설치에 필요한 단계가 아닙니다.

로그에서 확인해야 할 항목

  • address already in use: 로컬 포트를 다른 프로세스가 이미 사용 중입니다.
  • connection refused: 대상 주소가 연결을 거부했습니다. 서버가 수신 대기 중이 아니거나 포트 입력이 잘못되었을 수 있습니다.
  • timeout: 제한 시간 안에 연결이 완료되지 않았습니다. 로컬 네트워크, 서버 상태, 라우팅 경로를 구분해 확인해야 합니다.
  • failed to parse: 설정 내용을 해석하지 못했습니다. 구독 변환 오류나 수동 입력한 매개변수 형식 오류에서 흔히 발생합니다.
  • 인증서 이름 또는 핸드셰이크 관련 오류: 서버 주소, SNI, 전송 방식, 보안 계층 매개변수를 우선 확인하세요.

서버 목록의 지연 시간 숫자만 보지 마세요. 지연 시간 테스트는 서로 다른 탐지 방식을 사용할 수 있어 지연 시간이 반환되더라도 대상 사이트 접속이 보장되지는 않습니다. 반대로 특정 탐지에 응답하지 않는 서버라도 실제 프록시 연결은 정상일 수 있습니다. 설정 사용 가능 여부는 코어 로그, 실제 연결 테스트, 구독 매개변수의 완전성을 기준으로 판단하세요.

구독 가져오기: 업데이트·그룹·노드 선택

구독 주소를 받았다면 구독 그룹 관리에서 새 항목을 추가하세요. 이름은 로컬 식별용이므로 서비스 용도나 회선 유형을 적으면 됩니다. 주소는 앞뒤에 공백이나 줄바꿈이 섞이지 않도록 완전히 복사해야 합니다. 저장한 뒤 구독 업데이트를 실행하고 서버 목록에 설정이 나타나야 가져오기가 완료된 것입니다. 구독 주소만 저장하고 업데이트하지 않으면 노드가 자동으로 생성되지 않습니다.

구독 업데이트에 실패하면 먼저 주소가 만료되지 않았는지, 현재 네트워크에서 구독 서버에 접속할 수 있는지 확인한 뒤 업데이트 로그를 살펴보세요. 같은 구독을 여러 번 추가하지 마세요. 중복 그룹은 같은 이름의 노드를 만들어 현재 설정의 출처를 판단하기 어렵게 합니다. 업데이트 후 노드 수는 서비스 제공자가 게시한 내용에 따라 달라지며, 업데이트 버튼을 반복해서 눌러 늘릴 수 없습니다.

노드를 선택할 때는 프로토콜과 매개변수가 완전한지 중점적으로 확인하세요. VMess 설정에는 보통 사용자 식별자, 전송 방식, 보안 설정이 포함됩니다. VLESS는 TLS, Reality, SNI, 지문 또는 흐름 제어 매개변수에 의존할 수 있습니다. Trojan은 올바른 비밀번호와 보안 계층 정보가 필요하고, Shadowsocks는 일치하는 암호화 방식과 비밀번호가 필요합니다. v2rayN은 구독 내용에 따라 설정을 생성하므로 서버 설정을 정확히 모르는 상태에서 이러한 항목을 임의로 수정하지 마세요.

노드를 선택한 뒤 활성 서버로 지정해야 합니다. 목록에서 한 행이 강조 표시되었다고 해서 전환이 완료된 것은 아닐 수 있습니다. 상태 표시줄, 트레이 메뉴 또는 로그에 표시되는 현재 서버 정보를 확인하세요. 전환 후 코어는 보통 설정을 다시 불러오므로 잠시 기존 연결이 끊길 수 있으며, 이는 설정 재로드에 따른 정상적인 현상입니다.

시스템 프록시 모드: 노드는 정상인데 브라우저가 프록시를 사용하지 않는 이유

코어가 시작되면 로컬에 프록시 진입점이 열릴 뿐입니다. 앱이 이 진입점을 통과하는지는 시스템 프록시, 앱 자체 프록시 또는 다른 트래픽 가로채기 방식에 달려 있습니다. 첫 설치에서 가장 흔한 문제는 서버 테스트와 코어 로그는 정상이지만 브라우저가 계속 직접 연결하는 경우입니다. 대개 프로토콜 오류가 아니라 시스템 프록시가 아직 활성화되지 않은 것이 원인입니다.

v2rayN에서 “시스템 프록시 설정”을 선택하면 클라이언트가 현재 로컬 프록시 주소를 운영체제에 기록합니다. 시스템 프록시를 따르는 대부분의 브라우저와 데스크톱 프로그램은 이 설정을 읽습니다. 설정이 끝나면 브라우저를 닫았다가 다시 열어 테스트하세요. 일부 실행 중인 프로그램은 시작할 때만 프록시 상태를 읽으므로 시스템 설정 변경에 즉시 반응하지 않습니다.

시스템 프록시의 일반적인 모드는 다음과 같이 이해할 수 있습니다:

  • 시스템 프록시 해제: v2rayN이 기록한 프록시 설정을 제거하고, 앱이 시스템의 기존 네트워크 방식으로 연결하도록 되돌립니다.
  • 자동 구성 또는 규칙 모드: 구성 스크립트나 규칙에 따라 어떤 요청을 로컬 프록시로 보낼지 시스템이 결정합니다.
  • 전역 프록시: 시스템 프록시를 따르는 요청을 모두 v2rayN으로 보낸 뒤, 코어가 최종 출구를 라우팅 규칙에 따라 결정합니다.

“시스템 프록시 규칙”과 “코어 라우팅 규칙”은 서로 다른 계층입니다. 시스템 프록시는 트래픽이 v2rayN에 들어갈지를 결정하고, 코어 라우팅은 들어온 트래픽을 프록시로 보낼지 직접 연결할지 차단할지를 결정합니다. 특정 앱이 시스템 프록시를 전혀 읽지 않는다면 코어 라우팅을 바꿔도 자동으로 프록시에 들어가지 않습니다. 이때는 해당 앱에 별도의 HTTP 또는 SOCKS 프록시 설정이 있는지 먼저 확인하세요.

macOS에서는 시스템 네트워크 설정의 프록시 페이지에서 현재 서비스에 HTTP, HTTPS 또는 SOCKS 항목이 입력되었는지 확인할 수 있습니다. Windows에서는 시스템 프록시 설정에서 주소와 포트를 확인하세요. 수동으로 점검할 때는 포트가 v2rayN의 현재 수신 대기 값과 반드시 일치해야 합니다. 시스템 페이지에 이전 포트가 남아 있다면 먼저 v2rayN에서 시스템 프록시를 해제한 뒤 다시 설정하세요.

라우팅 분할: 먼저 기본 설정을 사용하고 사용자 지정 규칙은 나중에

라우팅 분할은 코어에 들어온 연결이 어느 출구로 나갈지 결정합니다. 처음부터 사용자 지정 도메인과 IP 규칙을 많이 추가하는 것은 권장하지 않습니다. 먼저 버전에서 제공하는 기본 프리셋을 선택해 프록시 연결과 직접 연결이 모두 작동하는지 확인한 뒤 실제 필요에 따라 규칙을 추가하세요. 이렇게 하면 문제가 서버, 시스템 프록시, 라우팅 규칙 중 어디에서 발생했는지 명확히 판단할 수 있습니다.

규칙은 보통 순서대로 매칭되므로 앞의 규칙이 뒤의 규칙보다 먼저 적용될 수 있습니다. 도메인 규칙은 요청의 도메인을, IP 규칙은 해석된 주소를 매칭하며, 프로세스 규칙은 클라이언트와 운영체제가 해당 식별 방식을 지원하는지에 따라 달라집니다. 규칙을 수정한 뒤에는 설정을 다시 불러오고 로그에서 실제로 어떤 규칙이 적용되었는지 확인하세요.

DNS도 라우팅 분할 결과에 영향을 줍니다. 도메인 규칙을 사용하지만 앱이 먼저 도메인을 IP로 해석한 뒤 순수 IP 연결을 프록시에 넘기면 코어가 원래 도메인을 확인하지 못할 수 있습니다. 반대로 DNS 요청과 실제 연결이 서로 다른 출구를 사용하면 현재 회선에 적합하지 않은 주소를 받을 수도 있습니다. 초기 설정에서는 DNS 구성을 단순하게 유지하고, 기본 연결이 안정된 뒤 중국 본토·해외 도메인 그룹, 원격 해석, 더욱 세밀한 오염 방지 규칙을 설정하세요.

“전역 프록시”를 모든 기기의 모든 트래픽이 반드시 서버를 거친다는 뜻으로 이해하지 마세요. 시스템 프록시만 설정하면 여전히 이를 우회하는 앱이 있을 수 있고, LAN의 다른 기기가 자동으로 연결되는 것도 아닙니다. 더 많은 유형의 트래픽을 처리해야 한다면 클라이언트가 제공하는 TUN 기능을 살펴볼 수 있지만, 가상 네트워크 어댑터, 시스템 권한, DNS 가로채기, 라우팅 테이블 변경이 필요하므로 첫 설치의 첫 단계로는 적합하지 않습니다.

자주 발생하는 문제 1: 시스템 프록시가 적용되지 않음

시스템 프록시가 적용되지 않을 때는 여러 옵션을 동시에 바꾸지 말고 정해진 순서대로 점검하세요.

  1. v2rayN 주 프로그램이 계속 실행 중인지 확인하고 트레이에서 아이콘을 찾으세요.
  2. 코어 로그를 확인해 로컬 수신 대기가 정상적으로 설정되었는지 확인하세요.
  3. 현재 서버가 활성 서버로 지정되었는지 확인하세요. 목록에서 선택만 된 상태가 아닐 수 있습니다.
  4. 시스템 설정에서 프록시 주소가 로컬 주소인지, 포트가 클라이언트 설정과 일치하는지 확인하세요.
  5. 테스트할 브라우저나 앱을 다시 시작해 이전 프로세스에 남은 프록시 설정을 배제하세요.
  6. 잠시 기본 라우팅 프리셋을 사용해 사용자 지정 규칙이 대상을 직접 연결이나 차단 출구로 잘못 분류했는지 확인하세요.

브라우저는 프록시로 정상 접속되는데 특정 앱 하나만 작동하지 않는다면 먼저 해당 앱의 네트워크 설정을 확인하세요. 일부 프로그램은 독립 프록시를 사용하고, 일부는 HTTP 프록시만 지원하며, 시스템 프록시를 완전히 무시하는 프로그램도 있습니다. 이때는 서버를 반복해서 바꾸기보다 v2rayN의 로컬 주소와 해당 프로토콜 포트를 앱 설정에 입력하는 편이 효과적입니다.

모든 앱이 연결되지 않지만 시스템 프록시를 끄면 직접 연결이 복구된다면 코어가 종료되었는지 확인하세요. 시스템 프록시는 요청을 로컬 포트로 보낼 뿐이므로 해당 포트를 수신하는 프로세스가 없으면 웹페이지가 즉시 연결 실패로 표시되는 경우가 많습니다. 코어를 다시 시작해도 실패하면 포트 충돌과 설정 해석 오류를 확인하세요.

자주 발생하는 문제 2: 포트 충돌과 중복 프로세스

포트 충돌은 구버전 v2rayN이 완전히 종료되지 않았거나, 프로그램이 비정상 종료된 뒤 코어 프로세스가 백그라운드에 남아 있거나, 다른 네트워크 도구가 같은 포트를 사용할 때 흔히 발생합니다. 로그의 address already in use는 직접적인 신호입니다. 여러 클라이언트 인스턴스를 연속으로 실행하지 말고 먼저 해당 포트를 수신 중인 프로세스를 찾으세요.

Windows에서는 PowerShell에서 예시 포트 10808을 확인할 수 있습니다. 실제 설정이 이 포트가 아니라면 명령의 숫자를 현재 값으로 바꾸세요:

Get-NetTCPConnection -State Listen |
  Where-Object LocalPort -eq 10808 |
  Select-Object LocalAddress, LocalPort, OwningProcess

프로세스 번호를 확인한 뒤 작업 관리자의 “세부 정보”에서 프로세스 이름을 대조하세요. 남아 있는 v2rayN 또는 코어 프로세스인지 확인했다면 먼저 클라이언트 메뉴에서 정상적으로 종료하세요. 인터페이스를 조작할 수 없을 때만 해당 프로세스를 종료해야 합니다. 이름을 확인하지 않은 채 시스템 프로세스를 일괄 종료하지 마세요.

macOS에서는 터미널에서 같은 예시 포트를 확인할 수 있습니다:

lsof -nP -iTCP:10808 -sTCP:LISTEN

포트를 반드시 유지해야 하는 다른 서비스가 사용 중이라면 v2rayN에서 로컬 수신 대기 포트를 변경할 수 있습니다. 변경 후 시스템 프록시와 수동 프록시를 사용하는 앱도 함께 확인하세요. 클라이언트 포트만 바꾸고 앱의 포트를 업데이트하지 않으면 코어는 정상 실행되지만 앱은 연결되지 않습니다.

중복 프로세스는 로그인 시 자동 실행에서도 발생할 수 있습니다. 새 버전과 구버전이 동시에 자동 시작으로 설정되어 있으면 시스템 로그인 후 같은 포트를 차례로 차지하려 합니다. 이전이 끝나면 현재 사용하는 버전의 자동 시작 항목만 남기고 기존 프로그램은 종료되었는지 확인하세요. Windows에서는 시작 앱 목록을, macOS에서는 로그인 항목과 백그라운드 확장 프로그램을 확인할 수 있습니다.

자주 발생하는 문제 3: 구독 업데이트는 성공했지만 노드에 연결되지 않음

구독 업데이트 성공은 클라이언트가 구독 내용을 가져와 해석했다는 뜻일 뿐, 모든 서버가 온라인이라는 의미는 아닙니다. 노드에 연결되지 않으면 먼저 같은 구독의 다른 설정으로 전환하세요. 여러 설정이 동시에 시간 초과되면 로컬 네트워크, 구독 유효 상태, 서버 공지를 확인하고, 한 항목만 실패한다면 해당 노드의 주소, 포트, 프로토콜 매개변수를 중점적으로 살펴보세요.

구독 노드를 수동으로 수정하면 다음 업데이트 때 서버 내용으로 덮어써질 수 있습니다. 임시 테스트가 필요하다면 설정을 복사한 뒤 수정하고 원본 구독 노드를 비교용으로 보관하세요. 서로 다른 노드의 SNI, 전송 경로, 사용자 식별자, Reality 매개변수를 섞어 사용하지 마세요. 이러한 항목은 해당 서버 설정과 일치해야 합니다.

프로토콜 선택은 구독 내용에 따라야 합니다. 클라이언트가 특정 프로토콜을 지원한다고 해서 현재 서버를 임의로 그 프로토콜로 바꿀 수 있는 것은 아닙니다. VMess, VLESS, Trojan, Shadowsocks는 인증 및 전송 매개변수가 서로 다르므로 프로토콜 이름만 바꿔 변환할 수 없습니다. 일반 사용자는 구독으로 전달된 완전한 설정을 그대로 사용하세요.

설치 후 안정적인 사용을 위한 점검 목록

초기 설정을 마친 뒤에는 재현 가능한 기본 상태를 하나 유지하는 것이 좋습니다. 정상적으로 업데이트되는 구독 그룹 하나, 검증된 서버 하나, 기본 로컬 포트, 기본 라우팅 프리셋, 명확한 시스템 프록시 상태를 준비하세요. 이후 문제가 발생하면 먼저 이 상태로 되돌린 뒤 사용자 지정 설정을 하나씩 복원하세요.

  • 클라이언트를 업데이트하기 전에 현재 버전, 코어 유형, 로컬 포트, 라우팅 프리셋을 기록하세요.
  • 구독을 업데이트한 뒤 현재 활성 서버가 여전히 존재하는지 확인하세요.
  • 네트워크를 바꾼 뒤에는 이전 지연 시간 결과에만 의존하지 말고 실제 연결 테스트를 다시 실행하세요.
  • 클라이언트를 종료할 때 시스템 프록시가 예상한 상태로 복원되었는지 확인하세요.
  • 문제가 발생하면 먼저 해당 시간대의 로그를 저장한 뒤 프로그램을 다시 시작하세요. 중요한 오류가 덮어써지는 것을 막을 수 있습니다.
  • 사용자 지정 규칙은 한 번에 한 그룹만 수정하고, 수정 후 다시 불러와 적용 결과를 확인하세요.

Windows와 macOS는 인터페이스 위치가 다르지만 문제 해결 순서는 같습니다. 먼저 클라이언트 프로세스를 확인하고, 다음으로 코어 프로세스를 확인합니다. 이어서 로컬 포트와 시스템 프록시를 확인하고, 구독 매개변수를 검증한 뒤 라우팅과 DNS를 점검하세요. 이 순서를 따르면 “프로그램이 열리지 않음”, “노드에 연결되지 않음”, “브라우저가 프록시를 사용하지 않음”을 별개의 문제로 나누어 여러 설정 페이지를 오가며 시행착오를 반복하지 않을 수 있습니다.

v2rayN 다운로드