REALITY와 XTLS Vision 원리와 설정: VLESS 전송 성능을 높이는 방법

핸드셰이크 흐름을 통해 REALITY가 대상 사이트의 TLS 특성을 활용하는 방식과 XTLS Vision의 중복 암호화 감소 원리를 설명합니다. 클라이언트에서 flow와 공개 키를 설정하는 방법도 확인해 보세요.

핵심 내용

VLESS 노드를 이미 받아 REALITY와 Vision 설정을 확인하려는 사용자를 위한 안내입니다. REALITY는 클라이언트와 프록시 서버 사이의 보안 핸드셰이크를 담당하고, Vision은 핸드셰이크 이후 일부 데이터를 전달하는 방식에 관여합니다. 두 계층을 구분하면 주소나 공개 키 설정이 맞지 않는 문제인지, 연결은 됐지만 네트워크 경로나 애플리케이션에 병목이 있는지 판단하기 쉽습니다.

REALITY 핸드셰이크: 노드 주소, SNI, 대상 사이트

일반적인 노드 설정은 네 계층으로 나뉩니다. VLESS는 프록시 프로토콜, TCP(일부 화면에서는 RAW)는 전송 방식, REALITY는 보안 계층, XTLS Vision은 VLESS의 flow 제어 모드입니다. 브라우저로 HTTPS 사이트를 열면 별도의 TLS 세션도 생성됩니다. 이는 브라우저와 실제 웹사이트 사이의 암호화 연결이며, 프록시 서버나 REALITY의 대상 사이트에서 끝나는 연결이 아닙니다.

노드 연결클라이언트 인사핸드셰이크 검증사용자 인증트래픽 전달

클라이언트는 먼저 노드 설정에 지정된 주소와 포트에 연결한 뒤, 서버 이름 표시(SNI)가 포함된 TLS ClientHello를 보냅니다. 양쪽은 REALITY의 키 정보를 사용해 핸드셰이크를 검증하고, 서버는 Short ID 등의 핸드셰이크 매개변수도 확인합니다. 이 단계가 통과된 다음 VLESS 요청을 처리하고 사용자 ID로 계정을 식별합니다. 따라서 포트에 연결된다고 REALITY 검증까지 통과한 것은 아니며, REALITY 검증에 성공해도 VLESS 사용자 설정이 올바르다는 뜻은 아닙니다.

XTLS Vision: 줄여 주는 중복 암호화 처리

브라우저에서 HTTPS 파일을 다운로드한다고 가정해 보겠습니다. 브라우저는 파일 데이터를 이미 TLS 레코드로 감쌉니다. 프록시 연결에서도 이 레코드를 다시 외부 TLS로 감싸면 같은 데이터에 외부 계층의 암호화와 복호화, 레코드 처리가 추가됩니다. Vision은 직통 전달 조건을 충족하는 내부 TLS 트래픽을 식별한 뒤, 프록시 연결에서 해당 내부 레코드를 그대로 전달해 이 외부 처리 부담을 줄일 수 있습니다. 브라우저와 웹사이트 사이의 TLS 암호화는 계속 유지되며, 웹사이트 인증서도 브라우저가 검증합니다.

  1. 초기 구간: 먼저 외부 보안 연결 안에서 프록시 프로토콜을 처리하며 내부 핸드셰이크를 확인합니다. Vision은 연결의 첫 바이트부터 직통 전달을 시작하지 않습니다.
  2. 직통 전달 조건 충족: 이후 해당 데이터는 내부 TLS의 보호를 받으며 전달됩니다. 파일이 클수록 전송이 지속되는 시간이 길어져 외부 처리 감소 효과가 나타날 가능성이 커집니다.
  3. 직통 전달 조건 미충족: 일반 평문 애플리케이션 트래픽이나 모든 TLS 트래픽이 직통 전달되는 것은 아닙니다. 적합한 내부 TLS가 없다면 동일한 처리 경로나 성능 향상을 기대하기 어렵습니다.

따라서 제목에서 말하는 ‘더 빠른’ 전송은 우선 지속적인 데이터 전송의 CPU 부담을 줄일 가능성을 뜻하며, 웹페이지를 열 때마다 속도가 빨라진다는 보장은 아닙니다. 작은 페이지의 첫 바이트 시간은 DNS 조회, TCP 연결, TLS 핸드셰이크, 웹사이트 응답에 좌우되는 경우가 많습니다. 대용량 파일 전송량도 서버 업로드 대역폭, 네트워크 혼잡, 로컬 접속 속도에 먼저 제한될 수 있습니다.

v2rayN 설정 확인: Flow, 공개 키, Short ID

구독 또는 공유 링크에서 노드를 가져온 뒤 v2rayN 기본 화면의 노드 목록에서 해당 노드를 두 번 클릭해 편집 창을 열고 항목별로 확인합니다. 직접 추가하려면 ‘서버’ 메뉴에서 VLESS 서버 추가를 선택하면 됩니다. 버전에 따라 항목의 분류나 대소문자가 다를 수 있습니다. 먼저 유형이 VLESS인지 확인하고 연결 항목과 REALITY 보안 항목을 나눠 살펴보세요.

VLESS 연결 설정

주소
노드 도메인 또는 IP 주소
포트
서버에서 실제로 수신 대기하는 포트
사용자 ID
서버에서 할당한 VLESS 사용자 식별자
전송 방식
노드 설정에 따라 TCP 또는 해당 RAW 항목 선택
Flow
xtls-rprx-vision (해당 사용자에 Vision이 활성화된 경우)

Flow는 서버의 사용자 설정과 일치해야 합니다. 보안 유형이 REALITY라는 이유만으로 입력하면 안 됩니다.

REALITY 보안 설정

보안 유형
reality
서버 이름 / SNI
서버에서 허용한 이름입니다. 공유 링크에서는 보통 sni를 사용합니다.
공개 키 / Public key
서버 키 쌍에 대응하는 클라이언트 측 값입니다. 공유 링크에서는 보통 pbk를 사용합니다.
Short ID
서버에서 허용한 값입니다. 공유 링크에서는 보통 sid를 사용합니다.
지문
노드 설정에 맞춰 선택합니다. 공유 링크에서는 보통 fp를 사용합니다.

공개 키는 웹사이트 인증서도 서버의 개인 키도 아닙니다. 개인 키는 서버에 보관됩니다.

아래 수치는 설정 항목을 확인하기 위한 값이며 성능 측정 결과가 아닙니다. 포트 443은 흔히 쓰이는 값일 뿐입니다. Short ID는 16진수로 표기하며, 비어 있지 않은 값은 문자 수가 짝수여야 합니다. 앞자리의 0을 삭제하지 마세요. 공개 키의 32바이트는 X25519 원시 키의 길이로, 화면에 표시되는 인코딩 문자열의 문자 수를 뜻하지 않습니다.

443
일반적인 TCP 수신 대기 포트
16
Short ID 16진수 문자 수 상한
32바이트
X25519 원시 공개 키 길이

가져온 뒤 핸드셰이크 실패: 원본 노드 설정부터 확인

문제가 발생한 노드를 두 번 클릭한 다음 포트, SNI, 공개 키, Short ID를 하나씩 대조하세요. 구독을 갱신한 뒤 같은 그룹의 노드 여러 개가 동시에 실패한다면 제공 서버에서 설정값을 변경했는지 먼저 확인합니다. 웹사이트 인증서를 공개 키 대신 사용하거나 보안 핸드셰이크 실패를 해결하려고 Flow를 바꾸지 마세요.

테스트 방법: 핸드셰이크 시간, 전송량, 리소스 사용량 구분

Vision을 비교하려면 관리 권한이 있는 서버에 동일한 코어, 전송 방식, 보안 계층을 사용하는 연결을 두 개 미리 설정합니다. 하나에는 Vision을 활성화하고 다른 하나에는 활성화하지 않으며, 각각의 클라이언트와 서버 Flow 설정을 일치시킵니다. 원래 Vision이 필요한 노드에서 클라이언트의 Flow만 지우면 연결 가능 여부만 확인할 수 있을 뿐, 성능 차이를 측정할 수는 없습니다.

  1. 테스트 경로 고정: 같은 기기에서 같은 애플리케이션으로 동일한 HTTPS 테스트 리소스에 접속합니다. 시스템 프록시 또는 TUN 접속 방식, 분할 라우팅 규칙, 서버, 테스트 시간을 동일하게 유지하고 요청이 실제로 테스트 대상 노드를 사용하는지 확인하세요.
  2. 두 항목을 나눠 기록: 새 연결로 첫 바이트 시간을 측정한 뒤, 안정적인 전송 구간에 도달할 만큼 충분한 크기의 동일한 파일로 처리량을 측정합니다. 전송 중 클라이언트와 서버의 Xray 프로세스 CPU 사용량도 기록할 수 있습니다. 기기 전체 CPU 사용량으로 대신하지 마세요.
  3. 번갈아 반복 측정: 각 조건을 최소 3회씩 측정하고 중앙값을 비교합니다. 처리량은 비슷하지만 Xray 프로세스의 CPU 사용량이 감소했다면 주된 효과는 리소스 절감일 수 있습니다. 한 번의 측정에서만 속도가 크게 올랐다면 먼저 다시 측정하고 네트워크 변동 여부를 살펴보세요.

REALITY와 Vision 자주 묻는 질문

구독에 REALITY가 표시되는데 Flow가 비어 있는 이유는 무엇인가요?

REALITY와 Vision은 서로 독립적인 설정입니다. 먼저 노드 제공자가 해당 사용자에게 Vision을 활성화했는지 확인하세요. 원본 설정에는 Flow 값이 있는데 가져온 뒤 비어 있다면 편집 창의 프로토콜 유형과 클라이언트 버전을 확인합니다. 원본 설정도 비어 있다면 그대로 두세요.

포트 연결은 되는데 지연 시간 테스트가 실패하는 이유는 무엇인가요?

TCP 포트 테스트는 연결 설정까지만 확인합니다. 프록시 요청을 다시 보내면서 v2rayN 코어 로그를 확인하세요. 연결 시간 초과가 발생하면 주소, 포트, 네트워크 연결 상태부터 점검합니다. 로그에 REALITY 핸드셰이크 오류가 표시되면 SNI, 공개 키, Short ID를 확인하고 기기 시간이 동기화되어 있는지도 살펴보세요. 핸드셰이크 후 거부된다면 VLESS 사용자 ID와 Flow를 확인합니다.

Android로 옮겨도 같은 링크를 사용할 수 있나요?

먼저 Xray 코어를 사용하는 v2rayNG로 가져온 뒤 노드 편집 화면에서 REALITY, Flow, 공개 키, Short ID가 유지됐는지 확인하세요. v2flyNG는 V2Fly 코어를 사용하므로 특정 링크를 가져올 수 있다는 이유만으로 해당 Xray 설정을 실행할 수 있다고 단정할 수 없습니다.

특정 애플리케이션만 열리지 않으면 공개 키를 다시 입력해야 하나요?

같은 노드로 다른 애플리케이션의 요청이 이미 프록시를 통해 전달된다면 핸드셰이크 설정은 그대로 두세요. 해당 애플리케이션이 시스템 프록시를 따르는지, TUN을 활성화한 경우 관련 라우팅 규칙에 따라 직접 연결로 전송되는지 확인합니다. 그런 다음 로그를 살펴 도메인 조회, 아웃바운드 선택, 대상 웹사이트 응답 중 어디에서 문제가 발생했는지 판단하세요.

v2rayN 다운로드