[Network] GSLB (Global Server Load Balancing)

GSLB 는 Global server load balancing, 또는 Global service load balancing 의 약어로, 도메인을 이용한 로드밸런싱 구현 기술이다. 개념을 구체적으로 알아보기 전에 먼저 로드밸런싱의 의미와 종류부터 간략히 알아보자. 

✨   로드밸런싱 개요

로드밸런싱이란 "부하 분산"으로, 중앙 장치에서 자원 또는 부하를 여러 개로 나누어 실제 작업을 처리하는 기술이다. 가령, 하나의 서버에 모든 요청이 몰리지 않도록 중간에서 요청을 일정하게 나누어 여러 대에 순서대로 보내주는 서버가 있다면, 해당 서버가 로드밸런서의 역할을 하는 것이다. 

 

로드밸런싱 기술은 기능과 역할에 따라 크게 3가지 종류로 나뉜다. 

 

📍  SLB (Server Load Balancing)

- 하나의 서버에 트래픽이 집중되는 것을 분산시키기 위한 스위칭 기술이다.

- OSI L4, L7 계층의 스위치를 이용한다. 

- SLB - NLB (Network Load Balancing): L4에서 이루어지는 부하 분산으로, IP 주소나 목적지 포트 등의 정보에 따라 라우팅을 달리 하는 기술이다. 

- SLB - ALB (Application Load Balacing) : L7에서 이루어지는 부하 분산으로, HTTP 헤더와 같은 요소를 계산하여 요청을 분산시키는 기술이다. 

 

📍  FWLB (FireWall Load Balancing)

- 방화벽: 미리 정의된 보안 규칙에 기반하여 네트워크 트래픽을 모니터링하고 제어하는 보안 시스템이다. (신뢰할 수 있는 네트워크 허용, 신뢰할 수 없는 네트워크 거부/검열 등) 

- FWLB 는 여러 대의 방화벽을 추가하여 통신 흐름을 안정적으로 유지해주는 역할을 한다. 

- 주로 내/외부 SLB 사이에 위치한다. 

 

SLB 와 FWLB 의 관계

 

📍 GSLB (Global Server Load Balancing 또는 Multi-site Load Balancing)

이번 글에서 다루게 되는 로드밸런싱 기술이다. (추후 서술) 

 

 

✨   로드밸런싱 알고리즘 

로드밸런싱을 수행하는 로드밸런서들은 저마다 사전에 정해진 알고리즘대로 요청을 처리한다. 주요 로드밸런싱 알고리즘은 다음과 같다.

 

📍  Round Robin

가장 단순하고, 많이 사용되는 알고리즘이다. 세션을 순차적으로 맺어주는 방식이며, 세션을 받게 되는 서버가 현재 처리하고 있는 요청의 수에는 관여하지 않는다. 그저 큐 (queue) 의 첫 번째 순서에 있는 서버에 할당한 뒤, 해당 서버를 큐의 마지막으로 보내는 방식이다. 다만 Weighting 옵션이 지원되는 round robin 알고리즘의 경우, 서버별 특징 (요청 수행 능력, 크기 등)을 감안하여 가중치를 두어 분산을 진행한다. 

 

📍  Least Connections 

트래픽이 가장 적은 서버에게 요청을 전달하는 알고리즘이며, 부하가 몰릴 때 성능을 최적화기에 제일 적합하다. 요청이 들어오는 순간에 서버의 유효한 (open) 세션 수를 센 다음, 가장 적은 수의 Open session 을 가진 서버에 세션을 부과하는 방식이다. Round robin 과 마찬가지로 weighting 옵션이 지원된다. 

 

📍  Least Response Time

Least Connection 알고리즘에 응답 속도 계산을 추가한 알고리즘이다. 즉, 트래픽이 가장 적고 응답 속도가 빠른 서버를 최우선으로 두고, 응답 속도가 느린 쪽으로 세션을 적게 보낸다. 서버별 자원이나 데이터 양이 다른 경우 자주 사용된다.

 

📍  Hashed IP 

IP 주소마다 요청을 보낼 서버를 고정시켜놓고 요청이 들어올때마다 해당 서버로만 전달하는 알고리즘이다. 즉, 출발지와 목적지 IP 주소를 조합하여 유일한 해시값을 생성한 후, 해당 해시값이 할당되어 있는 서버를 매칭하는 방식이다. 접속한 유저의 수가 많을 경우, 부하 분산이 골고루 이루어진다. 

 

📍  Minimum Misses

Hashed IP 와 유사한 방식으로, 서버 한 대가 사라지는 경우 해당 서버에 할당되었던 사용자 (또는 IP) 에 대해 재할당 작업을 하는 알고리즘이다. 재할당 대상이 되는 IP 주소를 (32bit) 남은 서버의 대수로 나눈 나머지 값으로 서버를 결정한다. 

 

📍  Bandwidth Based

네트워크 대역폭을 고려하여 세션을 할당하는 알고리즘이다. 

 

 

✨   GSLB 개요와 동작 방식

DNS 에서 보관하고 관리하는 도메인에는 다양한 내용을 매핑할 수 있는 레코드가 존재한다. 그 중 기본 레코드인 A(IPv4) 레코드는 도메인 주소를 IP 주소로 변환하는 레코드이다. 하나의 도메인 주소는 하나의 IP 주소와 매핑되는데, 이때 여러 개의 도메인 주소가 하나의 동일한 IP 주소와 연결될 수도 있고 (A), 여러 개의 IP 주소가 하나의 동일한 도메인에 연결될 수도 있다 (B).

 

B의 경우, 하나의 도메인을 통해 여러 곳의 IP 주소로 요청이 전달되므로 이 또한 일종의 로드밸런싱 기술이다. 그러나 일반 DNS 서버에서는 연결된 IP 주소의 서버 상태를 확인하지 못하기 때문에 서버에 문제가 발생했을 때에도 요청이 계속 들어가게 된다. 이를 해결하기 위해 GSLB 가 구현되었다.

 

GSLB 는 DNS 서버와 로드밸런서의 역할을 동시에 수행한다고 볼 수 있다. 로드밸런서는 DNS 서버에서 제공하지 않는 헬스체크 (Health Check) 기능을 제공한다. 헬스체크란 연결된 다수의 서버의 상태를 주기적으로 확인하여 (패킷 전송) 서버의 상태가 통신 불가능인 경우 서비스에서 제외해, 서비스를 원활하게 제공하기 위한 기능이다.

 

GSLB 에서 헬스체크를 한다는 것은, 연결된 도메인이 정상적으로 작동하고 있는지를 확인하는 것이다. GSLB 는 주기적으로 헬스 체크를 수행함으로써 정상적으로 서비스되는 IP 주소로만 응답을 보내게 된다. 이러한 역할을 수행하기 때문에 GSLB를 '인텔리전스 DNS' (Intelligent DNS) 라고 칭하기도 한다. 

 

💡 헬스 체크는 어떻게 이루어지는가? 

사용자가 설정한 주기에 따라 GSLB 서버에서 정해진 IP 주소로 네트워크 패킷을 전송하게 된다. 이때 정상적인 응답이 돌아오면 해당 IP 주소는 사용 가능 상태로 남겨두지만, 응답이 돌아오지 않거나 오류값이 반환될 경우에는 패킷을 재전송한다. 정해진 재전송 횟수 이내에 정상적인 응답이 돌아오지 않는 경우, 해당 IP 주소는 사용 불가 상태가 된다. 

 

📌 GSLB 동작 방식

다음 그림을 통해 GSLB 가 부하를 분산하는 방법을 알아보자. 

 

그림 1

 

<시나리오 설명> 
1. 클라이언트는 브라우저 창에 도메인을 입력한다. 이때, 클라이언트에서 LDNS (Local DNS) 에 DNS 쿼리를 날린다.

   - 클라이언트: "LDNS 야, web.google.com 의 IP 주소 있니?"
2. LDNS에 IP 주소가 없으면, 연결되어 있는 DNS 서버에 동일한 DNS 쿼리를 날린다. 
   - LDNS: "난 없는데, DNS 야 넌 있니?"
3. DNS 에 해당 도메인에 대한 정보가 존재하는 경우, 정보를 포함한 응답을 반환한다. 
   - DNS: "web.google.com 에 대한 권한은 GSLB 에 위임했어, GSLB 한테 물어볼 수 있도록 GSLB 의 IP 주소를 줄게"
4. LDNS 는 DNS 로부터 받은 정보를 토대로 GSLB 에 쿼리를 날린다. 
   - LDNS: "GSLB 너에게 web.google.com 에 대한 정보가 있다는 것을 들었다. IP 주소 내놔라" 
5. GSLB 는 해당 도메인과 연결된 모든 IP 주소에 대해 헬스체크를 수행하고, 알고리즘 결과에 따라 IP 주소를 반환한다. 
   - GSLB: "응 IP 주소가 총 10개 있는데, 방금 확인해본 결과 5개만 살아있네. 그 중에 우리 알고리즘 결과가 뱉어낸 이 IP 주소를 줄게"

6. LDNS 는 GSLB 로부터 web.google.com 의 IP 주소를 받고, 캐싱을 한 뒤, 클라이언트에게 전달한다. 
7. 클라이언트는 최종 응답받은 IP 주소로 패킷을 보낸다. 

 

💡GSLB 의 부하 분산 알고리즘

GSLB 역시 앞서 설명했던 로드밸런서의 여러 부하 분산 알고리즘 중 하나를 선택하여 로드밸런싱을 수행한다. 물론 GSLB 의 특성상 더욱 자주 사용되는 알고리즘이 있으며, 이는 다음과 같다. 

- 서비스 응답 시간 / 지연 (RTT/Latency) : 요청에 대한 응답, 지연을 검토해 분산 처리

- IP 에 대한 지리 정보 (Geolocation) : 서비스 제공이 가능한 각 IP 의 지리적 위치를 확인해 가까운 곳으로 분산 처리 (Multi CDN 을 사용하는 경우, 사용자에게 가장 가까운 region 의 주소를 반환할 수 있음) 

 

📌 GSLB 구성

DNS 에는 "레코드" 값들이 존재한다. 레코드란 DNS 상에서 도메인에 관한 설정을 하기 위해 사용되는 문자들로, 레코드의 일부를 GSLB 에 등록하냐, 전부를 등록하냐에 따라 GSLB 의 구성 방식이 달라진다. 

1. 도메인의 모든 레코드를 GSLB 에서 관리 (도메인 자체를 GSLB 로 사용)
2. 도메인 내의 특정 레코드만 GSLB 에서 사용

케이스 1의 경우 도메인에 대한 네임 서버를 GSLB 로 지정하고, 해당 GSLB 에서 모든 레코드를 등록해 처리하게 된다. 이 경우 모든 레코드에 대한 질의가 GSLB 에 들어오기 때문에 오히려 GSLB 의 부하가 늘어날 수 있는 문제가 발생한다. 

케이스 2의 경우 GSLB 를 사용하고자 하는 레코드만 GSLB 에 등록할 수 있다. 이렇게 일부만 GSLB 로 이관하는 방식 역시 두 가지이다.
2-1. CNAME 레코드 사용: 별칭 (Alias)
   - CNAME 레코드: 별칭 이름을 사용하게 해주는 레코드, 도메인과 도메인 주소를 매핑함 
   - ex) www.google.com <-> google.com 
2-2. NS 레코드 사용: 위임 (Delegation)
   - NS 레코드: 도메인에 대한 권한이 있는 네임 서버 정보를 설정하는 레코드 

그림 1을 다시 참조하며 케이스 2-1, 2-2 가 동작하는 방식을 알아보자.

 

그림 1

<2-1>
1. 클라이언트 -> LDNS 질의
2. google.com의 DNS 서버 주소를 받고, DNS 서버로 질의 
3. DNS 에서 google.com 의 매핑 정보 확인, CNAME 레코드인 www.google.com 응답 
4. LDNS 는 다시 www.google.com 에 대한 DNS 질의 
5. DNS 서버에서 www.google.com 은 GSLB 에서 관리하고 있다는 정보 응답 -> 해당 GSLB 찾아감 
6. 이하 그림 1의 5~7번 시나리오와 동일함 

<2-2>
케이스 2-2는 2-1과 거의 비슷하지만, 3번 단계에서 CNAME 이 아닌 해당 도메인에 대한 GSLB IP 를 바로 반환한다는 점에서 차이가 있다. NS 레코드를 사용하는 위임의 장점은 계층화된 도메인에 대해 일괄적인 처리가 가능하다는 것이다. 예를 들어 web.google.com 을 특정 GSLB 에 위임했다면 a.web.google.com 도, b.web.google.com 도 전부 같은 GSLB 에서 처리된다. 

 

 

📌 GSLB vs LB 

GSLB 와 일반 로드밸런서의 차이점이 무엇인지 잘 보이지 않을 수 있다. 하지만 GSLB 의 본질은 여러 개의 데이터센터 중 어느 곳에 트래픽을 전달할지 결정하는 것이며, 일반 로드밸런서의 본질은 하나의 데이터센터 내에 위치한 여러 대의 서버에 트래픽을 분산시키는 것이다. 또한, GSLB 는 경로를 지정해주는 것에만 관여하며, 연결이 성립된 뒤로는 클라인트-애플리케이션 간 직접적인 통신이 이루어진다. 

 

 

 

✨   참고자료

• IT 엔지니어를 위한 네트워크 입문 (길벗)
• What is GSLB? 
• GSLB란?
• Load Balancer and Types
• It wiki - 부하 분산