로드밸런서란?

로드밸런서는 무엇일까?

로드밸런서(Load Balancer)는 클라이언트와 서버 그룹 사이에 위치해 서버에 가해지는 트래픽을 여러 대의 서버에 고르게 분배하여 특정 서버의 부하를 덜어준다. 서버는 하나인데 많은 트래픽이 몰릴 경우 부하를 감당하지 못하고 서버가 다운되어 서비스가 작동을 멈출 수 있다. 

로드밸런서는 단순히 트래픽을 분산시키는 기능을 넘어 서비스의 가용성을 높이고 장애 발생 시 신속하게 대응할 수 있는 중요한 인프라 요소이다. 예를 들어 인기 있는 전자상거래 사이트나 소셜 미디어 플랫폼에서는 매일 수백만 건의 요청이 발생하며 이 모든 요청을 효율적으로 처리하기 위해서는 다수의 서버가 필요하다. 로드밸런서는 이러한 다수의 서버들 간에 트래픽을 고르게 분배하여 각 서버가 최적의 성능을 발휘할 수 있도록 돕는다.

또한 클라우드 컴퓨팅과 마이크로서비스 아키텍처의 도입으로 인해 서버 환경이 더욱 복잡해지면서, 로드밸런서의 역할은 더욱 확대되고 있다.

왜 로드밸런서를?

대량 트래픽에 의한 서버 과부하

웹 서비스가 성장하면서 점점 더 많은 사용자들이 동시에 접속하게 되면 한 개의 웹 서버에 대량의 트래픽이 집중될 수 있다. 이러한 경우 서버는 다음과 같은 문제를 겪게 된다.

• 서버 과부하: 서버는 처리할 수 있는 용량을 초과하게 되어 응답 속도가 느려지거나, 최악의 경우 서버가 다운될 수 있다.
• 서비스 중단: 서버가 트래픽을 감당하지 못해 다운되면 사용자들은 웹 서비스에 접속할 수 없게 된다.

이러한 문제를 해결하기 위해서는 서버 확장이 필요합니다. 서버 확장은 크게 두 가지 방식으로 나누어진다.

• 수직적 확장(Vertical Scaling): 서버 자체의 성능을 업그레이드하는 방식으로 CPU나 메모리 등 하드웨어 자원을 추가하여 서버의 처리 능력을 높인다.
• 수평적 확장(Horizontal Scaling): 여러 대의 서버를 추가하여 트래픽을 분산시키는 방식으로 로드밸런서를 통해 여러 서버에 트래픽을 나눠줌으로써 성능을 향상시킨다.

배포 시의 문제

웹 어플리케이션을 새 버전으로 배포할 때도 문제가 발생할 수 있다.

• IP 주소 변경: 새로운 서버에 웹 어플리케이션을 배포하면 IP 주소가 변경돤다. 이 경우 기존 클라이언트들이 새로운 서버에 접속하기 어려워진다.
• 서비스 중단: 기존 서버에서 새로운 버전을 배포하는 경우 기존 서비스를 정지하고 새 버전을 구동하는 동안 서비스가 일시적으로 중단될 수 있다.

이러한 문제를 해결하기 위해 로드밸런서(Load Balancer)를 웹 서버 앞단에 두는 방식이 사용된다. 로드밸런서는 다음과 같은 역할을 수행한다.

로드밸런서의 역할

트래픽 분산

로드밸런서가 웹 서버의 앞단에서 트래픽을 관리하면 웹 클라이언트는 로드밸런서의 고정된 IP로 요청을 보낸다. 로드밸런서는 들어온 모든 요청을 받아 여러 웹 서버에 분산시킨다.

• 트래픽 이슈 해결: 로드밸런서 뒤에 있는 서버들의 수를 늘리기만 하면 아무리 많은 요청이 들어와도 서버에 과부하가 걸리지 않고 트래픽이 고르게 분산된다. 이를 통해 수평적 확장을 통해 서버의 처리 능력을 무한히 확장할 수 있다.
• 배포 이슈 해결: 클라이언트는 로드밸런서의 IP 주소만 알고 있기 때문에 웹 서버의 수가 변하거나 서버가 중지되더라도 클라이언트는 이를 알 수 없다. 새로운 서버를 추가하거나 기존 서버를 교체해도 서비스가 중단되지 않고 계속 운영될 수 있다.

장애 조치 (Failover)

만약 한 서버가 고장나거나 응답하지 않으면 로드밸런서는 자동으로 다른 정상적인 서버로 트래픽을 전환한다. 이를 통해 서비스의 연속성을 유지할 수 있다.

• 서비스 연속성 보장: 서버가 고장났을 때도 로드밸런서는 다른 서버로 요청을 자동 전환하여 사용자에게 중단 없는 서비스를 제공한다.
• 자동 복구: 로드밸런서는 장애가 발생한 서버를 인식하고 이를 자동으로 제외시키며 복구된 서버를 다시 트래픽 분산 대상에 포함시킨다.

확장성 (Scalability)

로드밸런서를 사용하면 서버를 수평적으로 확장(Scale-out)할 수 있다. 즉 트래픽이 증가할 때 새로운 서버를 추가하여 처리 능력을 확장할 수 있다.

• 유연한 확장: 로드밸런서를 사용하면 필요에 따라 서버를 쉽게 추가할 수 있어 트래픽 증가에 유연하게 대응할 수 있다.
• 비용 효율성: 수평적 확장은 개별 서버의 성능보다 저렴한 서버 여러 대로 트래픽을 처리할 수 있어 비용이 효율적이다.

SSL 종료 (SSL Termination)

로드밸런서는 SSL 인증서를 관리하고 클라이언트와 서버 간의 SSL 암호화를 해제하는 역할을 할 수 있다. 이를 통해 개별 서버의 부담을 줄일 수 있다.

• 서버 부담 감소: SSL 해제를 로드밸런서에서 처리함으로써 개별 서버는 암호화/복호화 작업에서 해방되어 더 많은 리소스를 애플리케이션 처리에 집중할 수 있다.
• 중앙 집중 관리: SSL 인증서를 로드밸런서에서 관리함으로써 보안 설정이 중앙에서 일관되게 적용되고 유지 관리가 용이해진다.

로드밸런서의 유형

• 하드웨어 로드밸런서: 물리적 장비로 구현된 로드밸런서로 높은 성능과 신뢰성을 제공한다. 하지만 초기 설치 비용이 크고 유연성이 떨어질 수 있다.
• 소프트웨어 로드밸런서: 클라우드 환경에서 자주 사용되며 유연성과 비용 측면에서 이점이 있지만 성능은 하드웨어 로드밸런서에 비해 낮을 수 있다.
• DNS 기반 로드밸런서: DNS 레벨에서 트래픽을 분산시키는 방식으로 글로벌 서비스에서 주로 사용된다.

로드밸런싱 알고리즘

• 라운드 로빈 (Round Robin): 서버에 순차적으로 트래픽을 분배한다. 간단하고 균등하게 분배할 수 있지만 서버의 성능이나 현재 부하는 고려하지 않는다.
• 최소 연결 (Least Connection): 현재 연결 수가 가장 적은 서버에 트래픽을 보낸다. 서버의 부하를 실시간으로 반영할 수 있어 효율적이다.
• 해시 기반 (Hashing): 특정 속성(예: 클라이언트 IP 주소)을 기반으로 트래픽을 분배한다. 특정 클라이언트의 요청이 항상 동일한 서버로 가도록 할 때 유용하다.
• 가중치 기반 (Weighted Round Robin): 서버의 성능에 따라 가중치를 부여하여 트래픽을 분배한다. 성능이 좋은 서버에 더 많은 트래픽을 보내는 방식이다.

로드밸런서의 장단점

장점

• 가용성 증가: 장애 발생 시 자동으로 다른 서버로 전환되어 서비스가 중단되지 않는다.
• 성능 최적화: 여러 서버에 트래픽을 분산시켜, 서버 자원을 효율적으로 활용할 수 있다.
• 보안 강화: SSL 종료 기능 등을 통해 서버의 보안 부담을 줄일 수 있다.

단점

• 복잡성 증가: 설정과 관리가 복잡할 수 있으며 유지보수 비용이 발생할 수 있다.
• 비용: 하드웨어 로드밸런서의 경우 초기 설치 비용이 크고 소프트웨어 로드밸런서도 클라우드 비용이 발생할 수 있다.
• 단일 실패 지점 (Single Point of Failure): 로드밸런서 자체가 고장나면 전체 시스템이 영향을 받을 수 있다. 이를 방지하기 위해 로드밸런서 이중화가 필요하다.

참고문헌

로드밸런서(Load Balancer)란? : AWS와 로드 밸런싱(Load Balancing) 개념 정리

로드 밸런싱이란? | IBM