6. Client LoadBalancer - Ribbon

Server Side LoadBalancer

• 일반적인 L4 Switch 기반의 Load Balancing
  • Client는 L4의 주소만 알고 있음
  • L4 Swicth는 Server의 목록을 알고 있음 (Server Side Load Balancing)
  • H/W Server Side Load Balancer 단점
    • H/W가 필요 (비용 up, 유연성 down)
    • 서버 목록의 추가를 위해서는 설정 필요 (자동화 어려움)
    • Load Balancing Schema가 한정적 (RR, Sticky)
  • 12 factors의 dev/prod를 만족하기 어려움 (상용과 개발의 동일함을 가지기가 어렵다)

 

Client LoadBalancer - Ribbon

• Client (API Caller : 호출하는 쪽에서) 에 탑재되는 S/W 모듈
• 주어진 서버 목록에 대해서 Load Balancing을 수행함.
• Ribbon의 장점
  • H/W가 필요 없이 S/W로만 가능
  • 서버 목록의 동적 변경이 자유롭다 (설정파일에서 변경)
  • Load Balancing Schema를 마음대로 구성 가능
• Intercepter 기반으로, 설정 정보에 등록된 값으로 변경해준다.
• 기본으로 LoadBalancing 알고리즘은 RR임.

 

Ribbon 설정 방법

@Bean
@LoadBalanced
public RestTemplate restTemplate() {
	return new RestTemplate();
}

public static final String URL = "http://product/products/";

product:
  ribbon:
    listOfServers: localhost:8082, localhost:8083

• 위와 같이 설정하면 RR으로 Ribbon이 두 서버로 로드밸런싱을 해줌

 

Ribbon Retry 기능

product:
  ribbon:
    listOfServers: localhost:8082, localhost:8083
    MaxAutoRetries: 0
    MaxAutoRetriesNextServer: 1

• 만약에 8083 포트의 서버가 장애가 나서 요청이 실패한 경우,  List에 있는 다른 서버로 다시 시도하도록 설정할 수 있다.
• MaxAutoRetries : 해당 서버에 몇 번 재시도 할 것인지 설정값
• MaxAutoRetriesNextServer : 현재 서버 말고 다른 서버 몇 대에 시도 할 것인지에 대한 설정값

 

Ribbon 정리

• Ribbon은 여러 Component에 내장되어 있으며, 이를 통해 Client Load Balancing이 수행 가능함.
• Ribbon에는 매우 다양한 설정이 가능함 (서버 선택, 실패 시 skip 시간, ping 체크 등)
• Ribbon에는 Retry 기능이 내장되어 있음.
• Eureka와 함께 사용될 때 강력하다.