티스토리 뷰
Netflix OSS
- 플랫폼(AWS) 안의 여러 컴포넌트와 자동화 도구를 사용하면서 파악한 패턴과 해결 방법을 블로그, 오픈 소스로 공개.
Spring Cloud
- Spring Cloud는 Spring boot를 기반으로 MSA 구축에 특화된 라이브러리들의 집합
- Spring Cloud에는 Eureka, Hystrix, Ribbon, Zuul 등 많은 넷플릭스 OSS가 통합되어 있음.
모놀리틱에서의 의존성 호출
- 모놀리틱에서의 의존성 호출은 100% 신뢰!
Failure as a First Class Citizen (Failure -> 가장 중요하게 고려해야하는 요소)
- 분산 시스템, 특히 클라우드 환경에선 실패는 일반적인 표준이다.
- 모놀리틱엔 없던 장애 유형
- 한 서비스의 가동율 최대 99.99%
- 10억 요청 중 0.3 실패 → 300만 요청이 실패
- 모든 서비스들이 이상적인 uptime을 갖고 있어도 매 달마다 2시간 이상의 downtime이 발생
Circuit Breaker - Hystrix
- 분산 시스템에서의 Latency Tolerance and Fault Tolerance
Hystrix 적용하기
@HystrixCommand
public String anyMethodWithExternalDependency() {
URI uri = URI.create("http://172.32.1.22:8090/recommended");
String result = this.restTemplate.getForObject(uri, String.class);
return result;
}
- 위의 메소드를 호출할 때 벌어지는 일
- 이 메소드 호출을 “Intercept” 하여 “대신” 실행
- 실행된 결과의 성공 / 실패 (Exception) 여부를 기록하고 “통계”를 낸다.
- 실행 결과 “통계”에 따라 Circuit Open 여부를 판단하고 필요한 “조치”를 취한다.
- Circuit Open
- Circuit이 오픈된 Method는 (주어진 시간동안) 호출이 “제한”되며, “즉시” 에러를 반환한다.
- 특정 메소드에서의 지연 (주로 외부 연동에서의 지연) 이 시스템 전체 Resource를 (Thread, Memory등) 를 모두 소모하여 시스템 전체의 장애를 유발한다.
- 특정 외부 시스템에서 계속 에러를 발생 시킨다면, 지속적인 호출이 에러 상황을 더욱 악화시킨다.
- 장애를 유발하는 (외부) 시스템에 대한 연동을 조기에 차단 (Fail Fast) 시킴으로서 나의 시스템을 보
호한다. - 기본 설정
- 10초동안 20개 이상의 호출이 발생 했을때 50% 이상의 호출에서 에러가 발생하면 Circuit Open
- Circuit Open 여부는 통계를 기반으로 한다.
- 최근 10초간 호출 통계 (metrics.rollingStats.timeInMilliseconds : 10000)
- 최소 요청 갯수(20) 넘는 경우만 (circuitBreaker.requestVolumeThreshold : 20)
- 에러 비율 넘는 경우(50%) (circuitBreaker.errorThresholdPercentage : 50)
- 한번 Circuit이 오픈되면 5초간 호출이 차단되며, 5초 경과후 단 “1개”의 호출을 허용하며 (Half-Open), 이것이 성공하면 Circuit을 다시 CLOSE하고, 여전히 실패하면 Open이 5초 연장된다(circuitBreaker.sleepWindowInMilliseconds : 5000)
- Circuit이 오픈된 경우의 에러 처리는? -> Fallback
- Fallback method는 Circuit이 오픈된 경우 혹은 Exception이 발생한 경우 대신 호출될 Method.
- 장애 발생시 Exception 대신 응답할 Default 구현을 넣는다.
// fallback 메소드 이름을 넣는다.
@HystrixCommand(commandKey = “ExtDep1”, fallbackMethod=“recommendFallback”)
public String anyMethodWithExternalDependency1() {
URI uri = URI.create("http://172.32.1.22:8090/recommended");
String result = this.restTemplate.getForObject(uri, String.class);
return result;
}
// fallback 메소드 선언
public String recommendFallback() {
return "No recommend available";
}
- 오랫동안 응답이 없는 메소드에 대한 처리 방법은 ? -> Timeout
- 설정하지 않으면 default 1,000ms
- 설정 시간동안 메소드가 끝나지 않으면 (return / exception) Hystrix는 메소드를 실제 실행중인 Thread에 interrupt() 를 호출 하고, 자신은 즉시 HystrixException 을 발생시킨다.
- 물론 이경우에도 Fallback이 있다면 Fallback을 수행
@HystrixCommand(commandKey = “ExtDep1”, fallbackMethod=“recommendFallback”,
commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "500")
})
public String anyMethodWithExternalDependency1() {
URI uri = URI.create("http://172.32.1.22:8090/recommended");
String result = this.restTemplate.getForObject(uri, String.class);
return result;
}
public String recommendFallback() {
return "No recommend available";
}
[참고 및 출처]
www.youtube.com/watch?v=iHHuYGdG_Yk&list=PL9mhQYIlKEhdtYdxxZ6hZeb0va2Gm17A5&index=4
댓글
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 인터셉터
- Handler Interceptor
- blocking
- 프로그래머스 Level 1
- non-blocking
- 필터
- 프로그래머스 Level 2
- 프로그래머스 Level 3
- 비동기
- Asynchronous
- 동기
- Synchronous
- 논블로킹
- Filter
- 프로그래머스
- 핸들러 인터셉터
- http://www.nextree.co.kr/p6960/
- 코딩테스트 고득점 Kit
- 해시
- a
- 블로킹
- 스택/큐
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
글 보관함