Fault Tolerance

마이크로서비스 아키텍처에서 서비스는 분산 네트워크 호출의 웹을 형성합니다. 이를 통해 팀은 독립적으로 서비스를 구축하고 확장할 수 있지만 시스템의 전반적인 안정성은 가장 약한 링크만큼만 강력하다는 의미이기도 합니다. 중요한 서비스가 다운되거나 응답하지 않게 되면 전체 애플리케이션을 중단시키는 연쇄 오류가 발생할 수 있습니다. 단일 종속성이 실패하는 순간 일반적인 “500 내부 서버 오류” 또는 빈 페이지를 사용자에게 반환하는 것은 좋지 않은 사용자 경험입니다. 대신, 문제가 발생할 경우 정상적으로 성능이 저하되도록 탄력적인 시스템이 구축됩니다.

마이크로서비스 아키텍처에서 서비스는 메모리 내 호출이 아닌 네트워크를 통해 통신합니다. 이러한 분리를 통해 대규모 수평 확장과 독립적 배포가 가능하지만 네트워크가 불안정합니다라는 주요 취약점도 발생합니다. 언제든지 다운스트림 서비스에서 짧은 네트워크 결함, 일시적인 CPU 스파이크, 빠른 데이터베이스 잠금 경합 또는 롤링 업데이트 다시 시작이 발생할 수 있습니다. 이러한 일시적인 오류를 일시적 오류라고 합니다. 다운스트림 호출이 실패하는 순간 서비스에서 즉시 오류가 발생하고 요청이 실패하면 취약한 사용자 환경이 조성됩니다. 대신, 이러한 일시적인 오류 중 상당수는 잠시 기다렸다가 다시 시도하면 자동으로 해결될 수 있습니다. 여기서 재시도 패턴이 사용됩니다.

마이크로서비스 아키텍처에서는 단일 애플리케이션이 수십 또는 수백 개의 독립적인 협업 서비스로 구분됩니다. 이 설계는 모듈성과 확장성을 향상시키지만 다음과 같은 주요 위험도 발생합니다. 한 서비스에 장애가 발생하면 전체 시스템이 중단될 수 있습니다. 다운스트림 서비스가 느려지거나 응답하지 않으면 업스트림 서비스로 들어오는 요청이 쌓이기 시작합니다. 모두 동일한 메모리, CPU 또는 스레드 풀을 공유하는 경우 종속성이 느려지면 사용 가능한 모든 리소스가 빠르게 소진되어 전체 애플리케이션이 중단될 수 있습니다.