AncomWiki

The Tail at Scale

Properties1
description대규모 온라인 서비스에서 시스템 규모와 활용도가 증가함에 따라 지연 시간(latency) 분포의 꼬리(tail)가 전체 성능에 지배적인 영향을 미친다. 본 논문은 '지연 시간 꼬리 내성(latency tail-tolerant)' 시스템의 필요성을 제기하며, 예측 불가능한 구성 요소들로 예측 가능한 응답성을 갖춘 전체 시스템을 구축하는 접근법을 설명한다. 고지연 에피소드의 공통 원인을 분석하고, 이를 완화하거나 시스템 성능에…

10 min read

The Tail at Scale

Source

  • Evernote/Papers/The Tail at Scale.md

Summary

대규모 온라인 서비스에서 시스템 규모와 활용도가 증가함에 따라 지연 시간(latency) 분포의 꼬리(tail)가 전체 성능에 지배적인 영향을 미친다. 본 논문은 ‘지연 시간 꼬리 내성(latency tail-tolerant)’ 시스템의 필요성을 제기하며, 예측 불가능한 구성 요소들로 예측 가능한 응답성을 갖춘 전체 시스템을 구축하는 접근법을 설명한다. 고지연 에피소드의 공통 원인을 분석하고, 이를 완화하거나 시스템 성능에 미치는 영향을 줄이는 기법들을 제시한다. 이러한 기법들은 기존 장애 허용(fault-tolerance) 자원을 활용하여 추가 오버헤드를 최소화하며, 과도한 프로비저닝 없이 시스템 활용도를 높일 수 있음을 보인다.

Key Points

  • 사용자 경험에 영향을 미치는 고지연(latency tail) 문제는 시스템 규모가 커질수록 전체 성능을 지배하게 된다.
  • 예측 불가능한 개별 구성 요소들로 예측 가능한 응답성을 가진 전체 시스템을 만드는 ‘지연 시간 꼬리 내성(tail-tolerant)’ 설계가 필요하다.
  • 고지연 에피소드의 원인을 분석하고, 그 심각도를 낮추거나 시스템 전체 성능에 미치는 영향을 완화하는 기법들을 제시한다.
  • 기존 장애 허용(fault-tolerance) 인프라를 활용하여 추가 오버헤드 없이 고지연 문제를 해결할 수 있다.
  • 이러한 접근은 시스템 활용도를 높이는 동시에 불필요한 과잉 프로비저닝을 방지한다.

그래프 뷰

백링크