IOPS와 지연시간

이 글을 읽기 전에 아래 글 (TPS와 응답시간)을 읽어보길 권한다.

performance.tistory.com/4

 

스토리지의 대표적인 성능 지표 역시 처리량 (Throughput)이다. 그리고 응답시간 대신 지연시간 (Latency)이라는 용어를 사용한다.

 

1. IOPS

IOPS (Input Output Operations per Second)는 스토리지에서 사용되는 용어다.

정보시스템에서 사용하는 TPS와 마찬가지로, 스토리지의 대표적인 성능 지표로서 처리량을 나타내는 단위이며, 해당 스토리지 시스템의 성능을 평가하는 KPI이다.

 

IOPS

• 초당 발생하는 IO Operations (건/sec)
• IOPS = 총 IO Operation 처리건수 / 단위시간 (sec)
• 스토리지의 주요 성능 Factor

 

 

2. Latency

호스트의 I/O 요청에 대해 스토리지가 처리하는 시간을 지연시간 (Latency)이라고 하며, 응답시간과 동일한 의미라고 할 수 있다.

다만, 네트워크 구간과 Tier 간 서비스 타임이 별도로 존재하는 정보시스템의 응답시간과 달리, 스토리지 내부에서 처리하는데 소요된 시간만을 나타낸다.

 

Latency

 

즉, 호스트 (서버)I/O가 스토리지에 도착하는 순간부터 Cache 메모리를 거쳐 실제 물리적인 디스크의 데이터를 Read/Write 하고, 그 결과를 다시 HBA (Host Bus Adapter)를 통해 외부 (호스트)로 내보내기 직전까지의 시간을 의미한다. 즉, Front-End에서 시작하여 Front-End에서 끝나게 되며, Front-End 포트는 Latency 측정의 기준점이 된다.

 

Latency = Storage Processing Time from FE port to FE port

 

 

3. IOPS와 Latency의 상관 관계

호스트의 I/O Request가 증가할 수록 처리량 (IOPS)이 선형적으로 증가하다 특정 시점에 이르면 더 이상 증가하지 않고 일정 수준을 유지하게 된다. 포화점/임계점 (Saturation point)에서는 해당 스토리지의 최대 성능치 (IOPS)를 확인한 것이며, 더 이상의 부하는 처리량을 증가시킬 수 없고, Little's law에 의해 Latency만 증가하게 된다. (IOPS = Threads / Latency)

 

Correlation between throughput and latency