캐시 (Cache) 메모리가 크면 성능이 더 좋을까?

일반적으로, 캐시 메모리 (Cache memory)가 크면 성능이 좋은 것으로 알려져 있다. 또한, 캐시 메모리를 증설하면 성능이 더 향상되는 것으로 알고 있다.

물론, 틀린 것은 아니지만, 반드시 그런 것 또한 아니다.

 

먼저, 메모리의 용도와 동작 방식을 살펴보자.

디스크의 실행 파일을 실행시켰을 때, 해당 파일과 관련 라이브러리 등이 메모리로 로드된다. 이때 프로그램이 돌아가면서 필요한 데이터도 저장하고 캐싱의 역할도 할 것이다. 이렇게 여러 종류의 프로그램이 실행되면서 메모리 공간을 차지하게 된다. 만일 이런 와중에 메모리 공간이 부족하면 기존의 일부 데이터를 디스크로 내려써서 (Disk Swapping) 빈 공간을 확보하여 메모리 사용에 문제가 없도록 가상 메모리 기법을 이용한다. 

 

즉, 메모리가 필요한 용량보다 작다면, 빈 메모리 공간을 찾기 위해 적용된 알고리즘에 따라 오래된 컨텍스트를 디스크로 내려 보낸 후, 필요한 파일을 메모리로 불러들이는 작업이 발생하여 성능 저하를 겪을 수밖에 없고, 메모리 공간이 충분하다면, (디스크 스와핑 없이) 필요한 데이터를 모두 메모리에 상주시키면서 재활용 (Caching)할 수 있다.

 

메모리를 추가할 경우, 기존의 메모리 공간이 부족한 상태였다면, 디스크 스와핑이 사라지고 캐시 히트율도 높아져 성능이 좋아지겠지만, 부족하지 않은 경우에는, 이전과 다를 바가 없다.

PC를 예로 들면, 8GB 메모리로 오피스, 그래픽, CAD 프로그램을 동시에 사용하는 유저라면, 16GB로 증설 시 성능이 눈에 띄게 개선되지만, 인터넷만 사용하는 유저가 16GB로 증설했을 때에는 성능 향상을 체감하기 어려운 것과 같다.

 

어떤 제품의 캐시 메모리 사이즈가 더 크기 때문에 성능이 더 좋다고 말하는 것은, 엄밀히 말해, 성능이 더 좋을 수 있는 확률이 높은 것이지, 반드시 그러하다는 뜻은 아니다. 스토리지에서는 시스템 레벨의 워크로드에 따라 캐시 메모리의 부족 여부가 달라질 수 있다.

 

 

정리

• 캐시 메모리는 필요한 만큼만 필요하다. 많다고 좋은 것만은 아니다.
• 메모리가 부족한 경우, 추가 시 성능이 개선되나, 적정량 이상일 때는 성능 변화가 없다.
• 즉, 캐시 히트율 (Cache Hit Ratio)이 99% 이상인데, 메모리 사이즈를 2배 늘린다 한들, 여전히 그 수준이다.
• 메모리 사이즈와 성능의 관계는 이러한 것이다.