캐시 메모리

캐시 메모리

 

저장 장치 계층 구조

컴퓨터가 사용하는 저장 장치들은 'CPU에 얼마나 가까운가'를 기준으로 계층적으로 나타낼 수 있음

위 계층으로 올라갈수록 CPU와 가깝고 용량은 작지만 빠른 저장 장치임. 아래 계층으로 내려갈수록 CPU와 멀고 용량은 크지만 느린 저장 장치임. 가격 또한 위 계층으로 올라갈수록 비싸고, 아래 계층으로 내려갈수록 저렴함

 

 

캐시 메모리

CPU와 메모리 사이에 위치하고, 레지스터보다 용량이 크고 메모리보다 빠른 SRAM 기반 저장 장치

캐시 메모리에 CPU가 필요로 하는 데이터가 있다면 필요한 데이터로의 접근 시간을 줄일 수 있음

 

캐시 메모리까지 반영한 저장 장치 계층 구조

 

캐시 메모리 종류

• L1: 코어와 가장 가까운 캐시 메모리
• L2: 그다음 가까운 캐시 메모리
• L3: 그다음 가까운 캐시 메모리

 

 

참조 지역성 원리

캐시 메모리는 참조 지역성의 원칙에 따라 메모리로부터 가져올 데이터를 결정함

• 캐시 히트 (cache hit): 자주 사용될 것으로 예측한 데이터가 실제로 들어맞아 캐시 메모리 내 데이터가 CPU에서 활용될 경우
• 캐시 미스 (cache miss): 캐시 메모리에 저장했지만, 예측이 틀려 메모리에서 필요한 데이터를 직접 가져와야 하는 경우 / 캐시 미스가 자주 발생하면 성능이 떨어짐
• 캐시 적중률: 캐시가 히트되는 비율 (캐시 히트 횟수 / (캐시 히트 횟수 + 캐시 미스 횟수))

 

최근에 접근했던 메모리 공간에 다시 접근하려는 경향은 무엇일까?

변수에 값을 저장하고 나면 언제든 변수에 다시 접근하여 저장된 값을 사용할 수 있음, CPU는 변수가 저장된 메모리 공간을 언제든 다시 참조할 수 있다는 것을 의미함

시간 지역성: 최근에 접근했던 메모리 공간에 다시 접근하려는 경향

 

접근한 메모리 공간 근처를 접근하려는 경향은 무엇일까?

CPU가 실행하려는 프로그램은 보통 관련 데이터들끼리 모여 있음, 하나의 프로그램 내에서도 관련 있는 데이터들은 모여서 저장됨

공간 지역성: 접근한 메모리 공간 근처를 접근하려는 경향