[Caching] 캐싱의 원리 와 목적

캐싱(Caching)

• Cache : 성능 향상 을 위해 값을 복사해놓는 임시 기억 장치
• Cache에 복사본을 저장해놓고 읽음으로서 속도가 느린 장치로의 접근 횟수를 줄임
• Cache의 데이터는 원본이 아니며 언제든 사라질 수 있다

캐시의 적용

• 네트워크 지연 감소
• 서버 리소스 사용감소
• 병목현상 감소
• 원칙 :  더 빠르고 값사게 가져올 수 있다면 캐시를 사용한다.

캐싱 관련 개념들

• 캐시 적중 (Cache Hit) : 캐시에 접근해 데이터를 발견함
• 캐시 미스(Cache Miss) : 캐시에 접근했으나 데이터를 발견하지 못함
• 캐시 삭제 정책(Eviction Policy) : 캐시의 데이터 공간 확보를 위해 저장된 데이터를 삭제
• 캐시 전략 : 환경에 따라 적합한 캐시 운영 방식을 선택 할 수 있음(Cache-Aside, Write-Through..)

1. 캐싱 전략 _ Cache-Aside( Lazy Loding)

• 항상 캐시를 먼저 체크하고, 없으면 원본(ex: DB)에서 읽어온 후에 캐시에 저장함
• 장점
  • 필요한 데이터만 캐시에 저장되고, Cache Miss가 있어도 치명적이지 않음
• 단점
  • 최초 접근은 느림, 업데이트 주기가 일정하지 않기 때문에 캐시가 최신 데이터가 아닐 수 있음
• 순서
  1. Cache 읽기 시도
  2. (Cache에 데이터가 없을시) DB 원본 읽기
  3. Cache 쓰기

2. 캐싱 전략 _  Write-Through

• 데이터를 쓸 때 항상 캐시를 업데이트 하여 최신 상태를 유지함
• 장점
  • 캐시가 항상 동기화 되어 있어 데이터가 최신이다.
• 단점
  • 자주 사용하지 않는 데이터도 캐시되고, 쓰기 지연시간이 증가하낟.
• 순서
  1. Cache 쓰기
  2. DB 쓰기
  3. Cache 읽기(항상 최신)

3. 캐싱 전략 _ Write-Back

• 데이터를 캐시에만 쓰고, 캐시의 데이터를 일정 주기로 DB에 업데이트
• 장점
  • 쓰기가 많을 경우 DB 부하를 줄일 수 있음
• 단점
  • 캐시가 DB에 쓰기 전에 장애가 생기면 데이터 유실 가능
• 순서
  1. 캐시에만 쓰기
  2. 일정 주기로 DB업데이트

데이터 제거 방식

캐시에서 어떤 데이터를 언제 제거할 것인가?

• Expiration : 각 데이터에 TTL (Time-To-Live)을 설정해 시간 기반으로 삭제
• Eviction Algorithm : 공간을 확보해야 할 경우 어떤 데이터를 삭제할지 결정하는 방식
  • LRU(Least Recently Used) : 가장 오랫동안 사용되지 않은 데이터를 삭제
  • LFU(Least Frequently Used) : 가장 적게 사용된 데이터를 삭제(최근에 사용되었더라도)
  • FIFO(First In First Out) :  먼저 들어온 데이터를 삭제

Spring Boot Cache Annotation

Annotation	설명
@Cacheable	메소드에 캐시를 적용한다.(Cache-Aside 패턴 수행)
@CachePut	메소드의 리턴값을 캐시에 설정한다.
@CacheEvict	메소드의 키값을 기반으로 캐시를 삭제한다.