조회가 몰리는 메인 화면 데이터를 Redis로 캐싱했는데, 캐시 TTL(60초)이 만료되는 순간마다 DB CPU가 튀고 응답이 느려집니다. 캐시 적중률은 평소 99%인데 1초 정도 출렁입니다.
TTL을 늘리면 데이터가 오래 낡고, 줄이면 더 자주 튑니다. 어떻게 잡나요?
환경: Redis 7, 요청 피크 시 초당 수천 건
조회가 몰리는 메인 화면 데이터를 Redis로 캐싱했는데, 캐시 TTL(60초)이 만료되는 순간마다 DB CPU가 튀고 응답이 느려집니다. 캐시 적중률은 평소 99%인데 1초 정도 출렁입니다.
TTL을 늘리면 데이터가 오래 낡고, 줄이면 더 자주 튑니다. 어떻게 잡나요?
환경: Redis 7, 요청 피크 시 초당 수천 건
댓글 1
전형적인 캐시 스탬피드(cache stampede / thundering herd)입니다. 인기 키가 동시에 만료 → 모든 요청이 미스 → 한꺼번에 DB로 몰리는 현상이죠. 세 가지를 조합하면 거의 사라집니다.
1) 재계산 락(single-flight) — 미스 시 한 요청만 DB를 치고, 나머지는 잠깐 기다리거나 옛 값 사용
2) TTL 지터 — 만료 시각을 ±랜덤으로 흩어 동시 만료 방지:
EX 60 + rand(0..15)3) 만료 전 비동기 갱신(stale-while-revalidate) — TTL이 끝나기 전에 백그라운드로 미리 새로 채우고, 그동안은 옛 값을 제공. 사용자는 항상 캐시 히트를 보고 DB는 1요청만 처리합니다.
가장 효과 큰 건 1번(락)입니다. 인기 키 한두 개가 원인이면 락만 넣어도 스파이크가 거의 없어집니다.