Go 서비스 p99 지연이 가끔 수백 ms로 튑니다 — GC가 원인일까요?

Question

Go로 만든 API의 p99 지연이 평소 20ms인데 가끔 300ms 넘게 튑니다. 트래픽·CPU는 평이하고 특정 엔드포인트와 무관하게 전역적으로 출렁입니다. GC 때문일까요?

환경: Go 1.23, 컨테이너 구동

김영삼 · Accepted Answer

"전역적·주기적 스파이크"는 GC stop-the-world 또는 메모리 압박일 가능성이 큽니다. 먼저 측정하세요. # GC 추적 GODEBUG=gctrace=1 ./app # GC 빈도·일시정지 시간 로그 # 또는 runtime/metrics, pprof로 GC pause·heap 확인 흔한 원인·대응 할당이 너무 잦음 — GC를 자주 부릅니다. pprof alloc 프로파일로 핫스팟을 찾아 객체 재사용(sync.Pool), 슬라이스 미리 할당으로 줄이세요. GOGC 기본(100) — 메모리 여유가 있으면 GOGC=200~300으로 올려 GC 빈도를 낮추면 지연 스파이크가 줄어듭니다. 컨테이너 메모리 인지 — GOMEMLIMIT를 컨테이너 limit의 ~80%로 설정해 OOM 없이 GC가 부드럽게 동작하게 하세요(미설정 시 호스트 메모리 기준으로 오판). 요약: gctrace로 확인 → 할당 줄이기 + GOGC↑ + GOMEMLIMIT 설정. 컨테이너에서 GOMEMLIMIT 누락이

gopher_재 · Answer

gctrace 보니 GC가 초당 여러 번 돌고 pause도 길었습니다. GOMEMLIMIT를 안 줬었네요. GOGC와 GOMEMLIMIT는 같이 쓰면 충돌하지 않나요?

김영삼 · Answer

충돌하지 않고 함께 쓰는 게 권장입니다. GOGC는 "얼마나 자주" GC할지(증가율 기준), GOMEMLIMIT는 "절대 상한"입니다. GOGC로 평상시 빈도를 낮추고, GOMEMLIMIT가 한도 근처에서 안전망으로 GC를 강제해 OOM을 막습니다. 보통 GOGC=200 + GOMEMLIMIT=<limit*0.8> 조합이 무난합니다.

gopher_재 · Answer

GOMEMLIMIT 설정하고 GOGC 200으로 올리니 p99 스파이크가 거의 사라졌습니다. 감사합니다!

댓글 0