Cloudflare Durable Objects + WebSocket으로 실시간 채팅 룸을 구현 중입니다. 한 룸에 100명 정도까지는 잘 되는데, 그 이상 들어오면 일부 메시지가 누락되거나 지연이 심해집니다.
DO 자체에 동시연결 제한이 있는 건지, 아키텍처 설계가 잘못된 건지 모르겠습니다.
Cloudflare Durable Objects + WebSocket으로 실시간 채팅 룸을 구현 중입니다. 한 룸에 100명 정도까지는 잘 되는데, 그 이상 들어오면 일부 메시지가 누락되거나 지연이 심해집니다.
DO 자체에 동시연결 제한이 있는 건지, 아키텍처 설계가 잘못된 건지 모르겠습니다.
댓글 1
Durable Objects의 WebSocket 한계는 "동시연결 수"가 아니라 "단일 인스턴스 처리량"입니다. 한 DO 인스턴스 = 단일 V8 isolate = 단일 thread라는 점이 본질입니다.
1) DO의 실제 한계 (공식 + 실측)
항목공식 한계실측 권장 수치WebSocket 동시연결32,7681,000~5,000분당 메시지 처리제한 명시 없음~10,000 msg/s요청당 CPU30s실제로 100ms 안 권장storage write128KB/req적게 쓸수록 좋음"100명에서 한계"는 동시연결 자체가 아니라 메시지 fanout 비용 때문입니다.
2) 메시지 fanout의 N제곱 비용
이 패턴이 100~150 connections에서 무너집니다. 메시지가 병목이지 connection이 병목이 아닙니다.
3) Hibernation API 활용 (필수)
Hibernation API는 idle 상태에서 isolate를 잠재워 메모리·CPU를 절약합니다. 100+ connections에서 이게 없으면 isolate가 타임아웃되거나 OOM이 납니다.
4) Sharding — 룸을 여러 DO로 분산
shard 간 broadcast가 필요하면:
5) batching·throttling
10ms 윈도우에 모이는 메시지를 한 번에 보냅니다. 인지할 수 없는 지연(~10ms)이지만 fanout 비용을 50% 이상 줄입니다.
6) 대안 — Pub/Sub 또는 PartyKit
실무 체크리스트
acceptWebSocket) 필수 사용마지막 한 줄
DO는 "강한 일관성이 필요한 작은 단위"에 최적화된 도구입니다. 1만+ users 채팅은 architectural smell — DO 1개로 다 처리하려 하지 말고 sharding 또는 다른 도구로 분리하는 게 맞습니다.