본문 바로가기
Q&A해결2026년 4월 25일1분 읽기

Cloudflare Durable Objects + WebSocket 동시연결 100개에서 한계

엣
엣지개발자
조회 540댓글 1

Cloudflare Durable Objects + WebSocket으로 실시간 채팅 룸을 구현 중입니다. 한 룸에 100명 정도까지는 잘 되는데, 그 이상 들어오면 일부 메시지가 누락되거나 지연이 심해집니다.

DO 자체에 동시연결 제한이 있는 건지, 아키텍처 설계가 잘못된 건지 모르겠습니다.

댓글 1

김김영삼7개월 전

Durable Objects의 WebSocket 한계는 "동시연결 수"가 아니라 "단일 인스턴스 처리량"입니다. 한 DO 인스턴스 = 단일 V8 isolate = 단일 thread라는 점이 본질입니다.

1) DO의 실제 한계 (공식 + 실측)

항목공식 한계실측 권장 수치WebSocket 동시연결32,7681,000~5,000분당 메시지 처리제한 명시 없음~10,000 msg/s요청당 CPU30s실제로 100ms 안 권장storage write128KB/req적게 쓸수록 좋음

"100명에서 한계"는 동시연결 자체가 아니라 메시지 fanout 비용 때문입니다.

2) 메시지 fanout의 N제곱 비용

// 흔한 설계 — 받자마자 broadcast
async webSocketMessage(ws, msg) {
for (const peer of this.connections) {
peer.send(msg) // N명에게 보냄
}
}
// 100명이 동시에 보내면: 100 * 100 = 10,000 메시지/tick

이 패턴이 100~150 connections에서 무너집니다. 메시지가 병목이지 connection이 병목이 아닙니다.

3) Hibernation API 활용 (필수)

// 잘못된 패턴 — 매 message 콜백에서 모든 ws 추적
state.connections = new Set() // 메모리에 모음

// 올바른 패턴 — Hibernation API
import { DurableObject } from 'cloudflare:workers'

export class ChatRoom extends DurableObject {
async fetch(req) {
if (req.headers.get('Upgrade') === 'websocket') {
const pair = new WebSocketPair()
const [client, server] = Object.values(pair)
this.ctx.acceptWebSocket(server) // ← Hibernation
return new Response(null, { status: 101, webSocket: client })
}
}

async webSocketMessage(ws, msg) {
// 모든 connection 가져오기 — 매번 ctx에서 조회
for (const sock of this.ctx.getWebSockets()) {
sock.send(msg)
}
}
}

Hibernation API는 idle 상태에서 isolate를 잠재워 메모리·CPU를 절약합니다. 100+ connections에서 이게 없으면 isolate가 타임아웃되거나 OOM이 납니다.

4) Sharding — 룸을 여러 DO로 분산

// 한 룸을 여러 DO에 분할 (consistent hashing)
function getDOForUser(userId, roomId, totalShards = 4) {
const shard = hash(userId) % totalShards
return env.CHAT.idFromName(`${roomId}-${shard}`)
}

// 사용자는 자기 shard에만 연결
// shard 간 메시지 fanout은 별도 메커니즘 필요

shard 간 broadcast가 필요하면:

// Coordinator DO 패턴
// 메시지 → coordinator → 각 shard에 fanout
const coordinator = env.CHAT.get(env.CHAT.idFromName(`${roomId}-coord`))
await coordinator.fetch(new Request('http://_/broadcast', {
method: 'POST',
body: JSON.stringify({ from: userId, msg })
}))

5) batching·throttling

// 메시지를 모아서 일정 간격으로 fanout
class ChatRoom extends DurableObject {
pendingBroadcast = []
flushScheduled = false

async webSocketMessage(ws, msg) {
this.pendingBroadcast.push(msg)
if (!this.flushScheduled) {
this.flushScheduled = true
setTimeout(() => this.flush(), 10)
}
}

flush() {
const batch = this.pendingBroadcast
this.pendingBroadcast = []
this.flushScheduled = false
const payload = JSON.stringify({ type: 'batch', items: batch })
for (const sock of this.ctx.getWebSockets()) {
sock.send(payload)
}
}
}

10ms 윈도우에 모이는 메시지를 한 번에 보냅니다. 인지할 수 없는 지연(~10ms)이지만 fanout 비용을 50% 이상 줄입니다.

6) 대안 — Pub/Sub 또는 PartyKit

  • Cloudflare Queues + DO 조합 — write-heavy 워크로드 분리
  • Pub/Sub (베타) — 다채널 broadcast에 더 적합
  • PartyKit — DO 위에 만들어진 추상화. 1만+ connections 더 잘 다룸
  • 큰 룸은 SSE one-way + REST POST — WebSocket 대신

실무 체크리스트

  1. Hibernation API(acceptWebSocket) 필수 사용
  2. connections 100+ 룸은 sharding 또는 batching
  3. DO storage write 최소화 — 매 메시지마다 쓰면 안 됨
  4. 모니터링 — Cloudflare dashboard의 DO duration·CPU time 추적
  5. 대규모 채팅이라면 DO 자체보다는 별도 WebSocket 서버 검토 (Fly.io·Render 등)

마지막 한 줄

DO는 "강한 일관성이 필요한 작은 단위"에 최적화된 도구입니다. 1만+ users 채팅은 architectural smell — DO 1개로 다 처리하려 하지 말고 sharding 또는 다른 도구로 분리하는 게 맞습니다.

Ctrl+Enter로 등록