OpenAI GPT-5.5 Realtime API — 한국어 통역 정확도 90%인데 30분 후 80%로 떨어집니다

Question

OpenAI Realtime API로 화상회의 실시간 통역 만들고 있습니다. 한국어 ↔ 영어.

30분 시간 정확도 측정:

시간	정확도
0~10분	92%
10~20분	91%
20~30분	88%
30~40분	82%
40~60분	78%

30분 후 정확도 -14%p. context window는 32K, 누적 토큰 약 25K. 한도 도달 전인데 왜 떨어지나요?

김영삼 · Accepted Answer

Realtime API의 정확도 저하는 알려진 현상입니다. context 길어질수록 attention 분산. 정착 패턴. 원인 — context 길이 + 음성 노이즈 누적 음성 인식 — 30분 누적 시 일부 미세 오류 누적 context — 25K 토큰 누적 시 needle in haystack 정확도 -12%p (기존 측정) 화자 음성 특징 누적 — 모델이 stable identity 못 잡음 해결 — context reset 30분마다 session 새로 시작: const sessionTimeout = 25 * 60 * 1000 // 25분 let sessionStart = Date.now() audioStream.on('chunk', async (chunk) => { if (Date.now() - sessionStart > sessionTimeout) { // session 새로 시작 await session.close() session = await openai.r

데이터사이언스현 · Answer

Anthropic Realtime이 곧 발표될 가능성 있습니다. 그쪽 채용 공고 보면 Realtime API 개발 중. OpenAI Realtime 한계 부담스러우면 검토.

realtime_kim · Answer

저희는 네이버 클로바 STT + Claude Sonnet 4.9 번역 + ElevenLabs TTS 조합 사용 중. Realtime API 한계 회피. 약간 더 latency 있지만 정확도 안정적.

취미코딩 · Answer

위 패턴 적용하면서 한 가지 더 알게 된 — 캐시 invalidation 정책이 처음 생각보다 복잡합니다. 별도로 관리 필요.

사이드러 · Answer

같은 고민 했었는데 결국 처음 admin 분 추천대로 가는 게 맞더라고요. 시도해본 결과 공유 감사합니다.

댓글 0