LLM 스트리밍 응답을 SSE(text/event-stream)로 프론트에 흘려보내고 있습니다. 로컬에서 서버에 직접 붙으면 토큰이 실시간으로 한 조각씩 잘 오는데, nginx 리버스 프록시를 거치는 스테이징에 올리니까 스트리밍이 안 됩니다. 연결이 다 끝난 다음에 전체 텍스트가 한 번에 툭 떨어져요.
백엔드는 Content-Type을 text/event-stream 으로 제대로 내보내고 있고, 청크마다 flush도 하고 있습니다. 로컬 직접 접속에선 확실히 실시간으로 동작하는 걸 봤어요. 그러니 앱 코드보다는 nginx 설정 문제인 것 같은데, 어디를 봐야 할지 모르겠습니다.
댓글 0