Snowflake 비용이 월 $32K로 폭증. BigQuery 마이그레이션 검토 중인데 경영진은 2주 안에 끝내라고 합니다.
현재 상태
- 데이터 5TB (Snowflake 압축 후)
- dbt 모델 80개 (gold/silver/bronze layer)
- BI 도구 — Tableau (대시보드 24개)
- ETL — Airbyte + dbt
- 사내 SQL 사용자 약 60명
2주 가능한지, 어떤 함정이 있는지 경험 공유 부탁드립니다.
Snowflake 비용이 월 $32K로 폭증. BigQuery 마이그레이션 검토 중인데 경영진은 2주 안에 끝내라고 합니다.
현재 상태
2주 가능한지, 어떤 함정이 있는지 경험 공유 부탁드립니다.
댓글 5
2주는 일반적으로 어렵습니다. 비슷한 규모로 옮긴 경험으로는 평균 6~10주가 현실적. 다만 단계별 cut-over로 1차 마이그레이션은 2주에 가능합니다.
2주 timeline — 현실적 계획
주작업
1주차 day 1-3BigQuery 셋업 + 5TB raw export
1주차 day 4-7dbt 모델 자동 변환 + 검증
2주차 day 8-10Airbyte target BQ로 전환 + dual-write
2주차 day 11-12Tableau dashboard 재연결
2주차 day 13-14QA + cut-over
함정 5가지
1. SQL dialect 차이
Snowflake → BigQuery SQL은 80% 호환이지만 20%는 직접 수정.
QUALIFY,ARRAY_AGG WITHIN GROUP, semi-structured 함수 등이 다름. dbt 모델 80개 중 20개 정도 수정 필요.2. Snowflake VARIANT vs BQ STRUCT
JSON column이면 BQ는 STRUCT 또는 STRING. 데이터 모델 결정.
3. Time travel 기능 차이
Snowflake — 90일 자동. BigQuery — 7일 (또는 별도 snapshot).
4. UDFs/Stored Procedures
Snowflake JavaScript UDF가 BQ에서 안 됨. Python 또는 SQL UDF로 재작성.
5. dbt incremental 모델
incremental strategy(merge vs insert_overwrite) 동작 미세 차이. 첫 번째 full refresh 후 incremental로 전환.
리스크 완화 — dual-write
2주 안에 cut-over 못 끝나도 사고 안 나도록 일정 기간 dual-write:
비용 +30% 일시 추가지만 안전. 1개월 dual 후 Snowflake 해지.
경영진과 협의 — "2주 안에 cut-over"가 아닌 "2주 안에 BQ에서 dashboard 가용, Snowflake 해지는 1개월 후" 정도가 안전합니다.
저희는 dbt + sqlfluff로 SQL 변환 자동화했어요.
dbt-codegen+ sqlfluff dialect 변환으로 80개 모델 중 65개 자동 변환 됐습니다. 나머지 15개만 수동.