좋은 파이프라인 원칙
- 멱등성 — 재실행해도 같은 결과
- 체크포인트 — 실패 지점부터 재개
- 증분 처리 — 전체 재실행 회피
- 스키마 계약
- 관측성 (lineage·지표)
ETL Pipeline Design란?
정의
ETL/ELT 설계 원칙. 멱등성·재실행·체크포인트·모니터링.
🔗 함께 보면 좋은 용어
Data 전체 →데이터 관측성 플랫폼
Monte Carlo·Bigeye·Soda·Datafold·Elementary.
데이터 레이크 파일 포맷
Parquet·ORC·Avro·Arrow. 사용 시나리오별 선택.
임베딩 모델 선택
OpenAI·Cohere·BGE·ko-sroberta 등.
데이터 품질 프레임워크
Great Expectations·Soda·dbt tests·Elementary.
벡터 검색 벤치마크
ANN Benchmarks·VectorDBBench·BEIR.
모던 데이터 스택 2026
Snowflake·Databricks·Fabric·BigQuery 중심의 2026년 현황.