Data Pipeline이란?
원시 데이터를 가치 있는 형태로 변환·전달하는 자동화된 워크플로다.
종류
- Batch — Airflow, dbt (일·시간 단위)
- Streaming — Kafka, Flink (실시간)
- Micro-batch — Spark Structured Streaming
Data Pipeline란?
정의
소스에서 목적지까지 데이터가 흐르는 자동화 경로. ETL/ELT·스트리밍 모두 포함.
다른 표현데이터 파이프라인
🔗 함께 보면 좋은 용어
Data 전체 →AARRR
Pirate Metrics
Dave McClure가 만든 스타트업 퍼널. Acquisition·Activation·Retention·Referral·Revenue.
A/B 유의성
통계적 유의성·검정력·샘플 크기 계산. p-value·신뢰구간·효과 크기.
Airbyte
오픈소스 ELT 도구. 300+ 커넥터로 소스 → Warehouse 동기화.
Airflow 2+
Airflow 2.x 메이저 개편. TaskFlow API·Deferrable·Dynamic DAG. 3.0에서 더 현대화.
Amplitude
제품 분석·실험 플랫폼. 행동 분석·제품 주도 성장에 특화.
Amundsen
Lyft가 오픈소스화한 데이터 발견 UI. DataHub 경쟁.