Data Lineage란?
"이 대시보드 숫자는 어디서 와서 어떻게 계산됐는가"를 시각화한다.
도구
- DataHub (LinkedIn OSS)
- OpenLineage (표준)
- Marquez, Atlan
- dbt 자동 lineage
Data Lineage란?
정의
데이터가 소스에서 소비까지 어떻게 변환·이동되는지 추적하는 메타데이터.
🔗 함께 보면 좋은 용어
Data 전체 →데이터 관측성 플랫폼
Monte Carlo·Bigeye·Soda·Datafold·Elementary.
데이터 레이크 파일 포맷
Parquet·ORC·Avro·Arrow. 사용 시나리오별 선택.
임베딩 모델 선택
OpenAI·Cohere·BGE·ko-sroberta 등.
데이터 품질 프레임워크
Great Expectations·Soda·dbt tests·Elementary.
벡터 검색 벤치마크
ANN Benchmarks·VectorDBBench·BEIR.
모던 데이터 스택 2026
Snowflake·Databricks·Fabric·BigQuery 중심의 2026년 현황.