Data Cleaning이란?
"Data Scientist는 시간의 80%를 cleaning에 쓴다"는 말이 있을 정도로 중요하다.
주요 작업
- 결측값(NaN) 처리
- 이상치 탐지
- 중복 제거
- 타입 통일
- 포맷 정규화
Data Cleaning란?
정의
raw 데이터의 결측·이상·중복·오타를 정리하는 작업. 데이터 사이언스 시간의 80%.
다른 표현데이터 클리닝
🔗 함께 보면 좋은 용어
Data 전체 →AARRR
Pirate Metrics
Dave McClure가 만든 스타트업 퍼널. Acquisition·Activation·Retention·Referral·Revenue.
A/B 유의성
통계적 유의성·검정력·샘플 크기 계산. p-value·신뢰구간·효과 크기.
Airbyte
오픈소스 ELT 도구. 300+ 커넥터로 소스 → Warehouse 동기화.
Airflow 2+
Airflow 2.x 메이저 개편. TaskFlow API·Deferrable·Dynamic DAG. 3.0에서 더 현대화.
Amplitude
제품 분석·실험 플랫폼. 행동 분석·제품 주도 성장에 특화.
Amundsen
Lyft가 오픈소스화한 데이터 발견 UI. DataHub 경쟁.