Spark란?
UC Berkeley가 개발, 2014년 Apache 재단. 메모리 기반이라 Hadoop보다 10~100배 빠름.
구성
- Spark SQL — DataFrame API
- Spark Streaming — 실시간
- MLlib — ML
- GraphX — 그래프
Apache Spark란?
정의
분산 빅데이터 처리 엔진. Hadoop MapReduce 대체. Python·Scala·SQL 지원.
다른 표현스파크
🔗 함께 보면 좋은 용어
Data 전체 →AARRR
Pirate Metrics
Dave McClure가 만든 스타트업 퍼널. Acquisition·Activation·Retention·Referral·Revenue.
A/B 유의성
통계적 유의성·검정력·샘플 크기 계산. p-value·신뢰구간·효과 크기.
Airbyte
오픈소스 ELT 도구. 300+ 커넥터로 소스 → Warehouse 동기화.
Airflow 2+
Airflow 2.x 메이저 개편. TaskFlow API·Deferrable·Dynamic DAG. 3.0에서 더 현대화.
Amplitude
제품 분석·실험 플랫폼. 행동 분석·제품 주도 성장에 특화.
Amundsen
Lyft가 오픈소스화한 데이터 발견 UI. DataHub 경쟁.