Spark란?
UC Berkeley가 개발, 2014년 Apache 재단. 메모리 기반이라 Hadoop보다 10~100배 빠름.
Apache Spark란?
정의
분산 빅데이터 처리 엔진. Hadoop MapReduce 대체. Python·Scala·SQL 지원.
다른 표현스파크
🔗 함께 보면 좋은 용어
Data 전체 →데이터 관측성 플랫폼
Monte Carlo·Bigeye·Soda·Datafold·Elementary.
데이터 레이크 파일 포맷
Parquet·ORC·Avro·Arrow. 사용 시나리오별 선택.
임베딩 모델 선택
OpenAI·Cohere·BGE·ko-sroberta 등.
데이터 품질 프레임워크
Great Expectations·Soda·dbt tests·Elementary.
벡터 검색 벤치마크
ANN Benchmarks·VectorDBBench·BEIR.
모던 데이터 스택 2026
Snowflake·Databricks·Fabric·BigQuery 중심의 2026년 현황.