Spark Connect
Driver JVM과 애플리케이션 분리. 파이썬/스칼라 경량 클라이언트가 원격 Spark 호출. IDE DX 크게 개선.
Spark Connect란?
정의
Spark 클라이언트-서버 프로토콜. 원격 실행·다국어 클라이언트.
🔗 함께 보면 좋은 용어
Data 전체 →데이터 관측성 플랫폼
Monte Carlo·Bigeye·Soda·Datafold·Elementary.
데이터 레이크 파일 포맷
Parquet·ORC·Avro·Arrow. 사용 시나리오별 선택.
임베딩 모델 선택
OpenAI·Cohere·BGE·ko-sroberta 등.
데이터 품질 프레임워크
Great Expectations·Soda·dbt tests·Elementary.
벡터 검색 벤치마크
ANN Benchmarks·VectorDBBench·BEIR.
모던 데이터 스택 2026
Snowflake·Databricks·Fabric·BigQuery 중심의 2026년 현황.