Notice
Recent Posts
Recent Comments
Link
250x250
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
Tags
- DBT
- proerty
- Materializations
- 동적 차트
- airflow
- 카프카
- bar cahrt
- spring boot
- 도커
- docker
- mysql
- 파이썬
- UI for kafka
- 쿠버네티스
- Python
- Java
- k9s
- 모바일
- polars
- kafka
- ksql
- 윈도우
- freshness
- dbt_project
- 크롤링
- CDC
- spark
- query history
- KubernetesPodOperator
- numpartitions
Archives
- Today
- Total
데이터 엔지니어 이것저것
Spark Session 본문
728x90
Spark Session?
- 스파크 응용 프로그램의 통합 진입점
Spark Context는 Spark 1.x 버전에서의 모든 Spark 애플리케이션의 진입점이였지만,
Spark Session이 나온 이후로 Spark 애플리케이션의 진입점이 스파크 세션으로 바뀌었다.
When Spark Session
- 적은 양의 구문으로 다양한 기능과 인터페이스를 사용할 수 있다.
- 수많은 컨텍스트를 모두 통합하여 개발자가 별도의 컨텍스 생성에 대한 걱정을 줄여준다
- 동일한 노트북 환경에 여러사람이 액세스 할때
기존 Spark context 에서는 여러개의 Spark context를 생성하였으나,
Spark Session을 이용하면서 이러한 문제가 해결
출처
https://gankrin.org/sparksession-vs-sparkcontext-vs-sqlcontext-vs-hivecontext/
Difference Between SparkSession , SparkContext , SQLContext & HiveContext -
This post explains the difference between - SparkSession vs SparkContext vs SQLContext vs HiveContext based on Spark versions used in Application.
gankrin.org
https://www.ksolves.com/blog/big-data/spark/sparksession-vs-sparkcontext-what-are-the-differences
SparkSession Vs SparkContext - What Are The Differences?
Learn differences between SparkSession & SparkContext and why SparkSession is superior to SparkContext in many methods.
www.ksolves.com
728x90
'오픈소스 > Spark' 카테고리의 다른 글
Spark UDF (0) | 2023.02.05 |
---|---|
Spark Broadcast (0) | 2023.01.30 |
Spark SQL (0) | 2023.01.08 |
spark groupByKey vs reduceByKey (0) | 2022.12.05 |
RDD (0) | 2022.12.03 |