메모장

  • 홈
  • 태그
  • 방명록

zeppelin spark 2

Zeppelin Spark interpreter - yarn client / cluster 모드 실행, pyspark추가

Spark interpreter 설정  1. spark-interpreter.jar 가 잘 있는지 확인하자${ZEPPELIN_HOME}/interpreter/spark/ 하위에 spark-interpreter-0.11.1.jar가 있어야 한다.ls -al로 조회해보면 사이즈가 0일 수 있다.껍데기만 있을 수도 있으니 꼭 확인할 것!  2. Spark interpreter 설정${ZEPPELIN_HOME}/conf/interpreter.json을 연다.spark 설정에서 아래 세가지 설정을 해준다.- SPARK_HOME : 스파크 경로 지정(로컬에 이미 구성되어 있어야 함)- spark.master : yarn- spark.sumit.deployMode : client 혹은 cluster 입력 * Clie..

카테고리 없음 2024.11.05

Zeppelin spark interpreter 연동

1. Zeppelin Interpreter - Spark 설정 아래 3개의 설정 지정 SPAKR_HOME 지정.spark.master = yarnspark.submit.deployMode = client그리고 spark.executor.cores, spark.driver.cores 등 메모리도.. 기본적으로 실행할 자원 설정근데 노트북 내에서 아래와 같이 따로 설정도 가능함 %spark.confspark.app.name test-app-namespark.executor.instances 10spark.executor.core 10spark.yarn.queue queue.test 2. 필요 라이브러리 설정cd ${ZEPPELIN_HOME}/interpreter/spark/ls -al //이렇게 보면 ._..

IT 잡동사니 2024.07.01
이전
1
다음
더보기
프로필사진

메모장

나의 메모장

  • 분류 전체보기 (68)
    • IT 잡동사니 (18)
    • Kafka (8)
    • Spark (5)
    • Hadoop (2)
    • Hive (4)
    • MySQL. MariaDB (5)
    • Frontend (7)
    • SpringBoot (2)
    • Linux (6)
    • Git (3)

Tag

자바 큐, 게시판만들기, kafka, kafka 설치, 프로그래머스 자바, mariadb 설치, nvm설치, 카프카 자바, sqoop hive, zeppelin spark interpreter, vue.js게시판, 카프카 컨슈머, npm설치, sqoop mysql, Kafka 시작하기, vue게시판, zeppelin spark, IntelliJ UTF-8, GitHub, git remote,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바