powered by simpleCommunicator - 2.0.49     © 2025 Programmizd 02
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Spark ClassNotFound
4 сообщений из 4, страница 1 из 1
Spark ClassNotFound
    #39569768
Denis@nk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Добрый день. Изучаю Spark. Пытаюсь на сервере из 4 нод запустить учебные программы. HelloWorld отработал. А чуть посложнее "SparkWordCount" выдает ошибку:

Код: plaintext
java.lang.ClassNotFoundException: SparkWordCount

Гуглю весь день и пытаюсь решить проблему.
Вот вроде описание моего решения: https://www.datastax.com/dev/blog/common-spark-troubleshooting
Добавил setJars и все равно такая же ошибка.Вот код Scala:import org.apache.spark.{SparkConf, SparkContext}
 
object SparkWordCount {
  def main(args: Array[String]) {
    // create Spark context with Spark configuration
    val sc = new SparkContext(new SparkConf().setAppName("Spark Count").setJars(Seq(System.getProperty("user.dir") + "/TestScalaSBT.jar")))
 
    // get threshold
    val threshold = args(1).toInt
 
    // read in text file and split each document into words
    val tokenized = sc.textFile(args(0)).flatMap(_.split(" "))
 
    // count the occurrence of each word
    val wordCounts = tokenized.map((_, 1)).reduceByKey(_ + _)
 
    // filter out words with fewer than threshold occurrences
    val filtered = wordCounts.filter(_._2 >= threshold)
 
    // count characters
    val charCounts = filtered.flatMap(_._1.toCharArray).map((_, 1)).reduceByKey(_ + _)
 
    System.out.println(charCounts.collect().mkString(", "))
  }
}Программу пишу в IntelliJ 2017 + SBT.
JAR файл распаковывал зипом и убеждался что класс в корне файла есть.
Уже больше идей нет что еще можно сделать.
...
Рейтинг: 0 / 0
Spark ClassNotFound
    #39570615
Фотография Apex
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Denis@nkДобрый день. Изучаю Spark. Пытаюсь на сервере из 4 нод запустить учебные программы.

Как запускаешь?
...
Рейтинг: 0 / 0
Spark ClassNotFound
    #39571241
Denis@nk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Копирую скомпилированный файл .jar на сервер и выполняю команду:
Код: plaintext
spark-submit --class "ScalaHelloWorld"  --master yarn --deploy-mode client ScalaHelloWorld.class

В чем ошибка в этом проекте так и не разобрался. Сделал новый проект и все заработало. Вопрос закрыт, спасибо.
...
Рейтинг: 0 / 0
Spark ClassNotFound
    #39571244
Denis@nk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Извиняюсь, поспешил, глупость скопировал.
Вот так запускаю:
Код: plaintext
spark-submit --class "SparkWordCount"  --master yarn --deploy-mode client SparkWordCount.jar
...
Рейтинг: 0 / 0
4 сообщений из 4, страница 1 из 1
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Spark ClassNotFound
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]