powered by simpleCommunicator - 2.0.48     © 2025 Programmizd 02
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Нужно немного помощи с установкой Hadoop кластера.
1 сообщений из 1, страница 1 из 1
Нужно немного помощи с установкой Hadoop кластера.
    #38904981
Dymytry
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Всем здравствуйте!

Поставил YARN от CDH5 в соотв. с инструкциями от Cloudera, однако без Cloudera Manager. В итоге не все так однозначно :) Прошу помощи.

1) Согласно инструкции, все настройки которые использует кластер лежат в /etc/hadoop/<someconfnamefolder>, чтобы использовать именно свои надо настроить linux alternatives. Я так и сделал. Вопрос: надо ли мне с ноды где подняты resourceManager и NameNode копировать каждый раз настройки на остальные ноды? Он сам не умеет?

2) Я никак не могу настроить обычные человеческие логи. Я смотрю на файл log4j.properties и вижу что по дефолту там только console appender для root logger. А мои логи внутри мэппера получаются пойдут через него. Добавляю туда RFA appender настройки которого выглядят так:

Код: css
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
# Define some default values that can be overridden by system properties
hadoop.root.logger=INFO,RFA
hadoop.log.dir=.
hadoop.log.file=hadoop.log
# Define the root logger to the system property "hadoop.root.logger".
log4j.rootLogger=${hadoop.root.logger}, EventCounter
hadoop.log.maxfilesize=256MB
hadoop.log.maxbackupindex=20
log4j.appender.RFA=org.apache.log4j.RollingFileAppender
log4j.appender.RFA.File=${hadoop.log.dir}/${hadoop.log.file}
log4j.appender.RFA.MaxFileSize=${hadoop.log.maxfilesize}
log4j.appender.RFA.MaxBackupIndex=${hadoop.log.maxbackupindex}
log4j.appender.RFA.layout=org.apache.log4j.PatternLayout
# Pattern format: Date LogLevel LoggerName LogMessage
log4j.appender.RFA.layout.ConversionPattern=%d{ISO8601} %p %c: %m%n



В итоге ничего не логгируется. Никаких следов логов. Кроме того, файлы логов в хадупе имеют системные названия, а здесь я вроде как задаю название. Интересно как это решается.
Обычные системные логи записываются. Когда захожу на лог контейнера вижу stdout,stderr,stdsys, там есть сообщения, но логов моих мапперов там нет.

3) Захожу на NameNode webui. Вижу Security is off. Но при этом permissions реально работают. Это как?

4) Мои таски состоят только из мапперов. Однако в логах я вижу что помимо моих мапперов в джобах запускаются Редьюсеры! Вот это реально странно. У меня нет кода редьюсера в джарнике вообще! Что это?..

5) Я читал что юзер который запустил хадуп обладает на нем какими-то особыми правами. Это правда?

6) Есть какая-то команда, которая позволяет просмотреть эффективное значение параметра из командной строки?

Спасибо за внимание.
...
Рейтинг: 0 / 0
1 сообщений из 1, страница 1 из 1
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Нужно немного помощи с установкой Hadoop кластера.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]