|
Нужно немного помощи с установкой Hadoop кластера.
|
|||
---|---|---|---|
#18+
Всем здравствуйте! Поставил YARN от CDH5 в соотв. с инструкциями от Cloudera, однако без Cloudera Manager. В итоге не все так однозначно :) Прошу помощи. 1) Согласно инструкции, все настройки которые использует кластер лежат в /etc/hadoop/<someconfnamefolder>, чтобы использовать именно свои надо настроить linux alternatives. Я так и сделал. Вопрос: надо ли мне с ноды где подняты resourceManager и NameNode копировать каждый раз настройки на остальные ноды? Он сам не умеет? 2) Я никак не могу настроить обычные человеческие логи. Я смотрю на файл log4j.properties и вижу что по дефолту там только console appender для root logger. А мои логи внутри мэппера получаются пойдут через него. Добавляю туда RFA appender настройки которого выглядят так: Код: css 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15.
В итоге ничего не логгируется. Никаких следов логов. Кроме того, файлы логов в хадупе имеют системные названия, а здесь я вроде как задаю название. Интересно как это решается. Обычные системные логи записываются. Когда захожу на лог контейнера вижу stdout,stderr,stdsys, там есть сообщения, но логов моих мапперов там нет. 3) Захожу на NameNode webui. Вижу Security is off. Но при этом permissions реально работают. Это как? 4) Мои таски состоят только из мапперов. Однако в логах я вижу что помимо моих мапперов в джобах запускаются Редьюсеры! Вот это реально странно. У меня нет кода редьюсера в джарнике вообще! Что это?.. 5) Я читал что юзер который запустил хадуп обладает на нем какими-то особыми правами. Это правда? 6) Есть какая-то команда, которая позволяет просмотреть эффективное значение параметра из командной строки? Спасибо за внимание. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2015, 21:17 |
|
|
start [/forum/topic.php?fid=48&fpage=9&tid=1856848]: |
0ms |
get settings: |
11ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
30ms |
get topic data: |
14ms |
get forum data: |
3ms |
get page messages: |
68ms |
get tp. blocked users: |
1ms |
others: | 247ms |
total: | 397ms |
0 / 0 |