|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
Приветствую! Пытаюсь запустить кластер Hadoop, ставлю по инструкции: http://www.ibm.com/developerworks/ru/library/l-hadoop-2/index.html?ca=drs- Все вроде бы устанавливается. На мастере: Код: powershell 1. 2. 3. 4. 5.
На слейвах: Код: powershell 1. 2. 3. 4.
Код: powershell 1. 2. 3. 4.
Все вроде бы хорошо, но: Код: powershell 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22.
Вот куда смотреть, что читать дальше не понимаю... ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2012, 15:17 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
Здравствуйте, lari, Как у вас успехи - удалось запустить hadoop кластер? Вроде бы с момента сообщения прошло 5 месяцев - я надеюсь что да. Раскажете о своём опыте? Судя по отсутствию ответов, эта тема либо никого не интересует, либо немногие устанавливали кластер. Я хочу поделиться своими наблюдениями. По-моему, самый лучший способ начать работу с hadoop - виртуальная демо-машина от Cloudera. Я на ней всегда тестирую скрипты, исправляю ошибки в логике, исходных данных и прочие важные мелочи. У меня на сайте есть заметка с несколькими примерами использования hadoop - называется "Примеры использования Hadoop без программирования на Java" - если кому интересно - добро пожаловать. После виртуальной машины я переношу те-же самые, уже проверенные, скрипты на настоящий кластер - либо на Амазоне, либо у себя, если могу пробиться :-) Из моего опыта, для самой безболезненной установки кластера - опять же лучшее средство Cloudera с её бесплатным продуктом. И уж последний вариант - ставить код из самого проекта Apache Hadoop. Кроме того, я пришёл к выводу что чем проще mappers/reducers - тем быстрее всё начинает работать. Если нужна сложная обработка - лучше сделать несколько последовательных "проходов", но с простыми алгоритмами, чем сразу пытаться сделать всё. Удачи вам в "слоноводстве" :-) ================================================= С уважением, Денис Библия для людей, работающих с командной строкой. http://www.read-and-think.org/ ================================================= ... |
|||
:
Нравится:
Не нравится:
|
|||
24.07.2012, 12:41 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
Подняв некропост... Лучше отдельно ставить NameNode и JobTracker А дальше надо залить данные на HDFS и выполнить MapReduce задачку. ... |
|||
:
Нравится:
Не нравится:
|
|||
06.08.2012, 16:26 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
fleandr, Это если у ТС есть отдельная машина для JobTracker. Насколько я понял там только 2 ноды :) ... |
|||
:
Нравится:
Не нравится:
|
|||
09.08.2012, 22:21 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
larkfleandr, Это если у ТС есть отдельная машина для JobTracker. Насколько я понял там только 2 ноды :) не... у топикстартера 3 ноды. одна мастер с джобтрекером и намингнодой и 2 датаноды/тасктрекер Лучше сделать 4 а не 3 разнести джобтрекер и неймноду. в статусе хадуп кластера показывается кол-во "полезных" нод а их как раз 2. Тут еще реп фактор 2 что не совсем хорошо так как лучше 3 =) С 2 плохой фолт толеранс... ... |
|||
:
Нравится:
Не нравится:
|
|||
15.08.2012, 16:44 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
Ну вот я и проделал путь от первой инсталяции до своего блога: http://hadoop-hive.blogspot.ru/ ... |
|||
:
Нравится:
Не нравится:
|
|||
13.11.2012, 11:24 |
|
Запуск Hadoop
|
|||
---|---|---|---|
#18+
mijatovicНу вот я и проделал путь от первой инсталяции до своего блога: http://hadoop-hive.blogspot.ru/ Спасибо! Интересный ресурс. ... |
|||
:
Нравится:
Не нравится:
|
|||
08.03.2013, 10:49 |
|
|
start [/forum/topic.php?fid=48&fpage=11&tid=1856921]: |
0ms |
get settings: |
8ms |
get forum list: |
11ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
23ms |
get topic data: |
10ms |
get forum data: |
2ms |
get page messages: |
43ms |
get tp. blocked users: |
2ms |
others: | 12ms |
total: | 117ms |
0 / 0 |