|
Архитектура hadoop совет
|
|||
---|---|---|---|
#18+
день добрый всем! нужен совет по арцитектуре системы хадуп на данный момент систем сосоит из: 12 datanode (HDFS datanode, YARN NodeManager) 2 namenode avtive/standby with HA - здесь вопрос насчет QJM (JourmalNods * 3) где их устанавливать?...по глупости устанавил их на 3 datanode но как я понимаю это не правильно......их надо устанавливать на независимых от datanode и namenode? тот же вопрос отнасительно zookeeper quorum (zookeeper server * 3) их так же как и JourmalNods на независимых от datanode и namenode желательно установить? вопрос насчет hbase - hbasemaster на namenode и 3 RegionServer на datanode... вопрос : 1. hbasemaster HA поверх namenode avtive/standby HA используя тот же zookeeper quorum? 2. 3 datanode на каторых стоит RegionServer что бы HDFS использовалисya только под hbase достаточно убрать YARN NodeManager сервице с них? для аплицаций типа hive, sqoop у нас отдельный сервер мастер нод ... |
|||
:
Нравится:
Не нравится:
|
|||
16.08.2015, 15:09 |
|
Архитектура hadoop совет
|
|||
---|---|---|---|
#18+
startDBA, Доброе утро! есть советы? ... |
|||
:
Нравится:
Не нравится:
|
|||
17.08.2015, 09:04 |
|
Архитектура hadoop совет
|
|||
---|---|---|---|
#18+
Есть набор книг по архитектуре Big Data Application Architecture Q and A Designing Data-Intensive Applications Big Data by Nathan Marz на пиратских источниках найти можно. Но в вашем вопросе ничего нет ни о потребностях - для чего кластер проектируете, сколько данных и с какой скоростью будут поступать, ни о проблемах которые у вас уже вылезли (вот Вы пишете что сделали вот так; ну ок - а что не нравится? то есть, с чем столкнулись?) Службы распределить по нодам можно как угодно. Вопрос в том что делаете и для чего. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.08.2015, 12:46 |
|
Архитектура hadoop совет
|
|||
---|---|---|---|
#18+
Игорь Бобак, во первых спасибо за ответ:) мы только в начале дороги и по этому на большенство ваших вопросов пока нет ответов...да и сама фирма не особо знает чего хочет от зверя бигдата. есть части кластера каторые надо планировать истрить вне зависимости от его предназночения по каким то правилам... на данный момент меня интересуют JourmalNods и zookeeper quorum где их устанавливать? мы их устанавили на namenode avtive/standby и appnode и помоему это не правильно по одной простой причине что если avtive namenode падает и 1 JourmalNods/zookeeper из 3 и тогда никакого quorum уже нету...так? а как поменять/передвинуть JourmalNods в амбари я так и не нашел кстати мы пользуемся дистрибутивом hoрtonworks амбари 2.2.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
18.08.2015, 10:12 |
|
|
start [/forum/topic.php?fid=48&fpage=8&tid=1856805]: |
0ms |
get settings: |
10ms |
get forum list: |
13ms |
check forum access: |
5ms |
check topic access: |
5ms |
track hit: |
36ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
42ms |
get tp. blocked users: |
2ms |
others: | 245ms |
total: | 374ms |
0 / 0 |