Гость
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Архитектура hadoop совет / 4 сообщений из 4, страница 1 из 1
16.08.2015, 15:09
    #39030290
startDBA
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Архитектура hadoop совет
день добрый всем!
нужен совет по арцитектуре системы хадуп
на данный момент систем сосоит из:

12 datanode (HDFS datanode, YARN NodeManager)
2 namenode avtive/standby with HA - здесь вопрос насчет QJM (JourmalNods * 3) где их устанавливать?...по глупости устанавил их на 3 datanode но как я понимаю это не правильно......их надо устанавливать на независимых от datanode и namenode? тот же вопрос отнасительно zookeeper quorum (zookeeper server * 3) их так же как и JourmalNods на независимых от datanode и namenode желательно установить?

вопрос насчет hbase - hbasemaster на namenode и 3 RegionServer на datanode...
вопрос : 1. hbasemaster HA поверх namenode avtive/standby HA используя тот же zookeeper quorum?
2. 3 datanode на каторых стоит RegionServer что бы HDFS использовалисya только под hbase достаточно убрать YARN NodeManager сервице с них?

для аплицаций типа hive, sqoop у нас отдельный сервер мастер нод
...
Рейтинг: 0 / 0
17.08.2015, 09:04
    #39030533
startDBA
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Архитектура hadoop совет
startDBA,

Доброе утро!
есть советы?
...
Рейтинг: 0 / 0
17.08.2015, 12:46
    #39030686
Архитектура hadoop совет
Есть набор книг по архитектуре

Big Data Application Architecture Q and A
Designing Data-Intensive Applications
Big Data by Nathan Marz

на пиратских источниках найти можно.

Но в вашем вопросе ничего нет ни о потребностях - для чего кластер проектируете, сколько данных и с какой скоростью будут поступать, ни о проблемах которые у вас уже вылезли (вот Вы пишете что сделали вот так; ну ок - а что не нравится? то есть, с чем столкнулись?)

Службы распределить по нодам можно как угодно. Вопрос в том что делаете и для чего.
...
Рейтинг: 0 / 0
18.08.2015, 10:12
    #39031350
startDBA
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Архитектура hadoop совет
Игорь Бобак,

во первых спасибо за ответ:)

мы только в начале дороги и по этому на большенство ваших вопросов пока нет ответов...да и сама фирма не особо знает чего хочет от зверя бигдата.

есть части кластера каторые надо планировать истрить вне зависимости от его предназночения по каким то правилам...
на данный момент меня интересуют JourmalNods и zookeeper quorum где их устанавливать?

мы их устанавили на namenode avtive/standby и appnode и помоему это не правильно по одной простой причине что если avtive namenode падает и 1 JourmalNods/zookeeper из 3 и тогда никакого quorum уже нету...так?

а как поменять/передвинуть JourmalNods в амбари я так и не нашел

кстати мы пользуемся дистрибутивом hoрtonworks амбари 2.2.4
...
Рейтинг: 0 / 0
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Архитектура hadoop совет / 4 сообщений из 4, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]