powered by simpleCommunicator - 2.0.49     © 2025 Programmizd 02
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Архитектура hadoop совет
4 сообщений из 4, страница 1 из 1
Архитектура hadoop совет
    #39030290
startDBA
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
день добрый всем!
нужен совет по арцитектуре системы хадуп
на данный момент систем сосоит из:

12 datanode (HDFS datanode, YARN NodeManager)
2 namenode avtive/standby with HA - здесь вопрос насчет QJM (JourmalNods * 3) где их устанавливать?...по глупости устанавил их на 3 datanode но как я понимаю это не правильно......их надо устанавливать на независимых от datanode и namenode? тот же вопрос отнасительно zookeeper quorum (zookeeper server * 3) их так же как и JourmalNods на независимых от datanode и namenode желательно установить?

вопрос насчет hbase - hbasemaster на namenode и 3 RegionServer на datanode...
вопрос : 1. hbasemaster HA поверх namenode avtive/standby HA используя тот же zookeeper quorum?
2. 3 datanode на каторых стоит RegionServer что бы HDFS использовалисya только под hbase достаточно убрать YARN NodeManager сервице с них?

для аплицаций типа hive, sqoop у нас отдельный сервер мастер нод
...
Рейтинг: 0 / 0
Архитектура hadoop совет
    #39030533
startDBA
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
startDBA,

Доброе утро!
есть советы?
...
Рейтинг: 0 / 0
Архитектура hadoop совет
    #39030686
Есть набор книг по архитектуре

Big Data Application Architecture Q and A
Designing Data-Intensive Applications
Big Data by Nathan Marz

на пиратских источниках найти можно.

Но в вашем вопросе ничего нет ни о потребностях - для чего кластер проектируете, сколько данных и с какой скоростью будут поступать, ни о проблемах которые у вас уже вылезли (вот Вы пишете что сделали вот так; ну ок - а что не нравится? то есть, с чем столкнулись?)

Службы распределить по нодам можно как угодно. Вопрос в том что делаете и для чего.
...
Рейтинг: 0 / 0
Архитектура hadoop совет
    #39031350
startDBA
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Игорь Бобак,

во первых спасибо за ответ:)

мы только в начале дороги и по этому на большенство ваших вопросов пока нет ответов...да и сама фирма не особо знает чего хочет от зверя бигдата.

есть части кластера каторые надо планировать истрить вне зависимости от его предназночения по каким то правилам...
на данный момент меня интересуют JourmalNods и zookeeper quorum где их устанавливать?

мы их устанавили на namenode avtive/standby и appnode и помоему это не правильно по одной простой причине что если avtive namenode падает и 1 JourmalNods/zookeeper из 3 и тогда никакого quorum уже нету...так?

а как поменять/передвинуть JourmalNods в амбари я так и не нашел

кстати мы пользуемся дистрибутивом hoрtonworks амбари 2.2.4
...
Рейтинг: 0 / 0
4 сообщений из 4, страница 1 из 1
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Архитектура hadoop совет
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]