powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Проектирование БД [игнор отключен] [закрыт для гостей] / Скрещивание SQL и NoSQL баз в одном проекте
10 сообщений из 10, страница 1 из 1
Скрещивание SQL и NoSQL баз в одном проекте
    #38564900
Redlady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Всем добрый день.

Возможно, кто-то сможет помочь разобраться с вопросом.

Суть: необходимо продумать "верхний уровень" архитектуры системы, обрабатывающей большие объёмы данных.
Данные поступают постоянно, их надо записывать, потом, по запросу, строить отчеты для пользователей в real time (пока только отчёты, в перспективе - будут и другие варианты обработки информации).

Есть мысль реализовать такой вариант:
1. Данные записываются в MongoDB. Выбор обусловлен тем, что Mongo обеспечивает очень хорошую скорость записи.
2. Данные перетаскиваются в PostgreSQL, структурируются, и там мы уже занимаемся обработкой - обращаемся с запросами и т.д.

Вопрос: может ли быть такая система жизнеспособной, или моя фантазия накрутила лишнего?
Или стоит не выпендриваться и работать только с PostgreSQL?
Или есть ещё какие-то, более правильные, варианты?

Заранее спасибо за ответы.
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38564951
SERG1257
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Redlady 1. Данные записываются в MongoDB. Выбор обусловлен тем, что Mongo обеспечивает очень хорошую скорость записи.Простой текстовый файл обеспечивает еще большую скорость записи, причем технология куда старше, гораздо проще и стало быть надежнее.
Redlady Данные перетаскиваются в PostgreSQLИменно так. Любой приличный сервис умеет log rotation, который (log) и готов для загрузки в СУБД.
Redlady Или стоит не выпендриваться и работать только с PostgreSQL?СУБД очень не любит массовый поток одиночных инсертов (велики накладные расходы). Буфер в виде текстового файла - стандартный выход из положения.
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38564970
Redlady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
SERG1257Простой текстовый файл обеспечивает еще большую скорость записи, причем технология куда старше, гораздо проще и стало быть надежнее.
А как насчет работы с большим объёмом данных?
Что-то мне представляется, что "чудо распухнет и будет мешать ходить"...
Да и встаёт вопрос конвертации информации, которую мы будем получать, в текст.

Я прошу прощения за глупые вопросы, но предметная область для меня новая, только начала разбираться.
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38564987
SERG1257
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Redlady А как насчет работы с большим объёмом данных?Каким объемом данных? В каком месте.
Я согласен с вашим решением в принципе, но предлагаю заменить MongoDB на log rotation.
Redlady Да и встаёт вопрос конвертации информации, которую мы будем получать, в текст.А в MongoDB типа конвертировать не надо. Или из MongoDB в PostgreSQL тоже как нибудь само сконвертируется.
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38564991
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
RedladyЧто-то мне представляется, что "чудо распухнет и будет мешать ходить"...
Ну так ограничь объём информации в одном файле одним днём/часом/минутой.

RedladyДа и встаёт вопрос конвертации информации, которую мы будем получать, в
текст.
Ну так не конвертируй, пиши в двоичные файлы.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38565044
Redlady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
SERG1257Каким объемом данных? В каком месте.
На входе, в первую очередь, поэтому меня сильно интересует именно скорость записи. Объём - пока сложно точно сказать, порядок - от 100 ТБ в сутки, поступать будет неравномерно.

SERG1257А в MongoDB типа конвертировать не надо. Или из MongoDB в PostgreSQL тоже как нибудь само сконвертируется.
Логично )
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38565046
Redlady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Dimitry SibiryakovНу так не конвертируй, пиши в двоичные файлы.
Кстати, да, причем по ряду причин этот вариант может быть удобным. Спасибо.
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38565055
Кот Матроскин
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Redlady,

MongoDB очень вряд ли будет писать данные быстрее, чем текстовый файл, и совершенно точно не будет писать быстрее чем двоичный - так что за это я бы не волновался.
С текстовыми/двоичными файлами я бы больше переживал за надежность - что будет, если "на всем скаку" принимающий сервер вырубится - что из принятой информации успеет записаться на диск, а что безвозвратно пропадет?
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38565072
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Redladyот 100 ТБ в сутки
Точно тут буква Т? Чтобы чайника взяли на работу с БАК, совсем кранты должны быть науке...
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Скрещивание SQL и NoSQL баз в одном проекте
    #38565664
Фотография Роман Дынник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MongoDB - документоориентированная
У вас структурированные документы?
Все что связно с транзакционностью(операции с деньгами, например) выносите в postgre
связывайте по ключам, ничего перекачивать без особой необходимости не нужно.
Такая схема жизнеспособна.
Аналитику - на pentahoo и mondrian, например.
...
Рейтинг: 0 / 0
10 сообщений из 10, страница 1 из 1
Форумы / Проектирование БД [игнор отключен] [закрыт для гостей] / Скрещивание SQL и NoSQL баз в одном проекте
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]