|
|
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Всем добрый день. Возможно, кто-то сможет помочь разобраться с вопросом. Суть: необходимо продумать "верхний уровень" архитектуры системы, обрабатывающей большие объёмы данных. Данные поступают постоянно, их надо записывать, потом, по запросу, строить отчеты для пользователей в real time (пока только отчёты, в перспективе - будут и другие варианты обработки информации). Есть мысль реализовать такой вариант: 1. Данные записываются в MongoDB. Выбор обусловлен тем, что Mongo обеспечивает очень хорошую скорость записи. 2. Данные перетаскиваются в PostgreSQL, структурируются, и там мы уже занимаемся обработкой - обращаемся с запросами и т.д. Вопрос: может ли быть такая система жизнеспособной, или моя фантазия накрутила лишнего? Или стоит не выпендриваться и работать только с PostgreSQL? Или есть ещё какие-то, более правильные, варианты? Заранее спасибо за ответы. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 17:23 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Redlady 1. Данные записываются в MongoDB. Выбор обусловлен тем, что Mongo обеспечивает очень хорошую скорость записи.Простой текстовый файл обеспечивает еще большую скорость записи, причем технология куда старше, гораздо проще и стало быть надежнее. Redlady Данные перетаскиваются в PostgreSQLИменно так. Любой приличный сервис умеет log rotation, который (log) и готов для загрузки в СУБД. Redlady Или стоит не выпендриваться и работать только с PostgreSQL?СУБД очень не любит массовый поток одиночных инсертов (велики накладные расходы). Буфер в виде текстового файла - стандартный выход из положения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 17:53 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
SERG1257Простой текстовый файл обеспечивает еще большую скорость записи, причем технология куда старше, гораздо проще и стало быть надежнее. А как насчет работы с большим объёмом данных? Что-то мне представляется, что "чудо распухнет и будет мешать ходить"... Да и встаёт вопрос конвертации информации, которую мы будем получать, в текст. Я прошу прощения за глупые вопросы, но предметная область для меня новая, только начала разбираться. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:02 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Redlady А как насчет работы с большим объёмом данных?Каким объемом данных? В каком месте. Я согласен с вашим решением в принципе, но предлагаю заменить MongoDB на log rotation. Redlady Да и встаёт вопрос конвертации информации, которую мы будем получать, в текст.А в MongoDB типа конвертировать не надо. Или из MongoDB в PostgreSQL тоже как нибудь само сконвертируется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:12 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
RedladyЧто-то мне представляется, что "чудо распухнет и будет мешать ходить"... Ну так ограничь объём информации в одном файле одним днём/часом/минутой. RedladyДа и встаёт вопрос конвертации информации, которую мы будем получать, в текст. Ну так не конвертируй, пиши в двоичные файлы. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:14 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
SERG1257Каким объемом данных? В каком месте. На входе, в первую очередь, поэтому меня сильно интересует именно скорость записи. Объём - пока сложно точно сказать, порядок - от 100 ТБ в сутки, поступать будет неравномерно. SERG1257А в MongoDB типа конвертировать не надо. Или из MongoDB в PostgreSQL тоже как нибудь само сконвертируется. Логично ) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:46 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Dimitry SibiryakovНу так не конвертируй, пиши в двоичные файлы. Кстати, да, причем по ряду причин этот вариант может быть удобным. Спасибо. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:47 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Redlady, MongoDB очень вряд ли будет писать данные быстрее, чем текстовый файл, и совершенно точно не будет писать быстрее чем двоичный - так что за это я бы не волновался. С текстовыми/двоичными файлами я бы больше переживал за надежность - что будет, если "на всем скаку" принимающий сервер вырубится - что из принятой информации успеет записаться на диск, а что безвозвратно пропадет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 18:53 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
Redladyот 100 ТБ в сутки Точно тут буква Т? Чтобы чайника взяли на работу с БАК, совсем кранты должны быть науке... Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.02.2014, 19:04 |
|
||
|
Скрещивание SQL и NoSQL баз в одном проекте
|
|||
|---|---|---|---|
|
#18+
MongoDB - документоориентированная У вас структурированные документы? Все что связно с транзакционностью(операции с деньгами, например) выносите в postgre связывайте по ключам, ничего перекачивать без особой необходимости не нужно. Такая схема жизнеспособна. Аналитику - на pentahoo и mondrian, например. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 19.02.2014, 11:17 |
|
||
|
|

start [/forum/topic.php?fid=32&msg=38565046&tid=1540974]: |
0ms |
get settings: |
9ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
182ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
50ms |
get tp. blocked users: |
1ms |
| others: | 239ms |
| total: | 512ms |

| 0 / 0 |

Извините, этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
... ля, ля, ля ...