|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Привет! мы разработали приложение (игра) по схеме: Клиент-Node.js-MongoDB Пока база лежит на mLab на тарифе Shared Cluster. Сейчас начался рост нагрузки и скоро он выйдет за пределы возможностей этого тарифа. Как цель мы прогнозируем: 100-200 запросов в секунду 100GB данных в коллекциях Как вариант, мы можем перейти на mLab на тариф Dedicated, который начинается от $180 в месяц (и быстро растет). Вопрос, насколько это адекватные условия. Какие сейчас есть хорошие альтернативы? Кто-нибудь уже решал эту задачу для себя? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 12:27 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Развернуть свою реплику? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 13:22 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
AWS, Azure ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 13:34 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hett, тоже как вариант вариант, правда придется перенять соотв. геморрой. Хорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 13:40 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
skyANA, спасибо! Я, собственно, уже нагуглил и копался в том числе и на Atlas. Про Atlas мне попадается инфа, что пользователи часто получают счет гораздо больше, чем ожидали. Даже в разы! Поэтому хочется конкретных соображений по выбору и/или инфы о своем опыте. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 13:43 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Михаил, мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 16:17 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Объём данных на данный момент - 700GB. При этом ресурс машин утилизируется далеко не полностью. То есть мы могли бы использовать инстансы и подешевле. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 16:23 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
skyANA, а какого порядка "query/sec"? SSD? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.02.2018, 17:22 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
МихаилХорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше. Например, мы разворачивали сами, это дешевле. Данных 20 ТБ, нагрузка - же 100-200 запросов в секунду, данные на обычных 10К дисках. ... |
|||
:
Нравится:
Не нравится:
|
|||
16.02.2018, 17:52 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Eleanor, с шардингом? Сколько хостов и с какими CPU? WiredTiger? ... |
|||
:
Нравится:
Не нравится:
|
|||
16.02.2018, 20:05 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Михаил, Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы. Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать. На WiredTiger не перешли. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.02.2018, 02:53 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Что-то не понял, у вас шарды не являются реплика-сетами? ... |
|||
:
Нравится:
Не нравится:
|
|||
17.02.2018, 12:00 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Eleanor...и только диски нужно постоянно докупать. На WiredTiger не перешли. WT вроде жмет хорошо! ... |
|||
:
Нравится:
Не нравится:
|
|||
17.02.2018, 14:09 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettЧто-то не понял, у вас шарды не являются реплика-сетами? Являются, кроме 2 рабочих шард если еще по 1 дублирующей реплики на каждую. МихаилWT вроде жмет хорошо! Жмет-то хорошо, но при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок. Решили, что не готовы этим пользоваться и сжимаем-разжимаем данные на стороне клиента. ... |
|||
:
Нравится:
Не нравится:
|
|||
19.02.2018, 18:41 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
EleanorМихаил, Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы. Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать. На WiredTiger не перешли. Из-за кривой работы WT с zilb и silent data corruption не рискнули? Или из-за медленного поиска по ключу? MMAPv1 используется на 2.6 (блокировка на уровне базы) или 3.x (блокировка на уровне коллекции)? Бэкап через LVM или обычным способом? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.03.2018, 15:55 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Eleanor при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок Тестирование было на 3.0.1 версии? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.03.2018, 16:04 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAP, >> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии? Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД. А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает. >> Бэкап через LVM или обычным способом? Фактически LVM. Но вы не поверите, у нас Windows. Тоже где-то используете MongoDB в своем банке? ... |
|||
:
Нравится:
Не нравится:
|
|||
12.03.2018, 17:15 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
EleanorAndy_OLAP, >> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии? Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД. А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает. >> Бэкап через LVM или обычным способом? Фактически LVM. Но вы не поверите, у нас Windows. Тоже где-то используете MongoDB в своем банке? "Фактически LVM" - Windows на гипервизоре, а на нем что-то типа ZFS? Пока мне свой банк не нужен, но если обзаведусь - буду использовать MongoDB. По-моему, таки большая часть косяков уже оттуда выпилена. Хотя бы тот факт, что Петя Зайцев под нее предоставляет сборку Percona Server, уже о многом говорит :) ... |
|||
:
Нравится:
Не нравится:
|
|||
12.03.2018, 19:51 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAP, Гипервизора нет. NTFS, shadow copy через vssadmin. Косяки, да, повыпиливали. Еще 3 года назад пользоваться MongoDB было страшно. Заявленный в документации функционал не работал. Например, запускаешь создание индексов онлайн - и коллекция 4 часа недоступна. У всей команды долго было искушение выкинуть MongoDB и залить данные в реляционку. Сейчас проблем практически нет, но осадок остался. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.03.2018, 21:51 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Что за онлайн индексы? Почему не background ? ... |
|||
:
Нравится:
Не нравится:
|
|||
12.03.2018, 23:05 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hett, Background и есть. Назвала ближайший аналог в Sql Server, с которым работает Andy_OLAP. Обожглись с ним, уже не помню в какой версии, но с rolling index build всегда было отлично. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.03.2018, 23:21 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Eleanor, а не помните конкретный кейс, в котором это произошло? Или не разбирались с причинами? Мы начали полномасштабное внедрение где-то с третьей версии, тогда же и начали background индексами пользоваться, проблем с ними не было пока. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 12:18 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hett, Думаю, это давно уже починили. У нас внедрение пошло где-то с версии 2.2 и большинство проблем собрали именно на начальных версиях. Из проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт. Но тут сами виноваты, что довели его до такого размера. И под нагрузкой иногда падает сервис, что специфично только для Windows. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 13:40 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
EleanorИз проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт Интересно. У нас и до 30 Гб логи выростали, но кластер на убунте. Все никак руки не добуертся сделать ротацию. Хотя тут правда можно было и из коробки сделать, тем более там все для этого есть. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 16:43 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hettкластер на убунте А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас? ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 18:46 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Реплика сет из трех нод: одна 14 (ext3), другая 16 (xfs), на третьей даже не знаю, она для бэкапов и мастером не бывает. Монга 3.2 Из проблем было что бэкап снятый при помощи mongodump с oplog не полностью восстанавливался (на стадии записи данных оплога падал в ошибку связанную с каппед коллекцией). Такой же ошибкой упали недавно все слейвы (ошибка о том, что запись в каппед коллекции не может расти). Но это скорее коллеги вина. Но все же странно, мастер то выполнял запросы, а слейвы падали. Я так понял это из-за того что каждая нода сама себе оптимальные паддинги выбирает. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 22:14 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettНо это скорее коллеги вина. Нет, он не виноват. В 3.7 починят. Пока Вам придется с этим таки жить. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 23:18 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hettбэкап снятый при помощи mongodump с oplog Какой у вас объем данных и за какое время проходит бэкап? Собственно нам когда-то пришлось настроить снапшоты для бэкапа из-за того, что mongodump работал неприлично медленно. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.03.2018, 23:58 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAPHettНо это скорее коллеги вина. Нет, он не виноват. В 3.7 починят. Пока Вам придется с этим таки жить. Избавились от каппед коллекции, заменили на обычную с expiresAfter опцией. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2018, 08:44 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
EleanorHettбэкап снятый при помощи mongodump с oplog Какой у вас объем данных и за какое время проходит бэкап? Собственно нам когда-то пришлось настроить снапшоты для бэкапа из-за того, что mongodump работал неприлично медленно. Рабочий каталог монги - 100 гб (WT) Из-за описанной выше проблемы отказались от бэкапа при помощи mongodump (заводил баг у них на трекере и отправлял им приватно часть сломанного дампа, но не удалось разобраться). Сейчас просто останавливаем слейв и рсинком отправляем данные на сервер бэкапов. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2018, 10:53 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAPHettкластер на убунте А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас? Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2018, 10:56 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettAndy_OLAPпропущено... А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас? Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время. Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2018, 22:09 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hett, Собственно, я бы на Вашем месте поторопился - согласно вот этому можно потерять на ровном месте данные до 3.2.11. Перед обновлением сначала подтяните свои сервера хотя бы на 3.2.8. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.03.2018, 22:13 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
В пределах минорных версий сервера обновляются конечно. Из официального репозитория монги. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.03.2018, 07:48 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAPHettпропущено... Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время. Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать. Разве? В 3.4 он только помечен как deprecated. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.03.2018, 18:39 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettAndy_OLAPпропущено... Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать. Разве? В 3.4 он только помечен как deprecated. Да, Вы правы, работать будет, но я таки что имел в виду - когда deprecated, а какой-нибудь фикс в одном месте отламывает этот метод в другом месте или приводит к диким тормозам - никто чинить к тому, как раньше классно работало, уже не будет. Махнут рукой и скажут "да ладно, мы всех предупредили заранее, так что перепишут, если будет нужен". ... |
|||
:
Нравится:
Не нравится:
|
|||
01.04.2018, 10:12 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Hett, не напишите плз мне для контакта на мейл в моем профиле? ... |
|||
:
Нравится:
Не нравится:
|
|||
23.04.2018, 16:26 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
skyANAМихаил, мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах. Добрый день. Как Ваша монга, еще доступна? ... |
|||
:
Нравится:
Не нравится:
|
|||
24.04.2018, 20:43 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
МихаилHett, не напишите плз мне для контакта на мейл в моем профиле? Можете спросить тут :) ... |
|||
:
Нравится:
Не нравится:
|
|||
24.04.2018, 20:56 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Кстати обновил реплику с 3.2 на 3.4, но дальше пока сложности, появились записи о деприкейтах и нужно их устранять, прежде чем апгрейдиться дальше. ... |
|||
:
Нравится:
Не нравится:
|
|||
24.04.2018, 20:57 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettМихаилHett, не напишите плз мне для контакта на мейл в моем профиле? Можете спросить тут :) Вас кратковременная консалтерская работа не интересует? (MongoDB) ... |
|||
:
Нравится:
Не нравится:
|
|||
25.04.2018, 15:36 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Михаил, да я в монге далеко не эксперт, даже с шардингом дел не имел. Тут поопытней ребята есть. ... |
|||
:
Нравится:
Не нравится:
|
|||
25.04.2018, 17:40 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
HettМихаил, да я в монге далеко не эксперт, даже с шардингом дел не имел. Тут поопытней ребята есть. Ок, разместил в "Работе". ... |
|||
:
Нравится:
Не нравится:
|
|||
27.04.2018, 12:13 |
|
Посоветуйте сервис для MongoDB
|
|||
---|---|---|---|
#18+
Andy_OLAPskyANAМихаил, мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах. Добрый день. Как Ваша монга, еще доступна? доступна ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2018, 09:43 |
|
|
start [/forum/topic.php?all=1&fid=48&tid=1856623]: |
0ms |
get settings: |
10ms |
get forum list: |
12ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
47ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
78ms |
get tp. blocked users: |
2ms |
others: | 268ms |
total: | 440ms |
0 / 0 |