Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD? / 25 сообщений из 29, страница 1 из 2
21.09.2016, 14:43
    #39312732
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
Добрый день,

Наблюдаю более 1K записей в секунду в активные логи средствами мониторинга DB2.

При этом записей в базу происходит всего лишь около 200 в секунду, т.е. в активные логи пишется в 5 и более раз интенсивнее,
чем каталоги данных. Соответственно на хранилище вся эта нагрузка ложится в первую очередь на SLOG общего ZFS пула и потом раскидывается по дискам пула каждые 5 секунд. При этом утилизация HDD иногда поднимается почти до 100%.

Но какой смысл писать относительно небольшие активные логи на HDD да еще и за**рать ими L2ARC?

Наверно, нужно создать небольшой пул ZFS всего из одного зеркала nvRAM и целиков отдать его под активные логи?

Утилизация nvRAM очень низкая. Как мне кажется это очень сильно должно разгрузить основной пул ZFS, в т.ч. перестанет засорять его L2ARC.

Проблема только в том, как снэпшотить?

Ни разу не снэпшотил несколько датасетов одновременно.

Как думаете, можно ли после write suspend снэпшотить данные в двух разных пулах?
...
Рейтинг: 0 / 0
21.09.2016, 14:49
    #39312739
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
спрашиваю это на символичном:

S0006999.LOG

:)

недавно DB2 подвисла на логе S0006666.LOG



интересно, с чем это связано?



да, и кстати у нас нагрузка на DB2 выросла за последние месяцы в несколько раз, если не на порядок, по крайне мере судя по объему данных при синхронизации ZFS
...
Рейтинг: 0 / 0
21.09.2016, 14:52
    #39312740
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
и запас зеркалированного nvRAM в десятки раз превышает объем всех первичных и вторичных активных логов
...
Рейтинг: 0 / 0
23.09.2016, 11:00
    #39314013
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
lspci | grep -i mem
08:00.0 Non-Volatile memory controller: Intel Corporation Device 0953 (rev 01)
0c:00.0 Non-Volatile memory controller: Intel Corporation Device 0953 (rev 01)

Intel DC 3700
...
Рейтинг: 0 / 0
23.09.2016, 11:03
    #39314018
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
почему никто не дает советы в эту ветку?
неужели не пробовали?
может это нонсенс так делать
или такие рецепты только для небесплатных приватных клиентов?

может быть, у DB2 есть какой-то специальный режим подключения SSD кэш?
...
Рейтинг: 0 / 0
23.09.2016, 11:15
    #39314038
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
Какие существуют еще методики для повышения производительности именно за счет разнесения отдельных частей базы по разным хранилищам?

Т.е. какие еще каталоги базы можно расбросать по разным хранилищам и это бы дало профит в виде прироста производительности?
...
Рейтинг: 0 / 0
23.09.2016, 12:27
    #39314155
CawaSPb
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickпочему никто не дает советы в эту ветку? ...
Потому что Вы бодро беседуете сами с собой. За вами банально не успевают.

Кстати, если уж начинать сначала:
dbtwoshnickНаблюдаю более 1K записей в секунду в активные логи средствами мониторинга DB2.
Как именно? Большинство вещей в DB2 можно мониторить самыми различными способами.

BTW Была короткая ветка - 18013298 .

PS Почему DB2 "подвисла" на каком-то конкретном логе - да кто ж его знает. Провидцев тут нет, нужна информация о коде ошибки и сообщении, если таковые были, что там в это время в db2diag.log. И вообще, что значит "подвисла на логе"???
...
Рейтинг: 0 / 0
23.09.2016, 12:29
    #39314160
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickпочему никто не дает советы в эту ветку?
неужели не пробовали?
видимо потому-что немногие используют ZFS и его снепшоты под БД
dbtwoshnickможет это нонсенс так делать
"так" это как ? логи класть на SSD ? ну если у вас соответствующая нагрузка, то почему бы и нет.
dbtwoshnickили такие рецепты только для небесплатных приватных клиентов?
гугол бесплатен для всех.
dbtwoshnickможет быть, у DB2 есть какой-то специальный режим подключения SSD кэш?
нет, но можно поиграться с multitemperature storage, если DB2 версии V10.1 и выше
...
Рейтинг: 0 / 0
23.09.2016, 12:35
    #39314169
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickКакие существуют еще методики для повышения производительности именно за счет разнесения отдельных частей базы по разным хранилищам?

Т.е. какие еще каталоги базы можно расбросать по разным хранилищам и это бы дало профит в виде прироста производительности?

стандартная рекомендация : логи/storage path's/темпы на отдельные fs/lv/vg/raid
...
Рейтинг: 0 / 0
23.09.2016, 13:43
    #39314253
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekтемпы на отдельные fs/lv/vg/raid

темпы - это что-то связанное с временными таблицами?
...
Рейтинг: 0 / 0
23.09.2016, 14:07
    #39314294
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekнет, но можно поиграться с multitemperature storage, если DB2 версии V10.1 и выше

V9.7
...
Рейтинг: 0 / 0
23.09.2016, 14:25
    #39314318
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnick
темпы - это что-то связанное с временными таблицами?

да, temporary tablespaces
...
Рейтинг: 0 / 0
23.09.2016, 14:34
    #39314329
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekdbtwoshnickКакие существуют еще методики для повышения производительности именно за счет разнесения отдельных частей базы по разным хранилищам?

Т.е. какие еще каталоги базы можно расбросать по разным хранилищам и это бы дало профит в виде прироста производительности?

стандартная рекомендация : логи/storage path's/темпы на отдельные fs/lv/vg/raid

а каким транспортом их лучше цеплять?

NFS/iSCSI?
...
Рейтинг: 0 / 0
23.09.2016, 14:46
    #39314349
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickа каким транспортом их лучше цеплять?

NFS/iSCSI?
FC :)
...
Рейтинг: 0 / 0
23.09.2016, 14:50
    #39314361
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
так даже полоса гигабитного ethernet не заполняется
...
Рейтинг: 0 / 0
23.09.2016, 14:56
    #39314367
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekdbtwoshnickа каким транспортом их лучше цеплять?

NFS/iSCSI?
FC :)

в смысле Fibre Channel?
...
Рейтинг: 0 / 0
23.09.2016, 15:00
    #39314373
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickв смысле Fibre Channel?
да
...
Рейтинг: 0 / 0
23.09.2016, 15:49
    #39314450
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekdbtwoshnickв смысле Fibre Channel?
да

так ведь FC - это протокол внизу стэка под TCP/IP?
или хранилища по нему напрямую и работают без TCP/IP?

а поверх TCP/IP какой протокол посоветуете для каталогов DB2?
например, из этих двух: iSCSI или NFS?
...
Рейтинг: 0 / 0
23.09.2016, 16:11
    #39314476
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnickтак ведь FC - это протокол внизу стэка под TCP/IP?
или хранилища по нему напрямую и работают без TCP/IP?
Основы Fibre Channel
dbtwoshnickа поверх TCP/IP какой протокол посоветуете для каталогов DB2?
например, из этих двух: iSCSI или NFS?
Не посоветую, потому что не использую. Но если бы приспичило, то выбрал бы NFS на .... Netapp СХД :)
...
Рейтинг: 0 / 0
23.09.2016, 16:18
    #39314483
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekто выбрал бы NFS на .... Netapp СХД :)

потому что Netapp знаменит быстрым синхронным NFS для ESX?
...
Рейтинг: 0 / 0
23.09.2016, 16:42
    #39314512
mitek
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
dbtwoshnick
потому что Netapp знаменит быстрым синхронным NFS для ESX?
потому что в этом случае для своих БД мне бы хотелось иметь нечто более надежное и предсказуемое чем ZFS на Linux-сервере ;-)
...
Рейтинг: 0 / 0
23.09.2016, 16:55
    #39314519
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
mitekdbtwoshnickпотому что Netapp знаменит быстрым синхронным NFS для ESX?
потому что в этом случае для своих БД мне бы хотелось иметь нечто более надежное и предсказуемое чем ZFS на Linux-сервере ;-)

а где ZFS достаточно надежен кроме солярки?
...
Рейтинг: 0 / 0
26.09.2016, 09:37
    #39315342
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
Перенес активный лог DB2 на NVRAM SSD, максимальная скорость обмена данными в каталоге активных логов теперь ограничена только гигабитным каналом.

В разы упала утилизация HDD, примерно во столько же увеличилась скорость ZFS репликации со вторым хранилищем.

Мне теперь кажется, что размещение активного лога на SSD зеркале (пром. enterprise для датацентров) - это один из самых простых способов увеличения производительности DB2.
...
Рейтинг: 0 / 0
26.09.2016, 09:41
    #39315344
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
серые waiting хвосты в htop на хосте DB2 исчезли
да и вообще теперь большая часть ядер простаивает
наверно, потому что быстро выполняют свою работу и не ждут хранилища
...
Рейтинг: 0 / 0
26.09.2016, 12:31
    #39315515
dbtwoshnick
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD?
по словам пользователей, теперь комплекс летает :) в рабочее время под нагрузкой
и это при падении утилизации HDD (всего лишь ЧЕТЫРЕХ HDD причем под управлением ZFS on Linux) в несколько раз!

только непонятно все же что делать с реорганизацией :(

база растет, а количество прокачиваемых за ночь IOPs-ов в сторону HDD по понятным причинам не растет ...
и кроме как добавлением количества шпинделей навряд ли можно решить эту задачу
ну или в режиме sync=disabled с огромным кол-вом оперативки, но уж проще наверно увеличить количество HDD?
...
Рейтинг: 0 / 0
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / Стоит ли активные логи перебросить в отдельный ZFS пул из nvRAM SSD? / 25 сообщений из 29, страница 1 из 2
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]