powered by simpleCommunicator - 2.0.30     © 2024 Programmizd 02
Map
Форумы / Informix [игнор отключен] [закрыт для гостей] / Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
11 сообщений из 61, страница 3 из 3
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38724988
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ну все как обычно, тяжело жить без writeback cache
пробуйте lru_min_dirty=0.1,lru_max_dirty=0.2
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725162
vvt1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Журавлев Денисну все как обычно, тяжело жить без writeback cache
пробуйте lru_min_dirty=0.1,lru_max_dirty=0.2

С WriteBack cache встречался только в аппаратке.
И действительно, там когда батарея помирала до того как её заменяли (или сбрасывали счетчик для Sun Storagetek), то даже backup делался тоскливо и медленно.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725474
cpr
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cpr
Гость
Журавлев Денис,

Вы бы сначала спросили с какой скоростью этот LRU сбрасывается.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725546
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
cprЖуравлев Денис,

Вы бы сначала спросили с какой скоростью этот LRU сбрасывается.во время чекпоинта или между?
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725555
vvt1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Журавлев Денисну все как обычно, тяжело жить без writeback cache
пробуйте lru_min_dirty=0.1,lru_max_dirty=0.2

Мне сказали, что это не поможет, но тем не менее сделал.

И так, грузим в этот чанк:
Код: plaintext
1.
2.
Chunks
address          chunk/dbs     offset     size       free       bpages     flags pathname
1f7019028        106    106    0          4194304    4093557               PO-B-D /opt/informix/lnk/chunk-maindbs_1


В некоторых случаях:
Код: plaintext
1.
2.
Device:         rrqm/s   wrqm/s     r/s     w/s    rMB/s    wMB/s avgrq-sz avgqu-sz   await  svctm  %util
md127             0.00     0.00    0.00  386.40     0.00     1.01     5.33     0.00    0.00   0.00   0.00
dm-106            0.00     0.00    0.00  386.40     0.00     1.01     5.33     8.31   27.67   2.59  99.98


onstat счетчики были сбиты в ноль, после старта IDS.
LRU работает, но (CKPT INP) не уходит, т.е. вначале он уходил, а потом через 5-10 минут dbimport стоит стабильно. Вот onstat -F:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
IBM Informix Dynamic Server Version 12.10.FC1 -- On-Line (CKPT INP) -- Up 00:09:31 -- 7550312 Kbytes

Fg Writes     LRU Writes    Chunk Writes 
0             61547         7259         

address           flusher  state    data     # LRU    Chunk    Wakeups  Idle Tim
1f1c458b8        0        C        6a       17       7        63       42.381  
1f1c46148        1        L        f        14       11       110      88.858  
1f1c469d8        2        L        3        13       2        56       43.097  
1f1c47268        3        L        7        18       1        57       39.273  
1f1c47af8        4        L        9        14       7        111      89.740  
1f1c48388        5        L        1        13       41       88       33.002  
1f1c48c18        6        L        5        14       7        71       48.559  
1f1c494a8        7        L        b        15       39       145      90.401  
      states: Exit Idle Chunk Lru


По onstat -p, тоже вроде чего-то такого не видно:

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
IBM Informix Dynamic Server Version 12.10.FC1 -- On-Line (CKPT INP) -- Up 00:12:05 -- 7550312 Kbytes

Profile
dskreads   pagreads   bufreads   %cached dskwrits   pagwrits   bufwrits   %cached
458        1213       3853890    99.99   90090      362746     2195619    95.90  

isamtot    open       start      read       write      rewrite    delete     commit     rollbk
3826453    6229       5407       10858      1899977    559        27         33         0

gp_read    gp_write   gp_rewrt   gp_del     gp_alloc   gp_free    gp_curs   
0          0          0          0          0          0          0         

ovlock     ovuserthread ovbuff     usercpu  syscpu   numckpts   flushes   
0          0            0          50.89    10.80    2          6         

bufwaits   lokwaits   lockreqs   deadlks    dltouts    ckpwaits   compress   seqscans  
11         0          7065       0          0          2          132        342       

ixda-RA    idx-RA     da-RA      logrec-RA  RA-pgsused lchwaits  
0          316        15         0          55         816


onstat -u:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
IBM Informix Dynamic Server Version 12.10.FC1 -- On-Line -- Up 00:14:38 -- 7550312 Kbytes

Userthreads
address          flags   sessid   user     tty      wait             tout locks nreads   nwrites
1f1c45028        ---P--D 1        informix -        0                0    0     9        241
1f1c458b8        ---P--F 0        informix -        0                0    0     0        71459
1f1c46148        ---P--F 0        informix -        0                0    0     0        46393
1f1c469d8        ---P--F 0        informix -        0                0    0     0        67746
1f1c47268        ---P--F 0        informix -        0                0    0     0        48544
1f1c47af8        ---P--F 0        informix -        0                0    0     0        56201
1f1c48388        ---P--F 0        informix -        0                0    0     0        51985
1f1c48c18        ---P--F 0        informix -        0                0    0     0        45634
1f1c494a8        ---P--F 0        informix -        0                0    0     0        55327
1f1c49d38        ---P--- 9        informix -        0                0    0     0        0
1f1c4a5c8        ---P--B 10       informix -        0                0    0     0        0
1f1c4ae58        Y--P--D 11       informix -        1f70bc558        0    0     265      0
1f1c4bf78        ---P--D 15       informix -        0                0    0     0        0
1f1c4c808        Y--P--- 5        informix 2        1f72d4610        0    4     679      1631
1f1c4d098        ---P--D 16       informix -        0                0    0     0        0
1f1c4d928        ---P--- 26       informix -        0                0    1     28       15
1f1c4e1b8        ---P--- 27       informix -        0                0    1     11       1
1f1c4ea48        ---P--- 24       informix -        0                0    2     1        5
1f1c50c88        Y--P--D 33       informix -        49162b38         0    0     0        0
 19 active, 128 total, 23 maximum concurrent


Чекпоинт, пока, только один раз был 501 секунду, так, меньше (может это отработал AUTO_CKPTS 1?):
12:49:19 Checkpoint Completed: duration was 58 seconds.
12:49:19 Thu Aug 21 - loguniq 233, logpos 0x137b9018, timestamp: 0x1719e2ad Interval: 1399

12:49:19 Maximum server connections 1
12:49:19 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 1, Plog used 49, Llog used 30

12:58:10 Checkpoint Completed: duration was 501 seconds .
12:58:10 Thu Aug 21 - loguniq 233, logpos 0x137bf018, timestamp: 0x171c4f3f Interval: 1400

12:58:10 Maximum server connections 1
12:58:10 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 1, Plog used 105, Llog used 6

12:59:17 Checkpoint Completed: duration was 37 seconds.
12:59:17 Thu Aug 21 - loguniq 233, logpos 0x137c1018, timestamp: 0x171fc34e Interval: 1401

12:59:17 Maximum server connections 1
12:59:17 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 0, Plog used 23, Llog used 3

13:00:22 Checkpoint Completed: duration was 35 seconds.
13:00:22 Thu Aug 21 - loguniq 233, logpos 0x137c4018, timestamp: 0x17227e93 Interval: 1402

13:00:22 Maximum server connections 1
13:00:22 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 1, Plog used 29, Llog used 3

13:01:16 Checkpoint Completed: duration was 24 seconds.
13:01:16 Thu Aug 21 - loguniq 233, logpos 0x137c7018, timestamp: 0x172552c8 Interval: 1403

13:01:16 Maximum server connections 1
13:01:16 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 1, Plog used 38, Llog used 3

13:02:37 Checkpoint Completed: duration was 21 seconds.
13:02:37 Thu Aug 21 - loguniq 233, logpos 0x137ca018, timestamp: 0x172a438c Interval: 1404

13:02:37 Maximum server connections 1
13:02:37 Checkpoint Statistics - Avg. Txn Block Time 0.000, # Txns blocked 1, Plog used 45, Llog used 3


По чекпоинтам onstat -g ckp:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
IBM Informix Dynamic Server Version 12.10.FC1 -- On-Line (CKPT INP) -- Up 00:29:36 -- 7550312 Kbytes

AUTO_CKPTS=On   RTO_SERVER_RESTART=Off   

                                                                    Critical Sections                          Physical Log    Logical Log    
           Clock                                  Total Flush Block #      Ckpt  Wait  Long  # Dirty   Dskflu  Total    Avg    Total    Avg   
Interval   Time      Trigger    LSN               Time  Time  Time  Waits  Time  Time  Time  Buffers   /Sec    Pages    /Sec   Pages    /Sec  
1397       12:46:14  Startup    233:0x131330c0    1.9   1.4   0.0   0      0.0   0.0   0.0   140       98      389      0      1        0     
1398       12:47:50  CKPTINTVL  233:0x1379f018    37.1  36.5  0.0   0      0.0   0.0   0.0   3050      83      598      9      1668     27    
1399       12:49:18  CKPTINTVL  233:0x137b9018    58.7  47.2  0.0   1      0.0   5.7   5.7   4281      90      49       0      30       0     
1400       12:58:09  CKPTINTVL  233:0x137bf018    501.4 477.7 0.0   1      0.0   23.1  23.1  61296     128     105      1      6        0     
1401       12:59:16  CKPTINTVL  233:0x137c1018    37.2  37.1  0.0   0      0.0   0.0   0.0   3736      100     23       0      3        0     
1402       13:00:21  CKPTINTVL  233:0x137c4018    35.2  32.0  0.0   1      0.0   2.4   2.4   3825      119     29       0      3        0     
1403       13:01:15  CKPTINTVL  233:0x137c7018    24.1  21.6  0.0   1      0.0   2.4   2.4   3122      144     38       0      3        0     
1404       13:02:36  CKPTINTVL  233:0x137ca018    21.2  16.9  0.0   1      0.0   3.0   3.0   2680      158     45       0      3        0     
1405       13:04:59  CKPTINTVL  233:0x137cd018    82.5  79.1  0.0   1      0.0   2.3   2.3   3860      48      44       0      8        0     

Max Plog       Max Llog       Max Dskflush   Avg Dskflush   Avg Dirty      Blocked      
pages/sec      pages/sec      Time           pages/sec      pages/sec      Time         
200            325            478            106            95             0


Вот что дает onstat -g iof:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
IBM Informix Dynamic Server Version 12.10.FC1 -- On-Line (CKPT INP) -- Up 00:42:59 -- 7550312 Kbytes

AIO global files:
gfd pathname         bytes read     page reads  bytes write    page writes io/s
108 chunk-maindbs_1  2105344        1028        2744803328     1340236     2.0
        op type     count          avg. time
        seeks       0              N/A
        reads       0              N/A
        writes      0              N/A
        kaio_reads  257            0.0754
        kaio_writes 325824         0.4939


Смущает io/s = 2. Кажется это очень мало.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725564
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
vvt1Журавлев Денисну все как обычно, тяжело жить без writeback cache
пробуйте lru_min_dirty=0.1,lru_max_dirty=0.2

С WriteBack cache встречался только в аппаратке.
И действительно, там когда батарея помирала до того как её заменяли (или сбрасывали счетчик для Sun Storagetek), то даже backup делался тоскливо и медленно.это другой случай, при бекапе последовательная запись и батарейка с кешем чаще даже мешает, рисуя клифы (пишем пишем в кеш --> заполнился, начинаем его сбрасывать на диск, во время сброса вообще изображаем мертвого), а Storagetek без батарейки тупил на 5-х рейдах, индусы скорее всего не рассчитывали на жизнь без кеша. А длинные чекпоинты на без writeback cache это абсолютно другая история.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725592
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
vvt1,

blocked time 0, т.е. никто не был заблокирован чекпоинтом, onstat -u для импорта все время Y показывает?
физлог и файлы с импортом перенесите на зеркало на котором система
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725649
vvt1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Журавлев Денисblocked time 0, т.е. никто не был заблокирован чекпоинтом,

Ага, вот значит что эта колонка значит, теперь понятно.

Журавлев Денисonstat -u для импорта все время Y показывает?

Постоянно висит на этих демон-сессиях:
Код: plaintext
1.
2.
3.
Userthreads
address          flags   sessid   user     tty      wait             tout locks nreads   nwrites
1f1c4ae58        Y--P--D 11       informix -        1f70bc558        0    0     270      0
1f1c50c88        Y--P--D 33       informix -        49162b38         0    0     0        0


На сессии пользователя, осуществляющего загрузку через dbimport - Waiting on a condition, периодически, то есть, то нет.

Журавлев Денисфизлог и файлы с импортом перенесите на зеркало на котором система

С Physlog - надо подумать, а файлы с импортом и так на том зеркале, на котором система висит.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38725883
vvt1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Еще странный момент. Может и так должно быть.
Вобщем, при RAW chunk character device
Код: plaintext
1.
2.
1f701b028        108    108    0          4194304    4194201               PO-B-- /dev/raw/raw1
informix@ifx12-24:~$ ls -la /dev/raw/raw1
crw-rw---- 1 informix informix 162, 1 Aug 21 12:46 /dev/raw/raw1


И установленный в onconfig:
Код: plaintext
BUFFERPOOL      size=8K,buffers=800000,lrus=8,lru_min_dirty=60,lru_max_dirty=70


Время загрузки: 90 min через dbimport.

Код: plaintext
------------------------------------------------------------------------------------------------

При RAW chunk block device
Код: plaintext
1.
informix@ifx12-24:~$ ls -lL /opt/informix/lnk/chunk-maindbs_1
brw-rw---- 1 informix informix 253, 106 Aug 21 17:08 /opt/informix/lnk/chunk-maindbs_1


Но и при установленном в onconfig:
Код: plaintext
BUFFERPOOL      size=8K,buffers=800000,lrus=8,lru_min_dirty=0.1,lru_max_dirty=0.2


Время загрузки 177 минут , почти в два раза дольше.

Сейчас у меня опять сервер отобрали. Решили попробовать превратить его в iSCSI, чтоб отдать Informix на другой хост-машине и посмотреть как там будет себя оно вести.
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38726472
cpr
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cpr
Гость
Журавлев ДенисcprЖуравлев Денис,

Вы бы сначала спросили с какой скоростью этот LRU сбрасывается.во время чекпоинта или между?

Мой коллега на мой взгляд зашел слишком издалека. Я делал тесты на этой системе и определил следующее:
1. Сброс грязных страниц во время чекпойнта происходит очень медленно - при включенном KAIO примерно 3.5 метра в секунду. Сброс грязных страниц при работе клинера при включенном KAIO - 1 метр в секунду.
2. Самое неприятное, что когда при работающем клинере наступает событие для чекпойнта (проверял разные в том числе ручные) происходит странный клинч. onstat -F показывает одновременную работу и LRU Writes и Chunk writes, но при этом скорость сброса наименьшая 1 - метр в секунду.
Вышеуказанные скорости сброса примерно удваиваются при отключении KAIO, но клинч механизмов LRU и Chunk writes остается.

Отсюда следует, что массовую загрузку объема данных меньшего чем размер буферного кэша можно ускорить если пороги клинеров задрать до максимальных значений и не давать процессу загрузки загрязнять буфера быстрее, чем они сбрасываются. Мне например в тесте это удалось сделать установкой для dbload'а на загрузку одой записи в транзакцию.
Но если нужно делать импорт данных, превышающих буферный кэш, то обойти клинч не удается и dbimport финиширует с минимально возможной скоростью.

Проблема явно за пределами IDS т.к. аналогичные тесты на системе с ДБ пространством, расположенным на внешней СХД, подключенной по FC, никаких сложностей не выявляют. Чекпойнты сбрасываются со скоростями 64 и 45 метров в секунду для Chunk writes и LRU writes соответственно. Никакого клинча так же не наблюдается - при срабатывании триггера на чекпойнт при работающем LRU грязные страницы сбрасываются с максимальной скоростью
...
Рейтинг: 0 / 0
Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
    #38726526
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
cpr1 - метр в секундуметр рандомов или не рандомов

посмотрите что происходит с помощью
https://github.com/brendangregg/perf-tools/blob/master/iosnoop

http://habrahabr.ru/post/154235/ сравните количество iops у внешней схд и этого сервера при латенси 5мс
...
Рейтинг: 0 / 0
11 сообщений из 61, страница 3 из 3
Форумы / Informix [игнор отключен] [закрыт для гостей] / Медленный dbimport (да и dbload) на IDS 12.10 :: 1,5 Mb/sec
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]