|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Дело в том, что мусор не могу теперь собрать... :-) Вот: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24.
... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 21:38 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоидб) да, локальный... а что? :-)Ну так какого fb_inet_server'а ты ждёшь ? :-) Это линукс, тут нет локального протокола, только embedded. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 21:49 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
hvladТаблоидб) да, локальный... а что? :-)Ну так какого fb_inet_server'а ты ждёшь ? :-) Это линукс, тут нет локального протокола, только embedded.тьфу, ёлыпалы... так я и думал, что глупость опять напорол :-) Но вот скажи всё равно: срубил я этот самый подсчет каунтов в ISQL, выполнил дисконнект из другого окна (ИБЭ). Теперь никаких подключений к серверу нет, а fbtracemgr всё равно грузит проц! на те же самые 45-47%. Отчего это ? Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41.
... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 21:57 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидТеперь никаких подключений к серверу нет, а fbtracemgr всё равно грузит проц! на те же самые 45-47%.Если это не связано с запись лога в файл, то понятия не имею. Можешь снять с него бектрейс - посмотрим ... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 22:14 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
hvladТаблоидТеперь никаких подключений к серверу нет, а fbtracemgr всё равно грузит проц! на те же самые 45-47%.Если это не связано с запись лога в файл, то понятия не имею. Можешь снять с него бектрейс - посмотримЭто уже завтра только смогу. Сейчас повторил, приконнектился через TCP - всё та же значительная загрузка от fbtracemgr и капля отведена на fb_inet_server: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16.
... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 22:18 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Последняя попытка: удаляю всё тот же 1 млн строк, но трейс выключен. В топе вижу загрузку ЦПУ от fb_inet_server'a: 1) от оператора delete - только на 50-55%;. 2) от последующего за этим select count(*) from tmp - всего на 17-19%. Это тоже непонятно: никаких других процессов сейчас на этом серваке нет, что ему мешает загрузить проц по-полной ? Если затык при count'e из-за очереди на диск, то где он тут, покажите, плз: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26.
... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 22:32 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидЕсли затык при count'e из-за очереди на диск, то где он тут Прошу прощения, что вмешиваюсь, но нагрузку на диск сподручнее смотреть через iotop. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 23:08 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоид, дисковый ввод-вывод даже при пустой очереди (отсутствии конкуренции) все равно "отрубает" процессор на время операции, так что IMHO тут все нормально - сборка мусора просто сильнее грузит диск, чем удаление. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.04.2011, 23:10 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
miwaonlineнагрузку на диск сподручнее смотреть через iotop.спасибо, я этого не знал; учту в след. раз. dimitrсборка мусора просто сильнее грузит диск, чем удаление.оказалось неожиданным, НАСКОЛЬКО сильнее. Само удаление идёт чуть больше минуты. Каунт после него - 40 минут! Каунт "обычный", не вызывающий сборку мусора, - 45 сек. Вот что вижу сейчас, по итогам томной ночи: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41. 42. 43. 44. 45. 46. 47. 48. 49. 50. 51. 52. 53. 54.
2 hvlad, dimitr : и еще две странности. 1) Статистика (в спойлере) показывает, что буферов у меня 75. Базу создавал без явного указания числа буферов, в firebird.conf'e давно уже установлено 512. Откуда ISQL берёт значение buffers=75 ?! 2) поменял число буферов в заголовке базы (gfix -buffers 512). Подсчет числа строк на исходной таблице (100 млн), к сож-ю, остался практически таким же, как и при buf=75: 43 сек. Размер страницы = 8К, памяти на сервере навалом. Хорошо помню, что раньше увеличение числа буферов влияло гораздо сильнее, и на чтение и на запись. ЗЫ. LI-V2.5.0.26083 ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 09:01 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоидоказалось неожиданным, НАСКОЛЬКО сильнее. Само удаление идёт чуть больше минуты. Каунт после него - 40 минут! Каунт "обычный", не вызывающий сборку мусора, - 45 сек. - удаление не трогает индексы - сборка мусора - чистит и данные, и индексы - 5 индексов приводят к random IO - кеш в 75 буферов постоянно вытесняется и одно и то же заново читается и пишется - чтения амортизируются файловым кешем, а вот записи - нет, ибо FW ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 10:41 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Проблема решена. Рулят три вещи: 1) buffers = 512; 2) FW = OFF и 3) FileSystemCacheThreshold = 65536 При установленном числе буферов = 512 сделал еще три замера. Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17.
Напомню: удаление 1 млн строк из таблицы, содержащей 100 млн. Скрипт создания таблицы: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21.
2 dimitr, hvlad . Так и не понимаю: 1) зачем по дефолту до сих пор 75. Инсталлятор надо срочно менять и проставить там хотя бы 256. А лучше 512. 2) зачем по дефолту FW = ON, если в природе давно есть HDD-контроллеры, "обманывающие" OS и пишущие не так, как мы просим, а так, как "им надо" (т.е. меняющие последовательность записей). Если некая база крутится в продакшене с FW = OFF и там никто не делает backup'ы, то при жестком обрубе сервака часть их данных ВСЁ РАВНО будет потеряна. Так чего ради этот FW по дефолту = ON ? 3) зачем вырублено кеширование средствами OS, если сам ФБ пока еще не делает упреждающего чтения и отложенной записи. В итоге, получаем нападки типа этой . И ведь нечем опровергнуть, пока не подкрутишь штатные настройки! ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 11:14 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоид, FileSystemCacheThreshold=disabled - это что ? ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 11:51 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидИнсталлятор надо срочно менять и проставить там хотя бы 256. А лучше 512. если я правильно помню, конфиг ориентирован на суперсервер, и там прописано значение в 2048. У сервера есть умолчательные значения в кэше, если в конфиге ничего не прописано - 75 для классика и 2048 для супера. Так что, если чего и менять, то умолчательные значения в сервере (а не в конфиге). ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 13:49 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
hvladFileSystemCacheThreshold=disabled - это что ?это когда пробовал с .conf'ом, в котором закомментирована строка с этим параметром: #FileSystemCacheThreshold = 65536 Я понимаю, что это значение (65536) в закомментированном виде должно работать так, как и в раскомментированном. Но тогда эффект от удаления комментария был бы нулевым. А он совсем не нулевой - см выше статистику (сборка мусора уменьшилась со 447 до 181 сек). ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 13:51 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
kdvТак что, если чего и менять, то умолчательные значения в сервере (а не в конфиге).OFF. 2 KDV . А вот вопросик имею, еще вчера хотел задать. Когда тестировалась терабайтная база, то выполнялись ли DML-действия ? (апдейты, делиты ?) ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 13:55 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидhvladFileSystemCacheThreshold=disabled - это что ?это когда пробовал с .conf'ом, в котором закомментирована строка с этим параметром: #FileSystemCacheThreshold = 65536 Я понимаю, что это значение (65536) в закомментированном виде должно работать так, как и в раскомментированном. Именно так оно и работает ТаблоидНо тогда эффект от удаления комментария был бы нулевым. А он совсем не нулевой - см выше статистику (сборка мусора уменьшилась со 447 до 181 сек).Где-то ты опять ошибаешься :) ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 14:23 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидТак и не понимаю: 1) зачем по дефолту до сих пор 75. Инсталлятор надо срочно менять и проставить там хотя бы 256. А лучше 512. 2) зачем по дефолту FW = ON, если в природе давно есть HDD-контроллеры, "обманывающие" OS и пишущие не так, как мы просим, а так, как "им надо" (т.е. меняющие последовательность записей). Если некая база крутится в продакшене с FW = OFF и там никто не делает backup'ы, то при жестком обрубе сервака часть их данных ВСЁ РАВНО будет потеряна. Так чего ради этот FW по дефолту = ON ? 3) зачем вырублено кеширование средствами OS, если сам ФБ пока еще не делает упреждающего чтения и отложенной записи 1) уже обсуждалось. В 3.0 увеличили. 2) не у каждого нуба есть такой хитрожопый контроллер. А дефолтная конфигурация рассчитана как раз на нубов. 3) вырублено оно лишь для очень больших кешей, чтобы избежать драки с осью за виртуалку ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 15:26 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидКогда тестировалась терабайтная база, то выполнялись ли DML-действия ? (апдейты, делиты ?) нет. тупо налито, и все. планировали tpc-c на ней покрутить, соответственно было бы и то и другое. Но не задалось, диск с базой лежит возле компа, отключенный. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 15:32 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоид2) зачем по дефолту FW = ON, если в природе давно есть HDD-контроллеры, "обманывающие" OS и пишущие не так, как мы просим, а так, как "им надо" (т.е. меняющие последовательность записей). Если некая база крутится в продакшене с FW = OFF и там никто не делает backup'ы, то при жестком обрубе сервака часть их данных ВСЁ РАВНО будет потеряна. Так чего ради этот FW по дефолту = ON ?Ты тащишь за уши железячный вопрос, для того, чтоб при отрубе питания не развалился рэйд при кэшировании записи на винты есть такое устройство в простонародье батарейка/бабуин, по науке bbu или bbwc (разные вендоры называют по разному). В общем хочешь кэшировать запись на контроллере доукомплектуй его соответствующим устройством, на фоне остальной сметы 100$ не заметно и не парь мозг SQL серверу и его разработчикам. :) ... |
|||
:
Нравится:
Не нравится:
|
|||
13.04.2011, 16:01 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Поднимаю тему, т.к. сижу в ступоре: меняю в firebird.conf'e значение AuditTraceConfigFile (указываю другой файл с настройками трейса), подключаюсь к базе, выполняю запрос, отключаюсь. И вижу, что... создается по-прежнему старый лог. Подумал, что может это вообще другой firebird.conf, поменял в нём DefaultDBCachePages на вычурное значение = 1234. Снова подключился к FB (LI-V2.5.1.26353, classic), выполнил set stat on + select 1 from rdb$database - вижу в статистике новое значение для buffers (только что установленное 1234). Отключил вообще AuditTraceConfigFile, но настройка не подействовала, лог трейса всё пишется. Перезапустил xinetd - не помогло! "Кто-то" упрямо пишет в лог трейса! 2 hvlad: можно ли в заголовке файла однократно писать, настройки КАКОГО trace.conf'а используются в данный момент ? Т.е. можно ли вот тут дописать что-то типа того, что зелёным цветом: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10.
... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2011, 11:34 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
ТаблоидПоднимаю тему, т.к. сижу в ступоре: меняю в firebird.conf'e значение AuditTraceConfigFile (указываю другой файл с настройками трейса), подключаюсь к базе, выполняю запрос, отключаюсь. И вижу, что... создается по-прежнему старый лог.Потому что нужен полный дисконнект. ТаблоидПодумал, что может это вообще другой firebird.conf, поменял в нём DefaultDBCachePages на вычурное значение = 1234. Снова подключился к FB (LI-V2.5.1.26353, classic), выполнил set stat on + select 1 from rdb$database - вижу в статистике новое значение для buffers (только что установленное 1234). Потому что классик перечитывает конфиг при старте. Но для существующего аудита это не работает. Как и для пар-ров лок-менеджера, например. Таблоид 2 hvlad: можно ли в заголовке файла однократно писать, настройки КАКОГО trace.conf'а используются в данный момент ?Нет, потому что в самом трейсе нет никаких файлов конфига. В принципе, можно при создании трейс-сессии аудита писать об этом в firebird.log... ... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2011, 12:11 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
hvladТаблоидПоднимаю тему, т.к. сижу в ступоре: меняю в firebird.conf'e значение AuditTraceConfigFile (указываю другой файл с настройками трейса), подключаюсь к базе, выполняю запрос, отключаюсь. И вижу, что... создается по-прежнему старый лог.Потому что нужен полный дисконнект.что значит "полный дисконнект" ?! я не только отрубился от базы, но и вообще xinet рестартовал. Неужто и этого недостаточно ? hvladТаблоидПодумал, что может это вообще другой firebird.conf, поменял в нём DefaultDBCachePages на вычурное значение = 1234. Снова подключился к FB (LI-V2.5.1.26353, classic), выполнил set stat on + select 1 from rdb$database - вижу в статистике новое значение для buffers (только что установленное 1234). Потому что классик перечитывает конфиг при старте. Но для существующего аудита это не работает. Как и для пар-ров лок-менеджера, например.Звучит как приговор :-) Как его хотя бы вырубить-то, трейс этот ? hvladТаблоид 2 hvlad: можно ли в заголовке файла однократно писать, настройки КАКОГО trace.conf'а используются в данный момент ?Нет, потому что в самом трейсе нет никаких файлов конфига. В принципе, можно при создании трейс-сессии аудита писать об этом в firebird.log...Добавил просьбу: CORE-3595 ... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2011, 12:23 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
Таблоидчто значит "полный дисконнект" ?! я не только отрубился от базы Полный - значит не должно быть ни одного процесса FB. Это что-то новое ??? Таблоидно и вообще xinet рестартовал. Неужто и этого недостаточно ?Ты вчера ФБ впервые увидел ? При чём тут xinetd ??? Я плакалъ :'( ТаблоидКак его хотя бы вырубить-то, трейс этот ? Суть аудита в том, чтобы ничего не пропускать. По уму, его должно быть невозможно вырубить. Но лазейка есть. Сам найдёшь :) Ты мне вот что скажи - зачем ты из пушки (аудит) стреляешь по воробьям (свои частные сиюминутные задачи), когда есть личное оружие (пользовательский трейс) ??? ... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2011, 12:29 |
|
fbtracemgr: разные мелкие вопросы
|
|||
---|---|---|---|
#18+
hvladТы мне вот что скажи - зачем ты из пушки (аудит) стреляешь по воробьям (свои частные сиюминутные задачи), когда есть личное оружие (пользовательский трейс) ???Потому что так удобнее: не надо запускать ничего (fbtracemgr -se localhost:service_mgr -start -config /opt/firebird/fbtrace_probe01.conf ), просто подключился к тестовой базе - и вот он лог, уже готовый. К тому же, старт пользовательского трейса выводит мессаги на консоль, а не в файл. Для логирования вывода в файл надо бубен в виде tee использовать. И наконец, в "моём" линухе трейс надо запускать не через fbtracemgr, а с использованием fbsvcmgr - иначе его остановка по Упр-Це приводит к созданию какого-то дампа (см http://tracker.firebirdsql.org/browse/CORE-3405). Хотя Алекс и сказал, что этот тикет есть дубликат пролеченного, у меня дамп всё равно создается. ... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2011, 13:04 |
|
|
start [/forum/topic.php?fid=40&msg=37214449&tid=1561416]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
133ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
56ms |
get tp. blocked users: |
1ms |
others: | 302ms |
total: | 538ms |
0 / 0 |