|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Полагаю, можно пока прекратить обсуждение. Просто была мысль, что можно обойтись вообще без сбора мусора, использовав для всех подключений no_garbage_collect и, возможно, избавиться от "тормозов", связанных с кооперативным сбором мусора, но процесс обсуждения привел к выводу, что это нереально, да и gbak backup/restore на базе в 30Гб может выполняться неприемлемо долго для технологического окна. Всем спасибо за участие в обсуждении! ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 14:24 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
rdb_dev> обойтись вообще без сбора мусора rdb_dev> и, возможно, избавиться от "тормозов" Блин, а они есть вообще, эти мусор и тормоза или у тебя много свободного времени и буйная фантазия? rdb_dev> процесс обсуждения привел к выводу, что это нереально rdb_dev> gbak backup/restore на базе в 30Гб может выполняться rdb_dev> неприемлемо долго для технологического окна. Фейспалм. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 14:27 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
rdb_devбыла мысль, что можно обойтись вообще без сбора мусораМожно, для этого надо делать только инсерты и селекты. Впрочем выше про это уже было. rdb_devgbak backup/restore на базе в 30Гб может выполняться неприемлемо долго для технологического окна.это не окно, это форточка. "Окно" меньше часа? ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 15:24 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Ivan_Pisarevskyэто не окно, это форточка. "Окно" меньше часа?Нехай будя "форточка". :) Вообще, чем меньше, тем лучше и в пределах часа было бы идеально, но не успеть. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 15:29 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Если вы 30 гиг за час не успеваете, что-то с железом у вас тухляк. У нас базулька в 75 гиг проходит полный цикл б/р ровно за 1 час. Да, при этом параллельно б/р проходит еще несколько вспомогательных баз. Хотя мы не заменяем базу отресторенной копией, так проконтролировать факт рестора, растащить на тестовые сервера и т.п. По рабочей базе прогнали ночером свип и буде с нее. Да, на чахлых филиальных серверах б/р идет часов 5, но он там скорее для проформы, чем ради практической ценности. Короче, купи нормальный сервак и "буде тебе щастье". ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:15 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Hello, Ivan Pisarevsky! You wrote on 14 ноября 2016 г. 16:17:03: Ivan Pisarevsky> Короче, купи нормальный сервак и "буде тебе щастье".два. один боевой, другой для рестора и как резервный. зы: но к данному треду это вообще не имеет отношения. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:18 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Мимопроходящий> два. А лучше три. (с) Мальчик, которого нет, (с) вроде что-то там говорил про "объектов много". Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:26 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Hello, Гаджимурадов Рустам! You wrote on 14 ноября 2016 г. 16:28:58: Гаджимурадов Рустам> Мальчик, которого нет, (с) > вроде что-то там говорил > про "объектов много".а ещё он говорил про 30 лет стажа "администрирования" Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:29 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Не может быть. Пациент путается в показаниях. (с) P.S. А он погромист или администратор? Или и жнец, и швец, и на дуде трындец? Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:31 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Гаджимурадов РустамP.S. А он погромист или администратор? Судя по рефлекторному применению бубна, он эникейщик. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
14.11.2016, 16:57 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Перечитал ветку. Вопрос изначально рассматриваемый как чисто теоретический потом перетек в оптимизацию конкретного приложения, но целостной картины из конкретики по этому приложению мне составить не удалось. На сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение. Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб. Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя. Нужно промониторить разрыв OAT-OIT на предмет некорректной работы с транзакциями, тут уже говорили про это. Еще было упоминание топикстартера про периодическое удаление неактуальных записей. Непонятен объем удаления и частота этого действия. Удаление большого кол-ва записей создает кучу мусора которую придется убирать. Лучше удалять мелкими порциями и сразу после порции в следующей транзакции делать селект на только что удаленное - что бы явно вызвать сборку мусора. Таким образом мы не накапливаем большой вал а грызем его потихоньку, и это не вызовет длительных тормозов. Выполняя удаление устаревших записей не раз в месяц а несколько раз в день мы уменшим раздувание и сдувание базы. Уменьшение размера БД путем backup/restore - это не та операция которой нужно поддерживать размер БД в приемлемом размере. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 05:24 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Ivan_PisarevskyЕсли вы 30 гиг за час не успеваете, что-то с железом у вас тухляк. ... Короче, купи нормальный сервак и "буде тебе щастье". Давайте решать проблемы некорректного софта наращиванием железа. Если ему вдруг начнет хватать железа что бы перебэкапить 30 гигов за час - это же не нормальный повод продолжать в этом духе, в то время как там может собственно данных на 30мб а остальное ненужный мусор. избавившись от которого задача вообще станет выглядеть по другому. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 05:28 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
fraks> Давайте НЕ решать проблемы некорректного софта наращиванием железа. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 08:17 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Ivan_PisarevskyЕсли вы 30 гиг за час не успеваете, что-то с железом у вас тухляк. У нас базулька в 75 гиг проходит полный цикл б/р ровно за 1 час. Да, при этом параллельно б/р проходит еще несколько вспомогательных баз. Хотя мы не заменяем базу отресторенной копией, так проконтролировать факт рестора, растащить на тестовые сервера и т.п. По рабочей базе прогнали ночером свип и буде с нее. Да, на чахлых филиальных серверах б/р идет часов 5, но он там скорее для проформы, чем ради практической ценности. Короче, купи нормальный сервак и "буде тебе щастье".Заказчик, который не проводит регламентную замену аккумуляторов в ИБП и вообще не следит за штатной работой ИБП на хуче "терминалов" сбора данных, совершенно точно не будет увеличивать производительность железа и улучшать систему хранения данных. Для него важнее "холодное" резервирование этих систем. Так что "купи нормальный сервак", это не ко мне и мимо кассы. Такая, вот, особенность. Возможно, когда-нибудь, HDD заменят на SSD, но, опять же, это абсолютно точно не мне решать. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 09:08 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Гаджимурадов РустамP.S. А он погромист или администратор?Пару лет назад был администратор, теперь пописываю в связке C++ и FirebirdSQL, параллельно изучая нюансы последнего. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 09:11 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Мимопроходящийа ещё он говорил про 30 лет стажа "администрирования"Про 20 лет. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 09:12 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
fraksНа сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение. Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб. Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя.Как ты правильно заметил, одна таблица хранит именно текущие значения, но есть еще и хранение определенного количества истории. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 09:15 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
fraksЕще было упоминание топикстартера про периодическое удаление неактуальных записей. Непонятен объем удаления и частота этого действия. Удаление большого кол-ва записей создает кучу мусора которую придется убирать.Удаляются не записи в таблицах истории, а таблицы целиком. В хранится информация о том, как какие таблицы создавать и когда созданные таблицы, хранящие историю, прибивать. Естественно, что в таблицу историй делается только вставка записей. Такая, вот, особенность софта и против этой особенности, лично я, не имею ничего против и считаю, что для подобной системы это лучшее решение (грохать сразу всю таблицу). ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 09:21 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
fraksДавайте решать проблемы некорректного софта наращиванием железа.Давайте не будем вырывать фразы из контекста. Б/р базы в 30 гиг вполне реально уложить в полчаса, причем на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД). Собственно про это и есть фраза. Как уложить цикл обслуживания БД в технологическое окно в 1 час? купить железку. вопрос: нужно ли делать б/р ради чистки мусора? Нет не нужно, это из пушки по воробьям. Закоммитить транзакции в запустить принудительно свип в момент минимальной нагрузки на сервер. rdb_devэто лучшее решение (грохать сразу всю таблицу).Это решение может работать только в монопольном режиме. Для этого надо гарантированно всех отрубить, провести означенные мероприятия с метаданными и только потом запускать юзеров и роботов в базу. Что требует технологического окна и чтобы в него укладываться см. выше про железо. rdb_devЗаказчик, ... точно не будет увеличивать производительность железа и улучшать систему хранения данных.Это до первого более-менее серьезного отказа, все через это проходят, он просто еще не повзрослел. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 10:23 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Ivan_Pisarevsky> на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД). Тебе вроде уже много раз советовали снять нимб и спуститься на землю. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 10:50 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
rdb_devfraksНа сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение. Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб. Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя. Как ты правильно заметил, одна таблица хранит именно текущие значения, но есть еще и хранение определенного количества истории. Ну и давай, не останавливайся, сколько тебя можно за язык тянуть. сколько таблиц истории столько там записей какие таблицы дают такой объем сколько хранится по времени сколько НАДО хранить по времени (а не сколько получается технологически) в каких таблицах скапливаются версии почему они там скапливаются ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 10:59 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Ivan_PisarevskyfraksДавайте решать проблемы некорректного софта наращиванием железа.Давайте не будем вырывать фразы из контекста. Б/р базы в 30 гиг вполне реально уложить в полчаса, причем на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД). Собственно про это и есть фраза. Как уложить цикл обслуживания БД в технологическое окно в 1 час? купить железку. Тут речь не про то как администрировать черный ящик с определенными параметрами, и тогда да, кроме наращивания железа делать нечего. Вопрос стоит в том что для нормальной работы софта может не требоваться укладываться бэкап-рестор в полчаса, может он вообще не нужен в процессе эксплуатации, может там эти 30 Гиг не данных а всякого мусора и эффективнее подмести и прогуливаться раз в день с пылесосом чем утаптывать мусор ногами и потом заводить вездеходы что бы по этому мусору можно было хоть как-то перемещаться. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 11:07 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
ИМХО, мальчика не было. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 11:07 |
|
Пожалуйста, поясните про кооперативную сборку мусора.
|
|||
---|---|---|---|
#18+
Мне надо бежать, поэтому сразу скажу на какую мысль я пытался навести. Удалять таблицы целиком - это не есть хорошо, используется только потому что так быстрее. Но это влечет за собой всякие административные действия. Если есть определенность сколько данных надо хранить в истории то можно сделать например так: новые значения пишутся в таблицу, триггер на ней перекидывает прыдыдущие данные в историю + удаляет ровно столько записей сколько вставил, на расcтоянии ID-DELTA. Таким образом в таблице истории хранится постоянное кличество записей, база не растет и ее не надо чистить, она подчищается постоянно сама. Если не получается изменить пишушюю прогу - можно сделать отдельный удалятор, запускаемый по крону допустим раз в час или чаще. Он например смотрит на генератор PK на таблице истории и удаляет из нее записи с где ID < (GEN_ID(ID, 0)-DELTA). Коммитит. И делает селект по этому же условию. Получает NULL но зато мусор собран. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 11:17 |
|
|
start [/forum/topic.php?fid=40&msg=39346921&tid=1561846]: |
0ms |
get settings: |
11ms |
get forum list: |
12ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
44ms |
get topic data: |
9ms |
get forum data: |
3ms |
get page messages: |
63ms |
get tp. blocked users: |
2ms |
others: | 13ms |
total: | 165ms |
0 / 0 |