powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Пожалуйста, поясните про кооперативную сборку мусора.
25 сообщений из 107, страница 4 из 5
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346864
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Полагаю, можно пока прекратить обсуждение.

Просто была мысль, что можно обойтись вообще без сбора мусора, использовав для всех подключений no_garbage_collect и, возможно, избавиться от "тормозов", связанных с кооперативным сбором мусора, но процесс обсуждения привел к выводу, что это нереально, да и gbak backup/restore на базе в 30Гб может выполняться неприемлемо долго для технологического окна.

Всем спасибо за участие в обсуждении!
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346870
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
rdb_dev> обойтись вообще без сбора мусора
rdb_dev> и, возможно, избавиться от "тормозов"

Блин, а они есть вообще, эти мусор и тормоза или у
тебя много свободного времени и буйная фантазия?

rdb_dev> процесс обсуждения привел к выводу, что это нереально
rdb_dev> gbak backup/restore на базе в 30Гб может выполняться
rdb_dev> неприемлемо долго для технологического окна.

Фейспалм.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346917
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
rdb_devбыла мысль, что можно обойтись вообще без сбора мусораМожно, для этого надо делать только инсерты и селекты. Впрочем выше про это уже было.
rdb_devgbak backup/restore на базе в 30Гб может выполняться неприемлемо долго для технологического окна.это не окно, это форточка. "Окно" меньше часа?
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346921
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_Pisarevskyэто не окно, это форточка. "Окно" меньше часа?Нехай будя "форточка". :) Вообще, чем меньше, тем лучше и в пределах часа было бы идеально, но не успеть.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346969
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Если вы 30 гиг за час не успеваете, что-то с железом у вас тухляк. У нас базулька в 75 гиг проходит полный цикл б/р ровно за 1 час. Да, при этом параллельно б/р проходит еще несколько вспомогательных баз.
Хотя мы не заменяем базу отресторенной копией, так проконтролировать факт рестора, растащить на тестовые сервера и т.п. По рабочей базе прогнали ночером свип и буде с нее.

Да, на чахлых филиальных серверах б/р идет часов 5, но он там скорее для проформы, чем ради практической ценности.

Короче, купи нормальный сервак и "буде тебе щастье".
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346972
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hello, Ivan Pisarevsky!
You wrote on 14 ноября 2016 г. 16:17:03:

Ivan Pisarevsky> Короче, купи нормальный сервак и "буде тебе щастье".два.
один боевой, другой для рестора и как резервный.

зы: но к данному треду это вообще не имеет отношения.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346977
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Мимопроходящий> два.

А лучше три. (с)

Мальчик, которого нет, (с)
вроде что-то там говорил
про "объектов много".
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346981
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hello, Гаджимурадов Рустам!
You wrote on 14 ноября 2016 г. 16:28:58:

Гаджимурадов Рустам> Мальчик, которого нет, (с)
> вроде что-то там говорил
> про "объектов много".а ещё он говорил про 30 лет стажа "администрирования"

Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39346984
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Не может быть.
Пациент путается в показаниях. (с)

P.S. А он погромист или администратор?
Или и жнец, и швец, и на дуде трындец?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347004
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов РустамP.S. А он погромист или администратор?

Судя по рефлекторному применению бубна, он эникейщик.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347203
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Перечитал ветку. Вопрос изначально рассматриваемый как чисто теоретический потом перетек в оптимизацию конкретного приложения, но целостной картины из конкретики по этому приложению мне составить не удалось.

На сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение.

Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб.
Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя.

Нужно промониторить разрыв OAT-OIT на предмет некорректной работы с транзакциями, тут уже говорили про это.

Еще было упоминание топикстартера про периодическое удаление неактуальных записей.
Непонятен объем удаления и частота этого действия. Удаление большого кол-ва записей создает кучу мусора которую придется убирать. Лучше удалять мелкими порциями и сразу после порции в следующей транзакции делать селект на только что удаленное - что бы явно вызвать сборку мусора. Таким образом мы не накапливаем большой вал а грызем его потихоньку, и это не вызовет длительных тормозов. Выполняя удаление устаревших записей не раз в месяц а несколько раз в день мы уменшим раздувание и сдувание базы.

Уменьшение размера БД путем backup/restore - это не та операция которой нужно поддерживать размер БД в приемлемом размере.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347204
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_PisarevskyЕсли вы 30 гиг за час не успеваете, что-то с железом у вас тухляк.
...
Короче, купи нормальный сервак и "буде тебе щастье".

Давайте решать проблемы некорректного софта наращиванием железа.
Если ему вдруг начнет хватать железа что бы перебэкапить 30 гигов за час - это же не нормальный повод продолжать в этом духе, в то время как там может собственно данных на 30мб а остальное ненужный мусор. избавившись от которого задача вообще станет выглядеть по другому.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347226
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
fraks> Давайте НЕ решать проблемы некорректного софта наращиванием железа.

Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347249
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_PisarevskyЕсли вы 30 гиг за час не успеваете, что-то с железом у вас тухляк. У нас базулька в 75 гиг проходит полный цикл б/р ровно за 1 час. Да, при этом параллельно б/р проходит еще несколько вспомогательных баз.
Хотя мы не заменяем базу отресторенной копией, так проконтролировать факт рестора, растащить на тестовые сервера и т.п. По рабочей базе прогнали ночером свип и буде с нее.

Да, на чахлых филиальных серверах б/р идет часов 5, но он там скорее для проформы, чем ради практической ценности.

Короче, купи нормальный сервак и "буде тебе щастье".Заказчик, который не проводит регламентную замену аккумуляторов в ИБП и вообще не следит за штатной работой ИБП на хуче "терминалов" сбора данных, совершенно точно не будет увеличивать производительность железа и улучшать систему хранения данных. Для него важнее "холодное" резервирование этих систем. Так что "купи нормальный сервак", это не ко мне и мимо кассы. Такая, вот, особенность. Возможно, когда-нибудь, HDD заменят на SSD, но, опять же, это абсолютно точно не мне решать.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347252
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов РустамP.S. А он погромист или администратор?Пару лет назад был администратор, теперь пописываю в связке C++ и FirebirdSQL, параллельно изучая нюансы последнего.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347256
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Мимопроходящийа ещё он говорил про 30 лет стажа "администрирования"Про 20 лет.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347259
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
fraksНа сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение.

Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб.
Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя.Как ты правильно заметил, одна таблица хранит именно текущие значения, но есть еще и хранение определенного количества истории.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347267
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
fraksЕще было упоминание топикстартера про периодическое удаление неактуальных записей.
Непонятен объем удаления и частота этого действия. Удаление большого кол-ва записей создает кучу мусора которую придется убирать.Удаляются не записи в таблицах истории, а таблицы целиком. В хранится информация о том, как какие таблицы создавать и когда созданные таблицы, хранящие историю, прибивать. Естественно, что в таблицу историй делается только вставка записей. Такая, вот, особенность софта и против этой особенности, лично я, не имею ничего против и считаю, что для подобной системы это лучшее решение (грохать сразу всю таблицу).
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347324
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
fraksДавайте решать проблемы некорректного софта наращиванием железа.Давайте не будем вырывать фразы из контекста. Б/р базы в 30 гиг вполне реально уложить в полчаса, причем на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД). Собственно про это и есть фраза. Как уложить цикл обслуживания БД в технологическое окно в 1 час? купить железку.

вопрос: нужно ли делать б/р ради чистки мусора? Нет не нужно, это из пушки по воробьям. Закоммитить транзакции в запустить принудительно свип в момент минимальной нагрузки на сервер.

rdb_devэто лучшее решение (грохать сразу всю таблицу).Это решение может работать только в монопольном режиме. Для этого надо гарантированно всех отрубить, провести означенные мероприятия с метаданными и только потом запускать юзеров и роботов в базу. Что требует технологического окна и чтобы в него укладываться см. выше про железо.

rdb_devЗаказчик, ... точно не будет увеличивать производительность железа и улучшать систему хранения данных.Это до первого более-менее серьезного отказа, все через это проходят, он просто еще не повзрослел.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347342
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_Pisarevsky> на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД).

Тебе вроде уже много раз советовали
снять нимб и спуститься на землю.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347350
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
rdb_devfraksНа сколько я понял это база в которую весьма часто пишется текущие показания каких-то датчиков, апдейты записей - это перезапись на новое текущее значение.

Что непонятно - откуда из "нескольких десятков записей" набирается аж 30Гб.
Если это хвост несобранного мусорных версий при постоянных апдейтах - то просто писец какой-то, так нельзя.


Как ты правильно заметил, одна таблица хранит именно текущие значения, но есть еще и хранение определенного количества истории.
Ну и давай, не останавливайся, сколько тебя можно за язык тянуть.

сколько таблиц истории

столько там записей

какие таблицы дают такой объем

сколько хранится по времени

сколько НАДО хранить по времени (а не сколько получается технологически)

в каких таблицах скапливаются версии

почему они там скапливаются
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347357
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_PisarevskyfraksДавайте решать проблемы некорректного софта наращиванием железа.Давайте не будем вырывать фразы из контекста. Б/р базы в 30 гиг вполне реально уложить в полчаса, причем на лоу левел железе (двухпроцовая супермикра, 10 рэйд на 4 ССД). Собственно про это и есть фраза. Как уложить цикл обслуживания БД в технологическое окно в 1 час? купить железку.


Тут речь не про то как администрировать черный ящик с определенными параметрами, и тогда да, кроме наращивания железа делать нечего.
Вопрос стоит в том что для нормальной работы софта может не требоваться укладываться бэкап-рестор в полчаса, может он вообще не нужен в процессе эксплуатации, может там эти 30 Гиг не данных а всякого мусора и эффективнее подмести и прогуливаться раз в день с пылесосом чем утаптывать мусор ногами и потом заводить вездеходы что бы по этому мусору можно было хоть как-то перемещаться.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347358
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ИМХО, мальчика не было.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347361
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Мне надо бежать, поэтому сразу скажу на какую мысль я пытался навести.
Удалять таблицы целиком - это не есть хорошо, используется только потому что так быстрее.
Но это влечет за собой всякие административные действия.

Если есть определенность сколько данных надо хранить в истории то можно сделать например так:
новые значения пишутся в таблицу, триггер на ней перекидывает прыдыдущие данные в историю + удаляет ровно столько записей сколько вставил, на расcтоянии ID-DELTA. Таким образом в таблице истории хранится постоянное кличество записей, база не растет и ее не надо чистить, она подчищается постоянно сама.

Если не получается изменить пишушюю прогу - можно сделать отдельный удалятор, запускаемый по крону допустим раз в час или чаще. Он например смотрит на генератор PK на таблице истории и удаляет из нее записи с где ID < (GEN_ID(ID, 0)-DELTA).
Коммитит. И делает селект по этому же условию. Получает NULL но зато мусор собран.
...
Рейтинг: 0 / 0
Пожалуйста, поясните про кооперативную сборку мусора.
    #39347362
fraks
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ну и в этой же программе-удаляторе можно помониторить OAT-OIT.
...
Рейтинг: 0 / 0
25 сообщений из 107, страница 4 из 5
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Пожалуйста, поясните про кооперативную сборку мусора.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]