|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Всем доброго. У меня задача максимально убедиться что БД не испорчена (во время ее использования пользователями за некий период), заархивировать ее и отправить в хранилище. В связи вопрос: Если я без предварительной валидации просто делаю backup, могу ли я надеяться на то, что произойдет проверка БД, и не терять время на валидацию, или backup не определяет что с БД что-то не так и просто забирает из БД контент без проверок? ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2018, 20:38 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Если база испорчена, бэкап не сможет забрать из неё данные, не правда ли? А если все данные забрались без ошибки, то не всё ли равно было ли что-то испорчено в базе? Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2018, 21:07 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Elen Lebenstein, бэкап да, может "детектировать" некоторые повреждения БД, но не все. http://www.ibase.ru/db_repair#norestore так что рестор этого бэкапа может не пройти, а "починить" бэкап нельзя. В общем, после бэкапа надо сделать контрольный рестор, и уже готовую базу "отправить в хранилище". А бэкап - либо оставить, либо выкинуть. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2018, 21:15 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Elen Lebenstein> Если я без предварительной валидации (1) просто делаю Elen Lebenstein> backup, могу ли я надеяться на то, что произойдет Elen Lebenstein> проверка БД, и не терять время на валидацию (2) Нет, не можете. При чём валидацией (второй, не первой) должен быть restore, а не validate. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2018, 21:47 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
М.м.м… Понятненько. Все немного сложнее чем я думала. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2018, 22:55 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Да нет там ничего сложного, особенно если БД небольшая. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 11:18 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
ОФФТОП: в 3.Х есть привнесённый глюк когда б/р с данными проходит нормально, а б/р одних только МЕТАданных не проходит из-за прибитого гвоздиком плана в теле процедуры. зы: на досуге попытаюсь нарисовать минимальный воспроизводимый пример. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 11:57 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ну, это баг, конечно, но с таким несложно справиться. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 12:14 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvВ общем, после бэкапа надо сделать контрольный рестор, и уже готовую базу "отправить в хранилище". А бэкап - либо оставить, либо выкинуть. а почему не наоборот? почему не готовую базу-времёнку выкинуть (вариант: подменить на неё основную, ради оптимизации индексов и прочего), а архив именно проверенный только что бэкап? он как минимум меньше ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 18:16 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochон как минимум меньшеНо разворачивать его дольше, если дело дошло до подъема бэкапа, значит дело скорее всего решительно дрянь и каждая минута рестора - это минута простоя. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 18:30 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ivan_Pisarevsky, Тогда хранить последний (или последние N) снапшот в обоих видах, а все предыдущие снэпшоты в виде FBK ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 18:38 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochа почему не наоборот? почему не готовую базу-времёнку выкинуть (вариант: подменить на неё основную, ради оптимизации индексов и прочего), а архив именно проверенный только что бэкап? он как минимум меньше заменить основную можно, только тогда опять же, в архив надо основную базу, а не бэкап. 1. после тестового рестора база уже есть, время на рестор потрачено. С учетом того, что рестор идет в 2-3 раза дольше бэкапа, удалять базу и сохранять бэкап видится мне некоторым маразмом. (у некоторых людей бэкап ресторится прямо в процессе бэкапа, через пайпы, так что бэкап - это промежуточный процесс). 2. если же говорить про упаковку бэкапа и базы, то бэкап меньше базы, потому что а) в нем нет индексов, б) он уже сжат (внезапно!). Многие не в курсе, что при бэкапе тоже делается сжатие. Его можно выключить опцией -e. Мы тут недавно внутри проводили микро-эксперименты, и оказалось, что на 30гиговой базе TPCR бэкап обычный занимает 24 гиг, а с опцией -e - 34 гига, то есть, несжатый бэкап больше базы! Итого имеем - прирост в скорости бэкапа 7%, прирост объема бэкапа - 30%. Если бэкап делается 10 часов, то с -e экономия, конечно, 48 минут. НО. См. выше про увеличение размера бэкапа. Сжатие раром такого несжатого бэкапа (34 гиг) - 41 минута, размер архива - 6 гиг. Сжатие обычного бэкапа - 35 минут, архив 6 гиг. Опять же, разницы в размере нет, а по времени - есть. То есть, там выиграли 7%, а тут - потеряли те же где-то 7%. Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час. Но тут как-то и рестор шёл тоже час, комп явно тормозил, firefox пришлось убить. Понятно, что сжатие зависит от данных внутри базы, архиватора и использования степени сжатия. Короче, резюме: база 30 гиг, бэкап 24 гиг, разница 20%, значит, один и тот же объем или 10 бэкапов, или 8 баз. С учетом времени рестора из бэкапа - хранить базы выгоднее. Если же сюда приплюсовать архивирование, то опять же, распаковывать бэкап а потом его ресторить - куда дольше готовой базы. Архив базы 9 гиг против 6 гиг бэкапа - тоже понятно. И час упаковки базы против 35 минут упаковки бэкапа (кривой тест). В общем, добавить нечего. p.s. Собственно, идея "хранить бэкапы" перестает работать когда базы по 50-100 гиг и далее. Да и вообще, делать бэкап базы в 300 гиг а потом ресторить - это не для слабонервных. Старые технологии на нынешних объемах потихоньку перестают работать. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 21:06 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час. Больно много. Может, ты бэкап имел в виду, а не БД ? Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 21:11 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов Рустамkdv> Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час. Больно много. Может, ты бэкап имел в виду, а не БД ? не. Сжатие раром обычного бэкапа в 24 гиг заняло 6 гиг и длилось 36 минут. Со сжатием раром исходной базы случился косяк - еще при ресторе ФБ3 сожрало почти всю память (16 гиг), и началось вываливание в виртуалку. Видать, что-то я такое перед этим делал, раньше такого не наблюдал. Ну и, последующая архивация полученной базы тоже прошла как-то не быстро, RAR паковал базу со скоростью 9мб в минуту. Так что, я могу предположить, что архивация базы и бэкапа должна быть такой же пропорциональной (примерно), как архивация сжатой и несжатой базы. Хотя, по конечному размеру архива это не так (9 против 6 и 6 гиг). Повторять эту мутоту завтра я вообще не хочу. Моя основная мысль была в том, что а) обычный бэкап уже сжат б) тестовый рестор нужен в) после тестового рестора бэкап надо выкидывать. Экономия места - это лабуда, экономия времени куда важнее. Конечно, если бэкапы и ресторы идут минут по 15, на всё это можно наплевать, в том числе и на занимаемое бэкапами или базами место. Ну и, наконец, что и как архивируется, определяется конкретными базой, бэкапом и архиваторами. Но от этого мысль в пункте "в" никуда не девается. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 21:46 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv, 9мб в секунду, конечно же. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 21:46 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvв) после тестового рестора бэкап надо выкидывать. Существует такая практика - держать не только горячую (ночную) копию, но и 7 штук за неделю + 12 за год. Горячая - результат тестового рестора, архив - бекапы. Базами жирновато будет, а понадобится раз в год по обещанию. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 21:50 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> Размер сжатой раром 30 гиг базы - 9 гиг kdv> kdv> 9мб в секунду, конечно же. Ну как в анекдоте - не гиг, а мег, и не размер, а скорость, и не выиграл, а проиграл. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 22:00 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Старый плюшевый мишка но и 7 штук за неделю + 12 за год. Горячая - результат тестового рестора, архив - бекапы. Базами жирновато будет, а понадобится раз в год по обещанию. ага. у меня 1с настроена на 12 револьверных бэкапов. Бэкапы, понятное дело, совершаются 1-2 раза в день. И вот, надо мне в Москву, значит залить свежий бэкап на ноут. И ... Вижу я, что три последних бэкапа (а это тупо zip с копией базы) имеют размер, равный нулю. Хорошо хоть, я эту фигню за полчаса устранил. Вот вам и бэкапы в архиве. ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 22:42 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов РустамНу как в анекдоте - не гиг, а мег да ладно, тут на компе процесс идет, внук на шее сидит, жена готовит, а мне еще надо в полу-написанный коммент эти самые "мегабайты" воткнуть... ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 22:43 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> Вижу я, что три последних бэкапа kdv> Вот вам и бэкапы в архиве. Так это ты ССЗБ, а не бэкапы - рестора проверки логов нет, контроля нет. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 22:54 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> да ладно, тут на компе процесс идет, внук на шее сидит Никаких претензий, я тоже сидел с дитём мультики смотрел, но у меня на автомате глаз зацепился "БД-архив-30 в 9-чушь". Опыт не пропьёшь даже мультиками не замылишь. :) Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
02.10.2018, 22:56 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов Рустама не бэкапы - рестора проверки логов нет, контроля нет. так контролирует же 1С. Там как делается - ты типа закрываешь прогу, она тебе - сделать действия? Ты - да, делается бэкап, прога закрывается. Могли бы при старте проверять лог (что я и сделал потом, вручную), и кричать "ахтунг" - там же при старте масса вещей проверяется. Самому автоматизировать тоже можно, но это ж надо скрипты писать :-) ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 00:06 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов РустамНу как в анекдоте - не гиг, а мег уточню для потомков: корректировочная фраза "9мб в секунду, конечно же. " относилась к "RAR паковал базу со скоростью 9мб в минуту." а не к "Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час" ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 00:12 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvВижу я, что три последних бэкапа (а это тупо zip с копией базы) имеют размер, равный нулю. Хорошо хоть, я эту фигню за полчаса устранил. Вот вам и бэкапы в архиве. Давным-давно, аж в прошлом веке, была такая штука "Галактика". И делала она бэкапы зипом. И время от времени этот зип порождал архивы, которые сам потом не мог распаковать, поскольку в данных попадалась "магическая" последовательность байт. И нет, размера они были не нулевого, а этак пару гигабайт. Это история к тому, что даже в архиваторах попадаются иногда забавные баги. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 00:36 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> так контролирует же 1С Тю, так это не ты делаешь бэкапы, а 1С "сама". Нефиг удивляться/возмущаться тогда. Я думал ты сам делаешь - скриптом или БД SQL (или у тебя вообще файловая версия?). kdv> а не к "Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час" Ну т.е. 30гиг БД у тебя архивируется до 9гиг. Точно-точно? Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 01:51 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv2. если же говорить про упаковку бэкапа и базы, то бэкап меньше базы, потому что а) в нем нет индексов, б) он уже сжат (внезапно!).Люд..., тьфу, бэкапы сложнее, чем кажутся представительной базы под руками нет, но всё-таки Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33.
... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 08:21 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
короче тема свалилась в что выгоднее, хранить бекап или готовую базу, и выгоднее ли архивировать. Но изначально вопрос был: как проверить валидность БД перед отправкой в архив. Был предложен вариант: бекап/рестор, но это долго, а быстрее можно? ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 09:57 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Belotsky Sergeно это долго, а быстрее можно? Вариантов 2 1. gbak -b -g, gbak -c 2. gfix -v проверка БД это либо 1, либо 2. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:33 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvСжатие раром такого несжатого бэкапа (34 гиг) - 41 минута, размер архива - 6 гиг 34 ГиБ = 34816 МиБ на обычной линейной скорости винчестера это 348 секунд, чуть меньше 6 минут Бэкап делали на тот же диск, с которого базу читали? и уперлись в thrashing? ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:38 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvРазмер сжатой раром 30 гиг базы - 9 гиг, за 1 час А вот тут вопрос - можно ли в FB добавить фичу, чтобы он по запросу занулял неиспользованные страницы и неиспользованные области обычных страниц? Не мусор там оставлял, который RAR будет прилежно сжимат ьс полным сохранением, а нули? И еще несколько гипотетический интерес, если бы страницы FB разбить по типам, не оказалось ли бы их раздельное сжатие лучше, чем когда всё в перемешку.... ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:40 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Arioch, страницы FB и так разбиты по типам (DP, PP, PIP, BLOB ....). Ты что то не то пишешь. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:43 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Симонов Денис, я имел в виду применительно к RAR'y сжатие LZ-типа постоянно перестраивает словарь сокращений. Поэтому если резко меняется тип данных, то степень сжатия резко падает пока накопленный словарь не будет вытеснен новорастущим. а поскольку в FDB за исключением начала дальше идут разного типа страницы вперемешку - то это сказывается. В свое время 7-zip резко обошёл RAR нa cжатии EXE/DLL когда ввёл специальный фильтр и начал их разбивать на 4 потока, которые сжимались независимо. Вот и подумалось, сделать простую утилитку, которая FDB разложит на несколько файлов (в каждом - страницы только одного типа), а потом RAR'ом сжать папку - будет ли заметная разница со сжатием исходного смешанного FDB ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:48 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
03.10.2018 11:33, kdv пишет: > Вариантов 2 > > 1. gbak -b -g, gbak -c > 2. gfix -v > > проверка БД это либо 1, либо 2. добавлю, что в варианте 1 можно делать бекап и рестор одновременно, передавая выходной поток одного gbak на вход другого. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:50 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Arioch34 ГиБ = 34816 МиБ на обычной линейной скорости винчестера это 348 секунд, чуть меньше 6 минут Бэкап делали на тот же диск, с которого базу читали? и уперлись в thrashing? я вообще не понял, про что это. Скопировать 34 гига на скорости 100мб сек с одного физ диска на другой - да, это 6 минут. И что? Бэкапы я всегда делаю на другой физический диск, мне зря терять время на одном диске некогда. А архивация обычно (зависит от архиватора) делается на тот же диск. Бэкап - это не копирование. Архивация - это не копирование. Проц FX8350, диски hdd sata2, копирование у всех не меньше 100мб сек. Rar при скорости чтения файла в 9мб в секунду грузит 4 ядра на 80% (в итоге получается где-то 40% загрузки всего процессора), сжатие - среднее. Ariochне оказалось ли бы их раздельное сжатие лучше, чем когда всё в перемешку.... архиватор про типы страниц ФБ ничего не знает, и вряд ли будет знать. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:55 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochи начал их разбивать на 4 потока, которые сжимались независимо. у нас были эксперименты с параллельным сжатием на линуксе, в результате иногда архивы получаются битыми. Отказались. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:57 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Arioch, на фиг надо. Будут тейблспейсы, там можно разные варианты делать. А пока пусть будет как есть. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 11:57 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvя вообще не понял, про что это. Скопировать 34 гига на скорости 100мб сек с одного физ диска на другой - да, это 6 минут. И что? и то, что мне с трудом верится, что RAR не мог сжать с одного диска на другой с такой же ровно скоростью а судя по всему получившийся тест копирования большого файла в другую папку на том же диске - это уже не про "большие БД" ни разу kdvБэкап - это не копирование. Архивация - это не копирование. учитывая разницу в скорости HDD и современных CPU/RAM, плюс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия - можно считать, что это одно и то же kdvархиватор про типы страниц ФБ ничего не знает, и вряд ли будет знать да просто фоновый интерес, если разница будет 5% то наплевать и забыть, если 30 процентов - то уже интересно, взять на заметку, а вот если вдруг (не будет, конечно, но вот если) 75% - то уже можно и заняться. Добавить такой плагин в 7-zip особенно сложно не будет. Но скорее всего разница будет небольшой. Особенно если размер страницы поднять. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 12:01 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvэксперименты с параллельным сжатием на линуксе ну p7zip на Линуксе вообще довольно-таки вещь в себе :-) ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 12:03 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochи то, что мне с трудом верится, что RAR не мог сжать с одного диска на другой с такой же ровно скоростью я специально отметил, что rar пакует на этот же диск. А предположение о том, что архиватор будет сжимать со скоростью копирования - это бред, ты уж меня извини. Ariochучитывая разницу в скорости HDD и современных CPU/RAM, плюс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия - можно считать, что это одно и то же нет, не одно и то же. При копировании ресурсы процессора практически не тратятся. А при бэкапе идет вычитка данных со страниц, формирование версий, и их формирование для записи в бэкап. Это процессорная работа. При архивации процессор используется еще сильнее. Так что не надо загибать про "одно и то же". Вместо вот этих голословных предположений возьми любой файл размером около 10 гиг, и сравни - копирование файла с диска на диск - архивирование этого файла. Если у тебя получится одно и то же - ну, я тебя поздравляю, у тебя суперкомпьютер вместо процессора. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 12:17 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия мы ведь тут обсуждаем оптимальный баланс между скоростью сохранения/восстановления и объёмом хранимых данных, так ведь? иначе тема FBk vs FDB не имее смысла. не надо настраивать RAR, чтобы он сжимал на 0,001% сильнее за счет использование на 1000% больше памяти и процессора. Настрой, чтобы он сжимал примерно с той скоростью, с которой диски позволяют читать и писать. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 14:29 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
AriochВ свое время 7-zip резко обошёл RAR нa cжатии EXE/DLL когда ввёл специальный фильтр и начал их разбивать на 4 потока, которые сжимались независимо. Вот и подумалось, сделать простую утилитку, которая FDB разложит на несколько файлов (в каждом - страницы только одного типа), а потом RAR'ом сжать папку - будет ли заметная разница со сжатием исходного смешанного FDBЧто вы всё велосипеды изобретаете ... Лично я опробовал быстрое сжатие 7-zip и пришёл к выводу, что он не только лучше, чем zip, но ещё и быстрее. "Но есть ньюанс" - быстрее оно потому, что 7-zip умеет сжимать в четыре потока, как минимум. По CPU-time - примерный паритет, а по астрономическому времени 7-zip существенно быстрее. Но современном железе. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 16:08 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvА предположение о том, что архиватор будет сжимать со скоростью копирования - это бред, ты уж меня извиниЛехко. Принципиально однопоточный lz4 делает ~90МБ/с не имея ограничений по скорости записи (сжатие в /dev/nul). Время ЦП - примерно треть от астрономического. Т.е. четверть терабайта в секунду - вполне достижимая скорость сжатия. P.S. У меня - не самый быстрый FX43xx. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 16:13 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Basil A. SidorovТ.е. четверть терабайта в секундуУрежу осетра до четверти гига байта в секунду ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 16:16 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
AriochНастрой, чтобы он сжимал примерно с той скоростью, с которой диски позволяют читать и писать. настраивается только сжатие и многопоточность. При минимальном сжатии предполагаемое время архивации 30 гиг с одного диска на диск - 11 минут. Я уже вижу, что чтение идет ~40мб сек, а запись - ~12мб сек. То есть, до 100мб чтения как раком до Москвы. проц загружен на 1 ядро из 8 (13%), почему так, при явно установленной "многопоточности" - х.з. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 17:42 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdv> Я уже вижу, что чтение идет ~40мб сек, а запись - ~12мб сек. Это что за диски такие? Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 17:43 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов Рустам, один диск, механический половину времени занимает thrashing головки между дорожками, половину - реальное чтение и запись по ходу у винчестера *весьма* неплохой кэш, что он всего лишь половину времени на ad hoc butterfly test тратит, а нe 90% ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 18:01 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Гаджимурадов РустамЭто что за диски такие? это архиватор так работает. Использует одно ядро, и в него упирается. Короче, по 30 гиг базе итог: - просто копирование с диска на диск - чтение и запись 125мб сек, 4 минуты (это к вопросу о дисках. "Принимающий" диск быстрее, чем "источник"). rar, многопоточность включена (но используется одно ядро, потому что старт в интерактивном режиме), низкий приоритет выключен, база на одном диске, архив идет на другой диск: - сжатие "скоростное", результат - 11 гиг, 14 минут. По чтению это 35мб в секунду. Вопросы про "сжатие со скоростью диска" есть? (если бы читалось и паковалось в 4 ядра, было бы чтение 140 мб, но ... rar не хочет так) - сжатие "без сжатия", результат - 30 гиг, 4 минуты (как и копирование). Я напомню, что база 30 гиг, а памяти у меня 16 гиг (специально не 32), то есть, база в файловый кэш ОС не влезает. Поэтому, если кто-то у себя хочет потестировать, учитывайте этот момент. В случае "база меньше RAM" результаты будут быстрее. p.s. про странности с многопоточностью rar - если в проводнике сказать "упакуй в rar", то в таком режиме при паковке используется 2 ядра, то есть проц загружен на 25%. Но скорость чтения я тут проверить не могу, потому что в этом режиме рар пишет на этот же диск, получается скорость чтения вообще 15мб сек. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 18:22 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochодин диск, механический половину времени занимает thrashing головки между дорожками, половину - реальное чтение и запись нихрена ты не угадал. Пока что всё мимо, совершенно. Короче, я вам не тестовая машина, хотите дальше - тестируйте сами. Свои данные я привел, мой комп это мой комп. Так что, предлагаю вам самостоятельно опровергнуть ваши собственные догадки, практическим способом - про "скорость архивации со скоростью записи", "trashing", "один диск" и прочее. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 18:26 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
kdvпро странности с многопоточностью rar - если в проводнике сказать "упакуй в rar" kdvв этом режиме рар пишет на этот же диск WinRar ( или WinZip или 7-zip или PeaZip или.... ) | Настройки | .... | Конеткстное меню Проводника | Команды... Кроме "Добавить в архив <name>" включаем команду "Добавить в архив...." - она открывает диалог, в котором можно указать на какой диск класть. Кстати, при этом может ещё, тиритисски, и антивирус возбуждаться. И NTFS-сжатие на обоих дисках. И всё это маскируется под "ядро операционной системы".... ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 19:13 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Ariochона открывает диалог, в котором можно указать на какой диск класть. после чего начинает использовать 1 ядро, а не 2. Проверял специально. Arioch и антивирус возбуждаться на архивацию без сжатия это не повлияло. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.10.2018, 20:23 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
спрошу в этой теме чтобы не создавать новую.... Можно ли gfix проверить базу "на ходу"? Пишет: "-secondary server attachments cannot validate databases". Или только по бекапу? FB 2.5. Спасибо! ... |
|||
:
Нравится:
Не нравится:
|
|||
26.10.2018, 15:48 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Mironico, обнови ФБ 2.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
26.10.2018, 16:00 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
Mironico, чтобы прямо уж совсем точно: Firebird 2.5.4 Sub-release From this sub-release forward, it is now possible to perform table and index validation whilst the database is on-line. ... |
|||
:
Нравится:
Не нравится:
|
|||
26.10.2018, 16:03 |
|
Firebird 2.5. Нужна ли валидация до backup?
|
|||
---|---|---|---|
#18+
2.5.7 и 2.5.8 - версия повсюду. Наверно что-то я не так делаю.... ... |
|||
:
Нравится:
Не нравится:
|
|||
26.10.2018, 17:03 |
|
|
start [/forum/topic.php?all=1&fid=40&tid=1560938]: |
0ms |
get settings: |
8ms |
get forum list: |
13ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
55ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
71ms |
get tp. blocked users: |
1ms |
others: | 10ms |
total: | 178ms |
0 / 0 |