powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Firebird 2.5. Нужна ли валидация до backup?
55 сообщений из 55, показаны все 3 страниц
Firebird 2.5. Нужна ли валидация до backup?
    #39711260
Elen Lebenstein
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Всем доброго.


У меня задача максимально убедиться что БД не испорчена (во время ее использования пользователями за некий период), заархивировать ее и отправить в хранилище.


В связи вопрос: Если я без предварительной валидации просто делаю backup, могу ли я надеяться на то, что произойдет проверка БД, и не терять время на валидацию, или backup не определяет что с БД что-то не так и просто забирает из БД контент без проверок?
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711280
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Если база испорчена, бэкап не сможет забрать из неё данные, не правда ли?
А если все данные забрались без ошибки, то не всё ли равно было ли что-то испорчено в базе?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711288
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Elen Lebenstein,

бэкап да, может "детектировать" некоторые повреждения БД, но не все.
http://www.ibase.ru/db_repair#norestore
так что рестор этого бэкапа может не пройти, а "починить" бэкап нельзя.
В общем, после бэкапа надо сделать контрольный рестор, и уже готовую базу "отправить в хранилище". А бэкап - либо оставить, либо выкинуть.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711304
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Elen Lebenstein> Если я без предварительной валидации (1) просто делаю
Elen Lebenstein> backup, могу ли я надеяться на то, что произойдет
Elen Lebenstein> проверка БД, и не терять время на валидацию (2)

Нет, не можете. При чём валидацией (второй, не первой)
должен быть restore, а не validate.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711326
Elen Lebenstein
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
М.м.м… Понятненько. Все немного сложнее чем я думала.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711525
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Да нет там ничего сложного, особенно если БД небольшая.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711555
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ОФФТОП: в 3.Х есть привнесённый глюк когда б/р с данными проходит нормально, а б/р одних только МЕТАданных не проходит из-за прибитого гвоздиком плана в теле процедуры.

зы: на досуге попытаюсь нарисовать минимальный воспроизводимый пример.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711567
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ну, это баг, конечно, но с таким несложно справиться.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711918
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvВ общем, после бэкапа надо сделать контрольный рестор, и уже готовую базу "отправить в хранилище". А бэкап - либо оставить, либо выкинуть.

а почему не наоборот?

почему не готовую базу-времёнку выкинуть (вариант: подменить на неё основную, ради оптимизации индексов и прочего), а архив именно проверенный только что бэкап? он как минимум меньше
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711936
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochон как минимум меньшеНо разворачивать его дольше, если дело дошло до подъема бэкапа, значит дело скорее всего решительно дрянь и каждая минута рестора - это минута простоя.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39711946
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ivan_Pisarevsky,

Тогда хранить последний (или последние N) снапшот в обоих видах, а все предыдущие снэпшоты в виде FBK
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712079
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochа почему не наоборот?
почему не готовую базу-времёнку выкинуть (вариант: подменить на неё основную, ради оптимизации индексов и прочего), а архив именно проверенный только что бэкап? он как минимум меньше
заменить основную можно, только тогда опять же, в архив надо основную базу, а не бэкап.

1. после тестового рестора база уже есть, время на рестор потрачено. С учетом того, что рестор идет в 2-3 раза дольше бэкапа, удалять базу и сохранять бэкап видится мне некоторым маразмом.
(у некоторых людей бэкап ресторится прямо в процессе бэкапа, через пайпы, так что бэкап - это промежуточный процесс).

2. если же говорить про упаковку бэкапа и базы, то
бэкап меньше базы, потому что а) в нем нет индексов, б) он уже сжат (внезапно!).
Многие не в курсе, что при бэкапе тоже делается сжатие. Его можно выключить опцией -e. Мы тут недавно внутри проводили микро-эксперименты, и оказалось, что на 30гиговой базе TPCR бэкап обычный занимает 24 гиг, а с опцией -e - 34 гига, то есть, несжатый бэкап больше базы! Итого имеем - прирост в скорости бэкапа 7%, прирост объема бэкапа - 30%.
Если бэкап делается 10 часов, то с -e экономия, конечно, 48 минут. НО. См. выше про увеличение размера бэкапа.

Сжатие раром такого несжатого бэкапа (34 гиг) - 41 минута, размер архива - 6 гиг. Сжатие обычного бэкапа - 35 минут, архив 6 гиг. Опять же, разницы в размере нет, а по времени - есть. То есть, там выиграли 7%, а тут - потеряли те же где-то 7%.

Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час. Но тут как-то и рестор шёл тоже час, комп явно тормозил, firefox пришлось убить.

Понятно, что сжатие зависит от данных внутри базы, архиватора и использования степени сжатия.

Короче, резюме: база 30 гиг, бэкап 24 гиг, разница 20%, значит, один и тот же объем или 10 бэкапов, или 8 баз. С учетом времени рестора из бэкапа - хранить базы выгоднее.
Если же сюда приплюсовать архивирование, то опять же, распаковывать бэкап а потом его ресторить - куда дольше готовой базы.
Архив базы 9 гиг против 6 гиг бэкапа - тоже понятно. И час упаковки базы против 35 минут упаковки бэкапа (кривой тест).
В общем, добавить нечего.

p.s. Собственно, идея "хранить бэкапы" перестает работать когда базы по 50-100 гиг и далее. Да и вообще, делать бэкап базы в 300 гиг а потом ресторить - это не для слабонервных. Старые технологии на нынешних объемах потихоньку перестают работать.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712083
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час.

Больно много. Может, ты бэкап имел в виду, а не БД ?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712099
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов Рустамkdv> Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час.
Больно много. Может, ты бэкап имел в виду, а не БД ?
не. Сжатие раром обычного бэкапа в 24 гиг заняло 6 гиг и длилось 36 минут.
Со сжатием раром исходной базы случился косяк - еще при ресторе ФБ3 сожрало почти всю память (16 гиг), и началось вываливание в виртуалку. Видать, что-то я такое перед этим делал, раньше такого не наблюдал.
Ну и, последующая архивация полученной базы тоже прошла как-то не быстро, RAR паковал базу со скоростью 9мб в минуту.

Так что, я могу предположить, что архивация базы и бэкапа должна быть такой же пропорциональной (примерно), как архивация сжатой и несжатой базы. Хотя, по конечному размеру архива это не так (9 против 6 и 6 гиг).

Повторять эту мутоту завтра я вообще не хочу. Моя основная мысль была в том, что
а) обычный бэкап уже сжат
б) тестовый рестор нужен
в) после тестового рестора бэкап надо выкидывать. Экономия места - это лабуда, экономия времени куда важнее.
Конечно, если бэкапы и ресторы идут минут по 15, на всё это можно наплевать, в том числе и на занимаемое бэкапами или базами место.

Ну и, наконец, что и как архивируется, определяется конкретными базой, бэкапом и архиваторами. Но от этого мысль в пункте "в" никуда не девается.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712101
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv,

9мб в секунду, конечно же.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712102
Фотография Старый плюшевый мишка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvв) после тестового рестора бэкап надо выкидывать.

Существует такая практика - держать не только горячую (ночную) копию, но и 7 штук за неделю + 12 за год. Горячая - результат тестового рестора, архив - бекапы. Базами жирновато будет, а понадобится раз в год по обещанию.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712109
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> Размер сжатой раром 30 гиг базы - 9 гиг
kdv>
kdv> 9мб в секунду, конечно же.

Ну как в анекдоте - не гиг, а мег, и не размер, а скорость, и не выиграл, а проиграл.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712127
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Старый плюшевый мишка но и 7 штук за неделю + 12 за год. Горячая - результат тестового рестора, архив - бекапы. Базами жирновато будет, а понадобится раз в год по обещанию.
ага. у меня 1с настроена на 12 револьверных бэкапов. Бэкапы, понятное дело, совершаются 1-2 раза в день.
И вот, надо мне в Москву, значит залить свежий бэкап на ноут. И ...
Вижу я, что три последних бэкапа (а это тупо zip с копией базы) имеют размер, равный нулю.
Хорошо хоть, я эту фигню за полчаса устранил. Вот вам и бэкапы в архиве.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712128
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов РустамНу как в анекдоте - не гиг, а мег
да ладно, тут на компе процесс идет, внук на шее сидит, жена готовит, а мне еще надо в полу-написанный коммент эти самые "мегабайты" воткнуть...
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712130
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> Вижу я, что три последних бэкапа
kdv> Вот вам и бэкапы в архиве.

Так это ты ССЗБ, а не бэкапы - рестора проверки логов нет, контроля нет.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712131
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> да ладно, тут на компе процесс идет, внук на шее сидит

Никаких претензий, я тоже сидел с дитём мультики смотрел,
но у меня на автомате глаз зацепился "БД-архив-30 в 9-чушь".

Опыт не пропьёшь даже мультиками не замылишь. :)
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712152
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов Рустама не бэкапы - рестора проверки логов нет, контроля нет.
так контролирует же 1С. Там как делается - ты типа закрываешь прогу, она тебе - сделать действия? Ты - да, делается бэкап, прога закрывается. Могли бы при старте проверять лог (что я и сделал потом, вручную), и кричать "ахтунг" - там же при старте масса вещей проверяется.
Самому автоматизировать тоже можно, но это ж надо скрипты писать :-)
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712153
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов РустамНу как в анекдоте - не гиг, а мег
уточню для потомков: корректировочная фраза
"9мб в секунду, конечно же. "
относилась к
"RAR паковал базу со скоростью 9мб в минуту."
а не к
"Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час"
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712159
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvВижу я, что три последних бэкапа (а это тупо zip с копией базы) имеют размер, равный нулю.
Хорошо хоть, я эту фигню за полчаса устранил. Вот вам и бэкапы в архиве.

Давным-давно, аж в прошлом веке, была такая штука "Галактика". И делала она бэкапы зипом.
И время от времени этот зип порождал архивы, которые сам потом не мог распаковать,
поскольку в данных попадалась "магическая" последовательность байт. И нет, размера они
были не нулевого, а этак пару гигабайт. Это история к тому, что даже в архиваторах
попадаются иногда забавные баги.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712170
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> так контролирует же 1С

Тю, так это не ты делаешь бэкапы, а 1С "сама".
Нефиг удивляться/возмущаться тогда.
Я думал ты сам делаешь - скриптом или БД SQL
(или у тебя вообще файловая версия?).


kdv> а не к "Размер сжатой раром 30 гиг базы - 9 гиг, за 1 час"

Ну т.е. 30гиг БД у тебя архивируется до 9гиг. Точно-точно?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712209
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv2. если же говорить про упаковку бэкапа и базы, то
бэкап меньше базы, потому что а) в нем нет индексов, б) он уже сжат (внезапно!).Люд..., тьфу, бэкапы сложнее, чем кажутся
представительной базы под руками нет, но всё-таки
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
EMPLOYEE - no_compress, no_transportable 
gbak: time     delta  reads  writes 
gbak:    0.021  0.001     14      1 database examples/empbuild/EMPLOYEE.FDB has a page size of 4096 bytes.
gbak:    0.073  0.000      0      0 closing file, committing, and finishing. 81408 bytes written
gbak:    0.073  0.000    168      2 total statistics
*** LZ4 command line interface 64-bits v1.8.3, by Yann Collet ***
Compressed 81408 bytes into 28643 bytes ==> 35.18%


EMPLOYEE - no_compress, transportable 
gbak: time     delta  reads  writes 
gbak:    0.023  0.001     14      1 database examples/empbuild/EMPLOYEE.FDB has a page size of 4096 bytes.
gbak:    0.075  0.000      0      0 closing file, committing, and finishing. 83968 bytes written
gbak:    0.075  0.000    168      2 total statistics
*** LZ4 command line interface 64-bits v1.8.3, by Yann Collet ***
Compressed 83968 bytes into 29182 bytes ==> 34.75%


EMPLOYEE - compress, no_transportable 
gbak: time     delta  reads  writes 
gbak:    0.023  0.001     14      1 database examples/empbuild/EMPLOYEE.FDB has a page size of 4096 bytes.
gbak:    0.074  0.000      0      0 closing file, committing, and finishing. 72704 bytes written
gbak:    0.075  0.000    168      2 total statistics
*** LZ4 command line interface 64-bits v1.8.3, by Yann Collet ***
Compressed 72704 bytes into 28513 bytes ==> 39.22%


EMPLOYEE - compress, transportable 
gbak: time     delta  reads  writes 
gbak:    0.022  0.001     14      1 database examples/empbuild/EMPLOYEE.FDB has a page size of 4096 bytes.
gbak:    0.074  0.000      0      0 closing file, committing, and finishing. 74752 bytes written
gbak:    0.075  0.000    168      2 total statistics
*** LZ4 command line interface 64-bits v1.8.3, by Yann Collet ***
Compressed 74752 bytes into 28937 bytes ==> 38.71%
Если важна скорость бэкапа и есть (очень немного) дополнительных ресурсов (до одного ядра, типично - половинка-треть), то "нетранспортабельный" бэкап без сжатия и скоростной потоковый компрессор, видимо, будет лучшим выбором.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712258
Belotsky Serge
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
короче тема свалилась в что выгоднее, хранить бекап или готовую базу, и выгоднее ли архивировать.

Но изначально вопрос был: как проверить валидность БД перед отправкой в архив. Был предложен вариант: бекап/рестор, но это долго, а быстрее можно?
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712314
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Belotsky Sergeно это долго, а быстрее можно?
Вариантов 2

1. gbak -b -g, gbak -c
2. gfix -v

проверка БД это либо 1, либо 2.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712315
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvСжатие раром такого несжатого бэкапа (34 гиг) - 41 минута, размер архива - 6 гиг

34 ГиБ = 34816 МиБ на обычной линейной скорости винчестера это 348 секунд, чуть меньше 6 минут
Бэкап делали на тот же диск, с которого базу читали? и уперлись в thrashing?
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712317
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvРазмер сжатой раром 30 гиг базы - 9 гиг, за 1 час

А вот тут вопрос - можно ли в FB добавить фичу, чтобы он по запросу занулял неиспользованные страницы и неиспользованные области обычных страниц? Не мусор там оставлял, который RAR будет прилежно сжимат ьс полным сохранением, а нули?

И еще несколько гипотетический интерес, если бы страницы FB разбить по типам, не оказалось ли бы их раздельное сжатие лучше, чем когда всё в перемешку....
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712321
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arioch,

страницы FB и так разбиты по типам (DP, PP, PIP, BLOB ....). Ты что то не то пишешь.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712325
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Симонов Денис,

я имел в виду применительно к RAR'y

сжатие LZ-типа постоянно перестраивает словарь сокращений. Поэтому если резко меняется тип данных, то степень сжатия резко падает пока накопленный словарь не будет вытеснен новорастущим.

а поскольку в FDB за исключением начала дальше идут разного типа страницы вперемешку - то это сказывается.

В свое время 7-zip резко обошёл RAR нa cжатии EXE/DLL когда ввёл специальный фильтр и начал их разбивать на 4 потока, которые сжимались независимо.

Вот и подумалось, сделать простую утилитку, которая FDB разложит на несколько файлов (в каждом - страницы только одного типа), а потом RAR'ом сжать папку - будет ли заметная разница со сжатием исходного смешанного FDB
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712327
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
03.10.2018 11:33, kdv пишет:
> Вариантов 2
>
> 1. gbak -b -g, gbak -c
> 2. gfix -v
>
> проверка БД это либо 1, либо 2.

добавлю, что в варианте 1 можно делать бекап и рестор одновременно,
передавая выходной поток одного gbak на вход другого.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712331
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arioch34 ГиБ = 34816 МиБ на обычной линейной скорости винчестера это 348 секунд, чуть меньше 6 минут
Бэкап делали на тот же диск, с которого базу читали? и уперлись в thrashing?
я вообще не понял, про что это. Скопировать 34 гига на скорости 100мб сек с одного физ диска на другой - да, это 6 минут.
И что?
Бэкапы я всегда делаю на другой физический диск, мне зря терять время на одном диске некогда.
А архивация обычно (зависит от архиватора) делается на тот же диск.
Бэкап - это не копирование. Архивация - это не копирование.

Проц FX8350, диски hdd sata2, копирование у всех не меньше 100мб сек.
Rar при скорости чтения файла в 9мб в секунду грузит 4 ядра на 80% (в итоге получается где-то 40% загрузки всего процессора),
сжатие - среднее.
Ariochне оказалось ли бы их раздельное сжатие лучше, чем когда всё в перемешку....
архиватор про типы страниц ФБ ничего не знает, и вряд ли будет знать.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712333
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochи начал их разбивать на 4 потока, которые сжимались независимо.
у нас были эксперименты с параллельным сжатием на линуксе, в результате иногда архивы получаются битыми. Отказались.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712334
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arioch,

на фиг надо. Будут тейблспейсы, там можно разные варианты делать. А пока пусть будет как есть.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712338
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvя вообще не понял, про что это. Скопировать 34 гига на скорости 100мб сек с одного физ диска на другой - да, это 6 минут.
И что?

и то, что мне с трудом верится, что RAR не мог сжать с одного диска на другой с такой же ровно скоростью

а судя по всему получившийся тест копирования большого файла в другую папку на том же диске - это уже не про "большие БД" ни разу

kdvБэкап - это не копирование. Архивация - это не копирование.

учитывая разницу в скорости HDD и современных CPU/RAM, плюс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия - можно считать, что это одно и то же

kdvархиватор про типы страниц ФБ ничего не знает, и вряд ли будет знать

да просто фоновый интерес, если разница будет 5% то наплевать и забыть, если 30 процентов - то уже интересно, взять на заметку, а вот если вдруг (не будет, конечно, но вот если) 75% - то уже можно и заняться. Добавить такой плагин в 7-zip особенно сложно не будет. Но скорее всего разница будет небольшой. Особенно если размер страницы поднять.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712339
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvэксперименты с параллельным сжатием на линуксе

ну p7zip на Линуксе вообще довольно-таки вещь в себе :-)
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712359
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochи то, что мне с трудом верится, что RAR не мог сжать с одного диска на другой с такой же ровно скоростью
я специально отметил, что rar пакует на этот же диск.
А предположение о том, что архиватор будет сжимать со скоростью копирования - это бред, ты уж меня извини.
Ariochучитывая разницу в скорости HDD и современных CPU/RAM, плюс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия - можно считать, что это одно и то же
нет, не одно и то же. При копировании ресурсы процессора практически не тратятся.
А при бэкапе идет вычитка данных со страниц, формирование версий, и их формирование для записи в бэкап. Это процессорная работа.
При архивации процессор используется еще сильнее. Так что не надо загибать про "одно и то же".

Вместо вот этих голословных предположений возьми любой файл размером около 10 гиг, и сравни
- копирование файла с диска на диск
- архивирование этого файла.

Если у тебя получится одно и то же - ну, я тебя поздравляю, у тебя суперкомпьютер вместо процессора.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712459
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochс настраиваемую степень сжатия архиваторов, плюс экспоненциальную рост "стоимости" усиления сжатия

мы ведь тут обсуждаем оптимальный баланс между скоростью сохранения/восстановления и объёмом хранимых данных, так ведь? иначе тема FBk vs FDB не имее смысла.

не надо настраивать RAR, чтобы он сжимал на 0,001% сильнее за счет использование на 1000% больше памяти и процессора. Настрой, чтобы он сжимал примерно с той скоростью, с которой диски позволяют читать и писать.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712532
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
AriochВ свое время 7-zip резко обошёл RAR нa cжатии EXE/DLL когда ввёл специальный фильтр и начал их разбивать на 4 потока, которые сжимались независимо.

Вот и подумалось, сделать простую утилитку, которая FDB разложит на несколько файлов (в каждом - страницы только одного типа), а потом RAR'ом сжать папку - будет ли заметная разница со сжатием исходного смешанного FDBЧто вы всё велосипеды изобретаете ...
Лично я опробовал быстрое сжатие 7-zip и пришёл к выводу, что он не только лучше, чем zip, но ещё и быстрее.
"Но есть ньюанс" - быстрее оно потому, что 7-zip умеет сжимать в четыре потока, как минимум. По CPU-time - примерный паритет, а по астрономическому времени 7-zip существенно быстрее. Но современном железе.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712534
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvА предположение о том, что архиватор будет сжимать со скоростью копирования - это бред, ты уж меня извиниЛехко.
Принципиально однопоточный lz4 делает ~90МБ/с не имея ограничений по скорости записи (сжатие в /dev/nul).
Время ЦП - примерно треть от астрономического. Т.е. четверть терабайта в секунду - вполне достижимая скорость сжатия.

P.S.
У меня - не самый быстрый FX43xx.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712536
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Basil A. SidorovТ.е. четверть терабайта в секундуУрежу осетра до четверти гига байта в секунду
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712587
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
AriochНастрой, чтобы он сжимал примерно с той скоростью, с которой диски позволяют читать и писать.
настраивается только сжатие и многопоточность.
При минимальном сжатии предполагаемое время архивации 30 гиг с одного диска на диск - 11 минут.
Я уже вижу, что чтение идет ~40мб сек, а запись - ~12мб сек.
То есть, до 100мб чтения как раком до Москвы.
проц загружен на 1 ядро из 8 (13%), почему так, при явно установленной "многопоточности" - х.з.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712588
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdv> Я уже вижу, что чтение идет ~40мб сек, а запись - ~12мб сек.

Это что за диски такие?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712601
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов Рустам,

один диск, механический

половину времени занимает thrashing головки между дорожками, половину - реальное чтение и запись

по ходу у винчестера *весьма* неплохой кэш, что он всего лишь половину времени на ad hoc butterfly test тратит, а нe 90%
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712610
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Гаджимурадов РустамЭто что за диски такие?
это архиватор так работает. Использует одно ядро, и в него упирается.

Короче, по 30 гиг базе итог:

- просто копирование с диска на диск - чтение и запись 125мб сек, 4 минуты (это к вопросу о дисках. "Принимающий" диск быстрее, чем "источник").

rar, многопоточность включена (но используется одно ядро, потому что старт в интерактивном режиме),
низкий приоритет выключен, база на одном диске, архив идет на другой диск:

- сжатие "скоростное", результат - 11 гиг, 14 минут. По чтению это 35мб в секунду. Вопросы про "сжатие со скоростью диска" есть?
(если бы читалось и паковалось в 4 ядра, было бы чтение 140 мб, но ... rar не хочет так)

- сжатие "без сжатия", результат - 30 гиг, 4 минуты (как и копирование).

Я напомню, что база 30 гиг, а памяти у меня 16 гиг (специально не 32), то есть, база в файловый кэш ОС не влезает.
Поэтому, если кто-то у себя хочет потестировать, учитывайте этот момент. В случае "база меньше RAM" результаты будут быстрее.

p.s. про странности с многопоточностью rar - если в проводнике сказать "упакуй в rar", то в таком режиме при паковке используется 2 ядра, то есть проц загружен на 25%. Но скорость чтения я тут проверить не могу, потому что в этом режиме рар пишет на этот же диск, получается скорость чтения вообще 15мб сек.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712613
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochодин диск, механический
половину времени занимает thrashing головки между дорожками, половину - реальное чтение и запись
нихрена ты не угадал. Пока что всё мимо, совершенно.

Короче, я вам не тестовая машина, хотите дальше - тестируйте сами. Свои данные я привел, мой комп это мой комп.
Так что, предлагаю вам самостоятельно опровергнуть ваши собственные догадки, практическим способом - про "скорость архивации со скоростью записи", "trashing", "один диск" и прочее.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712636
Arioch
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kdvпро странности с многопоточностью rar - если в проводнике сказать "упакуй в rar"
kdvв этом режиме рар пишет на этот же диск

WinRar ( или WinZip или 7-zip или PeaZip или.... ) | Настройки | .... | Конеткстное меню Проводника | Команды...

Кроме "Добавить в архив <name>" включаем команду "Добавить в архив...." - она открывает диалог, в котором можно указать на какой диск класть.

Кстати, при этом может ещё, тиритисски, и антивирус возбуждаться. И NTFS-сжатие на обоих дисках. И всё это маскируется под "ядро операционной системы"....
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39712670
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ariochона открывает диалог, в котором можно указать на какой диск класть.
после чего начинает использовать 1 ядро, а не 2. Проверял специально.
Arioch и антивирус возбуждаться
на архивацию без сжатия это не повлияло.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39723591
Mironico
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
спрошу в этой теме чтобы не создавать новую....

Можно ли gfix проверить базу "на ходу"?
Пишет: "-secondary server attachments cannot validate databases".
Или только по бекапу?
FB 2.5.
Спасибо!
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39723609
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Mironico,
обнови ФБ 2.5
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39723613
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Mironico,

чтобы прямо уж совсем точно:
Firebird 2.5.4 Sub-release
From this sub-release forward, it is now possible to perform table and index validation whilst the database is on-line.
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39723685
Mironico
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
2.5.7 и 2.5.8 - версия повсюду.
Наверно что-то я не так делаю....
...
Рейтинг: 0 / 0
Firebird 2.5. Нужна ли валидация до backup?
    #39723705
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Mironico,

онлайн валидация делается через сервисы, читай README.online_validation
Даже в IBE появились соответствующий пункт контекстного меню для проверки отдельных таблиц
...
Рейтинг: 0 / 0
55 сообщений из 55, показаны все 3 страниц
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Firebird 2.5. Нужна ли валидация до backup?
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]