powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Синхронизация файлов
25 сообщений из 45, страница 1 из 2
Синхронизация файлов
    #37689715
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Нужно делать бэкап веб-сервера.
Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище?
Из того что я знаю, больше подходит RSync, но умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37689733
Фотография С0ВЕСТЬ
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hett...
Cron все равно каждую минуту просыпается.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37689768
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
С0ВЕСТЬHett...
Cron все равно каждую минуту просыпается.
Не понял к чему это...
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690354
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettНужно делать бэкап веб-сервера.
Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище?
Есть. inotify,bnotify, kqueue, filemon

авторИз того что я знаю, больше подходит RSyn. c, Rsync делает только бекап, но ни разу не отслеживает изменение файлов. *nix построены по принципу KISS. Одна программа - она задача.

авторно умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут
Ответ смотрите выше. Запускать можете как хотите. Хоть по крону, хоть по событиям dbus, хоть вручную
автор, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему?
ОтветавторCron все равно каждую минуту просыпается Правильный. То есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Хотя сами можете проверить при помощи ps, top. htop.


Есть подозрение, что вам необходим не полный бекап, а инкрементный бекап. Его также можно делать при помощи rsync.
Для запуска cron по событиям файловой системы принято использовать incron.

Я предпочитаю rdiff-backup

Обзор софта для бекапа
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690852
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Вопрос скорее в том, если я буду запускать очень часто rsync по крону или по какому-то событию, не создаст ли это дополнительную нагрузку? Ведь я так понимаю он каждый раз будет делать фуллскан файловой системы?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690856
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторТо есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит.
Ничего не понял.
Сам крон без задач каким образом будет грузить систему?
А если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690913
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettА если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится.
Ну, это уж сами регулируйте или проверяйте при старте критические параметры системы. Если вы каждую секунду будете запускать экземпляр rsync и они будут конкурировать за ресурсы, то есть ненулевая вероятность того, что при определённых условиях вы асимптотически приблизитесь к исчерпанию како-гонть системного ресурса. В некоторых случаях (таких как максимально открытое кол-во файлов, дескрипторов и пр ) их можно увеличить, в нектороых (таких как процессорные ресурсы, память и пр ) - нет
В общем, всё в ваших руках. Кроме того я не знаю причин, чтобы настолько часто запускать крон, чтобы он убивал систему, но в линуксе вы всегда можете добиться любого стресс-состояния. Систему не убъете, но повеселитесь.

авторВедь я так понимаю он каждый раз будет делать фуллскан файловой системы?
С чего бы это? rsync ничего не сканит. Он просто выполняет вашу волю.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690942
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Каким образом он тогда делает дифф?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690944
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторНу, это уж сами регулируйте или проверяйте при старте критические параметры системы.
Так в том то как раз и вопрос.
Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности жесткий диск.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690945
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Точнее понятно, что нагружать то он будет.
Но если он каждый раз будет пробегать по всем файлам, это будет создавать узкие места в работе сервера, ведь возможно в тот момент когда нужно будет активно использовать файловую систему окажется что выполняется задача синхронизации и все пойдет еще медленнее?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690968
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hett,

почему он должен "пробегать" по всем файлам?


авторбудет создавать узкие места в работе сервера
Либо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Только работайте.

Если боитесь, чтобудет сканить, используйте средства, которые я предлагал выше.

авторКаким образом он тогда делает дифф?
Слушайте! Какой смысл начинать повствование, когда вы даже man rsnc не прочитали!
Не хотите использовать rsync напрямую, используйте обёртки типа rdiff-backup, suplicity или одну из вышеуказанных тридцати более сложных утилит.

Кстати, забыл, tar тоже делает инкрементный бекап.


авторЕсли я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,
Для этого составляется политика бекапа, делается периодически один полный бекап, потом инкреметальные бекапы. Частоту и время подбирайте самостоятельно.
Если же у вас за час измеяются весь терабайт диска, то стоит посмотреть в сторону raid10 и стандартные методы бекапа становятся не очень нужны.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37690970
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big Andy,

Пример инкрементного бекапа:
авторrsync --force --ignore-errors --delete --delete-excluded --exclude-from=exclude_file --backup --backup-dir=`date +%Y-%m-%d` -av

Перед использованием читаем литературу и man rsync
например http://www.sanitarium.net/golug/rsync_backups_2010.html
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37692170
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Вроде нашел, он смотрит время изменения корневой директории, если оно не совпадает, то заходит в нее и т.д., т.о. фуллскана и не происходит.

Теперь пытаюсь написать скрипт, если честно мой первый скрипт:

Код: powershell
1.
2.
3.
4.
5.
6.
7.
8.
root@euve4744:~# cat rdiff.sh
#!/bin/sh
REMOTE_HOST="luna852"
REMOTE_DIR="/var/www/vhosts/"
DEST_DIR="/backup/luna852"
EXCLUDE="*.log"

/usr/bin/rdiff-backup --force --remove-older-than "1W" --exclude $EXCLUDE --create-full-path --exclude-symbolic-links --exclude-sockets --exclude-special-files --exclude-fifos --exclude-device-files --no-hard-links --print-statistics $REMOTE_HOST::$REMOTE_DIR $DEST_DIR



Код: plaintext
1.
Fatal Error: Wrong number of arguments given.
See the rdiff-backup manual page for more information.

Не пойму что не так
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37692595
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Код: python
1.
 $REMOTE_HOST::$REMOTE_DIR $DEST_DIR


Перед $DEST_DIR нет двух двоеточий. Как второй параметр не воспринимается.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37692702
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big AndyЛибо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно.

Начиная с некоторого уровня загрузки системы хранения ни один из этих способов не работает.
Приоритеты работают для процессов, а для медленных устройств ввода-вывода нет. И оперативные данные из кеша они вымывают за милую душу.

На том фирмочка r1soft и наживается со своими продуктами для теневого копирования. Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37692792
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
netwind,

автор а для медленных устройств ввода-вывода нет
ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило.

автор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы).
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37692988
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big Andynetwind,

автор а для медленных устройств ввода-вывода нет
ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило.

Он не может работать. Нельзя моментально отменить операцию на винте и запустить другую более приоритетную.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37693004
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
> Есть какой-то софт, способный постоянно отслеживать измененные файлы и
> передавать их в другое хранилище?

rsync
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37693010
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
> Так в том то как раз и вопрос.
> Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами
> ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности
> жесткий диск.

А как ты хочешь, и на ёлку влезть, и не ...
Конечно, будет.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37693020
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big Andyавтор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы).
А первый полный бекап всех файлов делать разве не нужно?

Каждое решение годится для своих условий. В некоторых случаях и инкрементального бекапа на основе inotify недостаточно.
Но это не значит, что выхода нет.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37693252
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
netwindА первый полный бекап всех файлов делать разве не нужно?

Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск!



авторНо это не значит, что выхода нет.
Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37693297
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big AndynetwindА первый полный бекап всех файлов делать разве не нужно?

Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск!

Форматирование файловой системы при установке ОС - плохой пример. Оно довольно быстро выполняется.


авторНо это не значит, что выхода нет.
Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?[/quot]
Если файлов много и диски загружены, то задача далеко не примитивная. Любая массивная операция нарушает равновесие.
В этом случае обычно администраторы без фантазии предлагают увеличивать ресурсы ввода-вывода. Я нашел решение поинтереснее.

Аманда и бакула умеют читать данные тихонько и без вымывания кеша ?
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37694430
Big Andy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
netwind и бакула умеют читать данные тихонько и без вымывания кеша ?
Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%.
Аманду давно не ставил.
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37694442
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Софтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали...
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Синхронизация файлов
    #37694461
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Big Andynetwind и бакула умеют читать данные тихонько и без вымывания кеша ?
Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%.
Аманду давно не ставил.
Вы вообще поняли о чем я ? iotop показывает скорость обмена, но не показывает вымывается ли кеш.
Конечно, при низкой скорости данные автоматически снова залетают в кеш, но я имею ввиду качественно иные ухищрения, которые позволяют вымывание свести на нет.
...
Рейтинг: 0 / 0
25 сообщений из 45, страница 1 из 2
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Синхронизация файлов
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]