Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Синхронизация файлов / 25 сообщений из 45, страница 1 из 2
03.03.2012, 16:13
    #37689715
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Нужно делать бэкап веб-сервера.
Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище?
Из того что я знаю, больше подходит RSync, но умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему?
...
Рейтинг: 0 / 0
03.03.2012, 16:40
    #37689733
С0ВЕСТЬ
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Hett...
Cron все равно каждую минуту просыпается.
...
Рейтинг: 0 / 0
03.03.2012, 17:22
    #37689768
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
С0ВЕСТЬHett...
Cron все равно каждую минуту просыпается.
Не понял к чему это...
...
Рейтинг: 0 / 0
04.03.2012, 11:43
    #37690354
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
HettНужно делать бэкап веб-сервера.
Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище?
Есть. inotify,bnotify, kqueue, filemon

авторИз того что я знаю, больше подходит RSyn. c, Rsync делает только бекап, но ни разу не отслеживает изменение файлов. *nix построены по принципу KISS. Одна программа - она задача.

авторно умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут
Ответ смотрите выше. Запускать можете как хотите. Хоть по крону, хоть по событиям dbus, хоть вручную
автор, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему?
ОтветавторCron все равно каждую минуту просыпается Правильный. То есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Хотя сами можете проверить при помощи ps, top. htop.


Есть подозрение, что вам необходим не полный бекап, а инкрементный бекап. Его также можно делать при помощи rsync.
Для запуска cron по событиям файловой системы принято использовать incron.

Я предпочитаю rdiff-backup

Обзор софта для бекапа
...
Рейтинг: 0 / 0
04.03.2012, 21:00
    #37690852
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Вопрос скорее в том, если я буду запускать очень часто rsync по крону или по какому-то событию, не создаст ли это дополнительную нагрузку? Ведь я так понимаю он каждый раз будет делать фуллскан файловой системы?
...
Рейтинг: 0 / 0
04.03.2012, 21:02
    #37690856
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
авторТо есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит.
Ничего не понял.
Сам крон без задач каким образом будет грузить систему?
А если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится.
...
Рейтинг: 0 / 0
04.03.2012, 22:26
    #37690913
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
HettА если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится.
Ну, это уж сами регулируйте или проверяйте при старте критические параметры системы. Если вы каждую секунду будете запускать экземпляр rsync и они будут конкурировать за ресурсы, то есть ненулевая вероятность того, что при определённых условиях вы асимптотически приблизитесь к исчерпанию како-гонть системного ресурса. В некоторых случаях (таких как максимально открытое кол-во файлов, дескрипторов и пр ) их можно увеличить, в нектороых (таких как процессорные ресурсы, память и пр ) - нет
В общем, всё в ваших руках. Кроме того я не знаю причин, чтобы настолько часто запускать крон, чтобы он убивал систему, но в линуксе вы всегда можете добиться любого стресс-состояния. Систему не убъете, но повеселитесь.

авторВедь я так понимаю он каждый раз будет делать фуллскан файловой системы?
С чего бы это? rsync ничего не сканит. Он просто выполняет вашу волю.
...
Рейтинг: 0 / 0
04.03.2012, 23:04
    #37690942
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Каким образом он тогда делает дифф?
...
Рейтинг: 0 / 0
04.03.2012, 23:05
    #37690944
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
авторНу, это уж сами регулируйте или проверяйте при старте критические параметры системы.
Так в том то как раз и вопрос.
Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности жесткий диск.
...
Рейтинг: 0 / 0
04.03.2012, 23:07
    #37690945
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Точнее понятно, что нагружать то он будет.
Но если он каждый раз будет пробегать по всем файлам, это будет создавать узкие места в работе сервера, ведь возможно в тот момент когда нужно будет активно использовать файловую систему окажется что выполняется задача синхронизации и все пойдет еще медленнее?
...
Рейтинг: 0 / 0
04.03.2012, 23:38
    #37690968
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Hett,

почему он должен "пробегать" по всем файлам?


авторбудет создавать узкие места в работе сервера
Либо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Только работайте.

Если боитесь, чтобудет сканить, используйте средства, которые я предлагал выше.

авторКаким образом он тогда делает дифф?
Слушайте! Какой смысл начинать повствование, когда вы даже man rsnc не прочитали!
Не хотите использовать rsync напрямую, используйте обёртки типа rdiff-backup, suplicity или одну из вышеуказанных тридцати более сложных утилит.

Кстати, забыл, tar тоже делает инкрементный бекап.


авторЕсли я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,
Для этого составляется политика бекапа, делается периодически один полный бекап, потом инкреметальные бекапы. Частоту и время подбирайте самостоятельно.
Если же у вас за час измеяются весь терабайт диска, то стоит посмотреть в сторону raid10 и стандартные методы бекапа становятся не очень нужны.
...
Рейтинг: 0 / 0
04.03.2012, 23:41
    #37690970
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big Andy,

Пример инкрементного бекапа:
авторrsync --force --ignore-errors --delete --delete-excluded --exclude-from=exclude_file --backup --backup-dir=`date +%Y-%m-%d` -av

Перед использованием читаем литературу и man rsync
например http://www.sanitarium.net/golug/rsync_backups_2010.html
...
Рейтинг: 0 / 0
05.03.2012, 18:20
    #37692170
Hett
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Вроде нашел, он смотрит время изменения корневой директории, если оно не совпадает, то заходит в нее и т.д., т.о. фуллскана и не происходит.

Теперь пытаюсь написать скрипт, если честно мой первый скрипт:

Код: powershell
1.
2.
3.
4.
5.
6.
7.
8.
root@euve4744:~# cat rdiff.sh
#!/bin/sh
REMOTE_HOST="luna852"
REMOTE_DIR="/var/www/vhosts/"
DEST_DIR="/backup/luna852"
EXCLUDE="*.log"

/usr/bin/rdiff-backup --force --remove-older-than "1W" --exclude $EXCLUDE --create-full-path --exclude-symbolic-links --exclude-sockets --exclude-special-files --exclude-fifos --exclude-device-files --no-hard-links --print-statistics $REMOTE_HOST::$REMOTE_DIR $DEST_DIR



Код: plaintext
1.
Fatal Error: Wrong number of arguments given.
See the rdiff-backup manual page for more information.

Не пойму что не так
...
Рейтинг: 0 / 0
05.03.2012, 23:54
    #37692595
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Код: python
1.
 $REMOTE_HOST::$REMOTE_DIR $DEST_DIR


Перед $DEST_DIR нет двух двоеточий. Как второй параметр не воспринимается.
...
Рейтинг: 0 / 0
06.03.2012, 02:27
    #37692702
netwind
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big AndyЛибо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно.

Начиная с некоторого уровня загрузки системы хранения ни один из этих способов не работает.
Приоритеты работают для процессов, а для медленных устройств ввода-вывода нет. И оперативные данные из кеша они вымывают за милую душу.

На том фирмочка r1soft и наживается со своими продуктами для теневого копирования. Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
...
Рейтинг: 0 / 0
06.03.2012, 09:10
    #37692792
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
netwind,

автор а для медленных устройств ввода-вывода нет
ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило.

автор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы).
...
Рейтинг: 0 / 0
06.03.2012, 11:26
    #37692988
netwind
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big Andynetwind,

автор а для медленных устройств ввода-вывода нет
ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило.

Он не может работать. Нельзя моментально отменить операцию на винте и запустить другую более приоритетную.
...
Рейтинг: 0 / 0
06.03.2012, 11:31
    #37693004
MasterZiv
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
> Есть какой-то софт, способный постоянно отслеживать измененные файлы и
> передавать их в другое хранилище?

rsync
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
06.03.2012, 11:33
    #37693010
MasterZiv
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
> Так в том то как раз и вопрос.
> Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами
> ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности
> жесткий диск.

А как ты хочешь, и на ёлку влезть, и не ...
Конечно, будет.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
06.03.2012, 11:37
    #37693020
netwind
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big Andyавтор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно.
Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы).
А первый полный бекап всех файлов делать разве не нужно?

Каждое решение годится для своих условий. В некоторых случаях и инкрементального бекапа на основе inotify недостаточно.
Но это не значит, что выхода нет.
...
Рейтинг: 0 / 0
06.03.2012, 12:53
    #37693252
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
netwindА первый полный бекап всех файлов делать разве не нужно?

Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск!



авторНо это не значит, что выхода нет.
Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?
...
Рейтинг: 0 / 0
06.03.2012, 13:07
    #37693297
netwind
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big AndynetwindА первый полный бекап всех файлов делать разве не нужно?

Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск!

Форматирование файловой системы при установке ОС - плохой пример. Оно довольно быстро выполняется.


авторНо это не значит, что выхода нет.
Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?[/quot]
Если файлов много и диски загружены, то задача далеко не примитивная. Любая массивная операция нарушает равновесие.
В этом случае обычно администраторы без фантазии предлагают увеличивать ресурсы ввода-вывода. Я нашел решение поинтереснее.

Аманда и бакула умеют читать данные тихонько и без вымывания кеша ?
...
Рейтинг: 0 / 0
06.03.2012, 23:43
    #37694430
Big Andy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
netwind и бакула умеют читать данные тихонько и без вымывания кеша ?
Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%.
Аманду давно не ставил.
...
Рейтинг: 0 / 0
06.03.2012, 23:52
    #37694442
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Софтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали...
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
07.03.2012, 00:14
    #37694461
netwind
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Синхронизация файлов
Big Andynetwind и бакула умеют читать данные тихонько и без вымывания кеша ?
Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%.
Аманду давно не ставил.
Вы вообще поняли о чем я ? iotop показывает скорость обмена, но не показывает вымывается ли кеш.
Конечно, при низкой скорости данные автоматически снова залетают в кеш, но я имею ввиду качественно иные ухищрения, которые позволяют вымывание свести на нет.
...
Рейтинг: 0 / 0
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Синхронизация файлов / 25 сообщений из 45, страница 1 из 2
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]