Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Нужно делать бэкап веб-сервера. Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище? Из того что я знаю, больше подходит RSync, но умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 16:13 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett... Cron все равно каждую минуту просыпается. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 16:40 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
С0ВЕСТЬHett... Cron все равно каждую минуту просыпается. Не понял к чему это... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 17:22 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettНужно делать бэкап веб-сервера. Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище? Есть. inotify,bnotify, kqueue, filemon авторИз того что я знаю, больше подходит RSyn. c, Rsync делает только бекап, но ни разу не отслеживает изменение файлов. *nix построены по принципу KISS. Одна программа - она задача. авторно умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут Ответ смотрите выше. Запускать можете как хотите. Хоть по крону, хоть по событиям dbus, хоть вручную автор, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему? ОтветавторCron все равно каждую минуту просыпается Правильный. То есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Хотя сами можете проверить при помощи ps, top. htop. Есть подозрение, что вам необходим не полный бекап, а инкрементный бекап. Его также можно делать при помощи rsync. Для запуска cron по событиям файловой системы принято использовать incron. Я предпочитаю rdiff-backup Обзор софта для бекапа ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 11:43 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Вопрос скорее в том, если я буду запускать очень часто rsync по крону или по какому-то событию, не создаст ли это дополнительную нагрузку? Ведь я так понимаю он каждый раз будет делать фуллскан файловой системы? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 21:00 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
авторТо есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Ничего не понял. Сам крон без задач каким образом будет грузить систему? А если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 21:02 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettА если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится. Ну, это уж сами регулируйте или проверяйте при старте критические параметры системы. Если вы каждую секунду будете запускать экземпляр rsync и они будут конкурировать за ресурсы, то есть ненулевая вероятность того, что при определённых условиях вы асимптотически приблизитесь к исчерпанию како-гонть системного ресурса. В некоторых случаях (таких как максимально открытое кол-во файлов, дескрипторов и пр ) их можно увеличить, в нектороых (таких как процессорные ресурсы, память и пр ) - нет В общем, всё в ваших руках. Кроме того я не знаю причин, чтобы настолько часто запускать крон, чтобы он убивал систему, но в линуксе вы всегда можете добиться любого стресс-состояния. Систему не убъете, но повеселитесь. авторВедь я так понимаю он каждый раз будет делать фуллскан файловой системы? С чего бы это? rsync ничего не сканит. Он просто выполняет вашу волю. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 22:26 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Каким образом он тогда делает дифф? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:04 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
авторНу, это уж сами регулируйте или проверяйте при старте критические параметры системы. Так в том то как раз и вопрос. Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности жесткий диск. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:05 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Точнее понятно, что нагружать то он будет. Но если он каждый раз будет пробегать по всем файлам, это будет создавать узкие места в работе сервера, ведь возможно в тот момент когда нужно будет активно использовать файловую систему окажется что выполняется задача синхронизации и все пойдет еще медленнее? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:07 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett, почему он должен "пробегать" по всем файлам? авторбудет создавать узкие места в работе сервера Либо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Только работайте. Если боитесь, чтобудет сканить, используйте средства, которые я предлагал выше. авторКаким образом он тогда делает дифф? Слушайте! Какой смысл начинать повствование, когда вы даже man rsnc не прочитали! Не хотите использовать rsync напрямую, используйте обёртки типа rdiff-backup, suplicity или одну из вышеуказанных тридцати более сложных утилит. Кстати, забыл, tar тоже делает инкрементный бекап. авторЕсли я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами , Для этого составляется политика бекапа, делается периодически один полный бекап, потом инкреметальные бекапы. Частоту и время подбирайте самостоятельно. Если же у вас за час измеяются весь терабайт диска, то стоит посмотреть в сторону raid10 и стандартные методы бекапа становятся не очень нужны. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:38 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andy, Пример инкрементного бекапа: авторrsync --force --ignore-errors --delete --delete-excluded --exclude-from=exclude_file --backup --backup-dir=`date +%Y-%m-%d` -av Перед использованием читаем литературу и man rsync например http://www.sanitarium.net/golug/rsync_backups_2010.html ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:41 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Вроде нашел, он смотрит время изменения корневой директории, если оно не совпадает, то заходит в нее и т.д., т.о. фуллскана и не происходит. Теперь пытаюсь написать скрипт, если честно мой первый скрипт: Код: powershell 1. 2. 3. 4. 5. 6. 7. 8. Код: plaintext 1. Не пойму что не так ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.03.2012, 18:20 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Код: python 1. Перед $DEST_DIR нет двух двоеточий. Как второй параметр не воспринимается. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.03.2012, 23:54 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big AndyЛибо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Начиная с некоторого уровня загрузки системы хранения ни один из этих способов не работает. Приоритеты работают для процессов, а для медленных устройств ввода-вывода нет. И оперативные данные из кеша они вымывают за милую душу. На том фирмочка r1soft и наживается со своими продуктами для теневого копирования. Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 02:27 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwind, автор а для медленных устройств ввода-вывода нет ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило. автор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 09:10 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andynetwind, автор а для медленных устройств ввода-вывода нет ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило. Он не может работать. Нельзя моментально отменить операцию на винте и запустить другую более приоритетную. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:26 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
> Есть какой-то софт, способный постоянно отслеживать измененные файлы и > передавать их в другое хранилище? rsync Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:31 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
> Так в том то как раз и вопрос. > Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами > ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности > жесткий диск. А как ты хочешь, и на ёлку влезть, и не ... Конечно, будет. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:33 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andyавтор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы). А первый полный бекап всех файлов делать разве не нужно? Каждое решение годится для своих условий. В некоторых случаях и инкрементального бекапа на основе inotify недостаточно. Но это не значит, что выхода нет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:37 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwindА первый полный бекап всех файлов делать разве не нужно? Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск! авторНо это не значит, что выхода нет. Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 12:53 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big AndynetwindА первый полный бекап всех файлов делать разве не нужно? Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск! Форматирование файловой системы при установке ОС - плохой пример. Оно довольно быстро выполняется. авторНо это не значит, что выхода нет. Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?[/quot] Если файлов много и диски загружены, то задача далеко не примитивная. Любая массивная операция нарушает равновесие. В этом случае обычно администраторы без фантазии предлагают увеличивать ресурсы ввода-вывода. Я нашел решение поинтереснее. Аманда и бакула умеют читать данные тихонько и без вымывания кеша ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 13:07 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwind и бакула умеют читать данные тихонько и без вымывания кеша ? Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%. Аманду давно не ставил. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 23:43 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Софтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали... Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 23:52 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andynetwind и бакула умеют читать данные тихонько и без вымывания кеша ? Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%. Аманду давно не ставил. Вы вообще поняли о чем я ? iotop показывает скорость обмена, но не показывает вымывается ли кеш. Конечно, при низкой скорости данные автоматически снова залетают в кеш, но я имею ввиду качественно иные ухищрения, которые позволяют вымывание свести на нет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 00:14 |
|
||
|
|

start [/forum/topic.php?desktop=1&fid=25&tid=1483641]: |
0ms |
get settings: |
9ms |
get forum list: |
11ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
85ms |
get topic data: |
10ms |
get forum data: |
2ms |
get page messages: |
52ms |
get tp. blocked users: |
2ms |
| others: | 284ms |
| total: | 461ms |

| 0 / 0 |
