Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Нужно делать бэкап веб-сервера. Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище? Из того что я знаю, больше подходит RSync, но умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 16:13 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett... Cron все равно каждую минуту просыпается. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 16:40 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
С0ВЕСТЬHett... Cron все равно каждую минуту просыпается. Не понял к чему это... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2012, 17:22 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettНужно делать бэкап веб-сервера. Есть какой-то софт, способный постоянно отслеживать измененные файлы и передавать их в другое хранилище? Есть. inotify,bnotify, kqueue, filemon авторИз того что я знаю, больше подходит RSyn. c, Rsync делает только бекап, но ни разу не отслеживает изменение файлов. *nix построены по принципу KISS. Одна программа - она задача. авторно умеет ли он именно отслеживать постоянно, или же его нужно запускать по крону каждые N-минут Ответ смотрите выше. Запускать можете как хотите. Хоть по крону, хоть по событиям dbus, хоть вручную автор, не скажется ли тогда это пагубно на нагрузке неоправданной нагрузке на дисковую систему? ОтветавторCron все равно каждую минуту просыпается Правильный. То есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Хотя сами можете проверить при помощи ps, top. htop. Есть подозрение, что вам необходим не полный бекап, а инкрементный бекап. Его также можно делать при помощи rsync. Для запуска cron по событиям файловой системы принято использовать incron. Я предпочитаю rdiff-backup Обзор софта для бекапа ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 11:43 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Вопрос скорее в том, если я буду запускать очень часто rsync по крону или по какому-то событию, не создаст ли это дополнительную нагрузку? Ведь я так понимаю он каждый раз будет делать фуллскан файловой системы? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 21:00 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
авторТо есть если он (cron) у вас не загружает систему без запущенного rsync, то и сзапущенным не загрузит. Ничего не понял. Сам крон без задач каким образом будет грузить систему? А если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 21:02 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettА если я туда запихаю на каждую минуту какую-то ресурсоемку задачу то и нагрузка появится. Ну, это уж сами регулируйте или проверяйте при старте критические параметры системы. Если вы каждую секунду будете запускать экземпляр rsync и они будут конкурировать за ресурсы, то есть ненулевая вероятность того, что при определённых условиях вы асимптотически приблизитесь к исчерпанию како-гонть системного ресурса. В некоторых случаях (таких как максимально открытое кол-во файлов, дескрипторов и пр ) их можно увеличить, в нектороых (таких как процессорные ресурсы, память и пр ) - нет В общем, всё в ваших руках. Кроме того я не знаю причин, чтобы настолько часто запускать крон, чтобы он убивал систему, но в линуксе вы всегда можете добиться любого стресс-состояния. Систему не убъете, но повеселитесь. авторВедь я так понимаю он каждый раз будет делать фуллскан файловой системы? С чего бы это? rsync ничего не сканит. Он просто выполняет вашу волю. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 22:26 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Каким образом он тогда делает дифф? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:04 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
авторНу, это уж сами регулируйте или проверяйте при старте критические параметры системы. Так в том то как раз и вопрос. Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности жесткий диск. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:05 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Точнее понятно, что нагружать то он будет. Но если он каждый раз будет пробегать по всем файлам, это будет создавать узкие места в работе сервера, ведь возможно в тот момент когда нужно будет активно использовать файловую систему окажется что выполняется задача синхронизации и все пойдет еще медленнее? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:07 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett, почему он должен "пробегать" по всем файлам? авторбудет создавать узкие места в работе сервера Либо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Только работайте. Если боитесь, чтобудет сканить, используйте средства, которые я предлагал выше. авторКаким образом он тогда делает дифф? Слушайте! Какой смысл начинать повствование, когда вы даже man rsnc не прочитали! Не хотите использовать rsync напрямую, используйте обёртки типа rdiff-backup, suplicity или одну из вышеуказанных тридцати более сложных утилит. Кстати, забыл, tar тоже делает инкрементный бекап. авторЕсли я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами , Для этого составляется политика бекапа, делается периодически один полный бекап, потом инкреметальные бекапы. Частоту и время подбирайте самостоятельно. Если же у вас за час измеяются весь терабайт диска, то стоит посмотреть в сторону raid10 и стандартные методы бекапа становятся не очень нужны. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:38 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andy, Пример инкрементного бекапа: авторrsync --force --ignore-errors --delete --delete-excluded --exclude-from=exclude_file --backup --backup-dir=`date +%Y-%m-%d` -av Перед использованием читаем литературу и man rsync например http://www.sanitarium.net/golug/rsync_backups_2010.html ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.03.2012, 23:41 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Вроде нашел, он смотрит время изменения корневой директории, если оно не совпадает, то заходит в нее и т.д., т.о. фуллскана и не происходит. Теперь пытаюсь написать скрипт, если честно мой первый скрипт: Код: powershell 1. 2. 3. 4. 5. 6. 7. 8. Код: plaintext 1. Не пойму что не так ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.03.2012, 18:20 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Код: python 1. Перед $DEST_DIR нет двух двоеточий. Как второй параметр не воспринимается. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.03.2012, 23:54 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big AndyЛибо сами отслеживайте загрузку, либо создавайте квоты. Типо nice, ionice... Утилит полно. Начиная с некоторого уровня загрузки системы хранения ни один из этих способов не работает. Приоритеты работают для процессов, а для медленных устройств ввода-вывода нет. И оперативные данные из кеша они вымывают за милую душу. На том фирмочка r1soft и наживается со своими продуктами для теневого копирования. Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 02:27 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwind, автор а для медленных устройств ввода-вывода нет ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило. автор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 09:10 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andynetwind, автор а для медленных устройств ввода-вывода нет ionice в init 3 и init 5 работает прекрасно. Лишь бы кеша хватило. Он не может работать. Нельзя моментально отменить операцию на винте и запустить другую более приоритетную. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:26 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
> Есть какой-то софт, способный постоянно отслеживать измененные файлы и > передавать их в другое хранилище? rsync Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:31 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
> Так в том то как раз и вопрос. > Если я буду таким образом синхронизировать 1ТБ диск забитый мелкими файлами > ,например, каждый час, не будет ли он каждый раз нагружать систему, в частности > жесткий диск. А как ты хочешь, и на ёлку влезть, и не ... Конечно, будет. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:33 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andyавтор Ну, а хотя, если покопаться можно заставить rsync и tar работать почти незаметно. Даже копаться не надо. inotify вполне достаточно для подавляющего числа случаев (если нет винтажных скриптов, отслеживающих именованные каналы). А первый полный бекап всех файлов делать разве не нужно? Каждое решение годится для своих условий. В некоторых случаях и инкрементального бекапа на основе inotify недостаточно. Но это не значит, что выхода нет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 11:37 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwindА первый полный бекап всех файлов делать разве не нужно? Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск! авторНо это не значит, что выхода нет. Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 12:53 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big AndynetwindА первый полный бекап всех файлов делать разве не нужно? Не поверите! До установки ОС вполне возможно даже придётся отформатировать терабайтный диск! Форматирование файловой системы при установке ОС - плохой пример. Оно довольно быстро выполняется. авторНо это не значит, что выхода нет. Я специально дал ссылки на более сложные системы бекапа, которые, втом числе сами индексируют изменения. В частности BAcula Аманда. Но стоит ли из-за примитвной задачи бекапаодного диска разворачивать этих монстров?[/quot] Если файлов много и диски загружены, то задача далеко не примитивная. Любая массивная операция нарушает равновесие. В этом случае обычно администраторы без фантазии предлагают увеличивать ресурсы ввода-вывода. Я нашел решение поинтереснее. Аманда и бакула умеют читать данные тихонько и без вымывания кеша ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 13:07 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwind и бакула умеют читать данные тихонько и без вымывания кеша ? Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%. Аманду давно не ставил. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 23:43 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Софтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали... Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.03.2012, 23:52 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andynetwind и бакула умеют читать данные тихонько и без вымывания кеша ? Бакула - точно. Я, конечно не следил за первоначалной индексацией и первоначальным бекапом, но в iotop от bacula+дочки не превышал 5%. Аманду давно не ставил. Вы вообще поняли о чем я ? iotop показывает скорость обмена, но не показывает вымывается ли кеш. Конечно, при низкой скорости данные автоматически снова залетают в кеш, но я имею ввиду качественно иные ухищрения, которые позволяют вымывание свести на нет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 00:14 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Dimitry SibiryakovСофтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали... Как вам поможет RAID1 от rm -f * ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 07:38 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett, Так сдуру можно и мягкую часть тела сломать. Защита от дураков - это несколько иное. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 12:03 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
[quot netwind]Big Andyпропущено... Вы вообще поняли о чем я ? iotop показывает скорость обмена, но не показывает вымывается ли кеш. Мониторинг дискового кеша - занятие неблагодарное и немасштабируемое , ибо аппаратнозавсимое. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 12:07 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
По крайней мере с rdiff-backup, и бакулой проблем никогда не возникало. И надосбности мониторить хардверный дисковый кеш не было. Софтверный настраивается динамически. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 12:11 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andy, хардварный кеш контроллеров слишком маленький чтобы на что-то повлиять. Разумеется, речь о кеше нужных файлов в памяти, которые при чтении ненужных файлов замещаются. HettDimitry SibiryakovСофтовый RAID1 на iSCSI тут ещё, вроде бы, не предлагали... Как вам поможет RAID1 от rm -f * ? очень просто : подключаете еще диск. запускаете синхронизацию raid. она делается в фоне, медленно и не засирая дисковый кеш. дожидаетесь конца синхронизации. вынимаете диск и кладете на полочку - бекап готов. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 12:36 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Это если в датацентре жить) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 13:34 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettЭто если в датацентре жить) iscsi подразумевает что диск для бекапа подключается по сети удаленно ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 13:58 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwindHettЭто если в датацентре жить) iscsi подразумевает что диск для бекапа подключается по сети удаленно хотя тут есть проблема - во время интенсивной работы записываемые данные по сети будут гонятся на другой диск. но вы же не домой копируете ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 14:00 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Да, я там букавку i не приметил сначала. Но будет делаться каждый раз полный бэкап все же, что будет давать большую нагрузку на сеть да и на диск все же тоже, если бэкапить пару терабайт, да и на каждый день нужно иметь еще по такому же диску, тоесть получается хотя бы 2, чтобы бэкапить на них по очереди. Нету возможности бэкапить только нужные данные (например исключить логи). Нету возможности сжать данные, как я предполагаю. Если подытожить, то в итоге RSYNC будет удобнее. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 14:12 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
ИМХО, конечно... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 14:13 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Hett Нету возможности бэкапить только нужные данные (например исключить логи) Можно разбить диск на разделы и только нужные разделы бекапить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 14:20 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Не всегда возможно, например используя тот же плеск не удастся разбить данные так, чтобы логи были на отдельном разделе... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 15:56 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
HettНе всегда возможно, например используя тот же плеск не удастся разбить данные так, чтобы логи были на отдельном разделе... И слава алллаху. Не один сервер я видел с /var/log "по заветам настоящих карпаративных админов" на пару гигабайт. Стоит забыть что логин нужно ротировать и вот при перезагрузке уже не стартуют апачи всякие. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 16:30 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
netwindHettНе всегда возможно, например используя тот же плеск не удастся разбить данные так, чтобы логи были на отдельном разделе... И слава алллаху. Не один сервер я видел с /var/log "по заветам настоящих карпаративных админов" на пару гигабайт. Стоит забыть что логин нужно ротировать и вот при перезагрузке уже не стартуют апачи всякие. Да может я уже просто придираюсь, это все понятно. Плеск в общем-то делает ротацию, я говорю о том, что всю эту ротацию он будет тоже бэкапить, причем логи в ротации переименовываются, хоть и сжаты, но весят сколько то, а если еще используется какая-то веб-статистикческая приблуда (не знаю зачем они кому нужные нынче) то еще миллионы файлов будут. Каждый день гонять по сетке террабайты - накладно, особенно если сетевой интерфейс 100мегабит, да и даже если больше, прочитать пару террабайт данных - лишнее занятие. Я не говорю, что этот метод все же плохой. Да и вот вроде щас думаю, что теневое копирование в той же винде делает все как раз инкрементно). У меня же задача - делать бэкапы серверов на другие машины с возможностью минимализировать расходы на хранение данных (самих бэкапов) и не загружать мейн серверы лишней нагрузкой для сжатия террабайт данных. Сейчас смотрю в сторону rdiff... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2012, 19:38 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Big Andy Код: python 1. Перед $DEST_DIR нет двух двоеточий. Как второй параметр не воспринимается. Дело было в ключе --remove-older-than, эту операцию надо запускать отдельно. Как направить вывод команды в sh скритпе в файл дописать? Что-то типа echo 'adf' > filname, но не заменить а добавить в конец? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.03.2012, 19:22 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
И все таки я не пойму. Делаю бэкап, несколько минут уходит, потом запускаю еще раз повторно - он возится полторы минуты чего-то. Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.03.2012, 19:27 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
2 сервера на гигабите в одном ДЦ Файлов не так уж много, к тому же логи все исключил. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.03.2012, 19:28 |
|
||
|
Синхронизация файлов
|
|||
|---|---|---|---|
|
#18+
Не могу врубица, мне надо исключить файлы. 2 звездочки, как я понял из мануала сверяет только имя файла (не путь). **.log **.tmp Это работает. Не могу понять как написать паттерн, который позволил бы исключить пути включающие в себя "yii/framework" ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.03.2012, 20:27 |
|
||
|
|

start [/forum/topic.php?all=1&fid=25&tid=1483641]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
73ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
65ms |
get tp. blocked users: |
1ms |
| others: | 12ms |
| total: | 196ms |

| 0 / 0 |
