Есть некий linux-сервер в типовой комплектации без raid-контроллера, с двумя дисками, настроенный якобы знающим свое дело администратором из киношников.
Вместо использования raid1, там после обновления запускают вручную rsync и синхронизируют файлы в двух каталогах. Синхронизация происходит это достаточно редко.
Раздача файлов ведется с помощью nginx и скрипта, который случайным образом с 50% вероятностью выбирает один из дисков.
Нагрузка действительно более-менее равномерно распределяется. Очевидно, содержимое некоторых популярных файлов в такой схеме будет закешировано два раза.

В чем логика? Почему в данной ситуации выбрана именно эта конфигурация ? Чем она лучше raid1 ?
Существует ли какая-то проблема при последовательном чтении файла вызванная тем, что raid1 будет пытаться читать блоки файла вперемешку с разных дисков ?

Aklin, он улетел и не обещал вернуться.

drsmnetwind....
Раздача файлов ведется с помощью nginx и скрипта, который случайным образом с 50% вероятностью выбирает один из дисков.
Нагрузка действительно более-менее равномерно распределяется. Очевидно, содержимое некоторых популярных файлов в такой схеме будет закешировано два раза.

если раздаются жирные файлы, скорее всего дирекит ио включено, значит ни разу не будет закешировано.

эпические треды по этому поводу в рассылке нжинкс ищи ).

Да, файлы жирные, как следует из описания сайта. И включен AIO. Он ведь подразумевает отключение directio ?
Еще не известно нужен ли этому серверу с гигабитным подключением AIO.
Я не знаю как в рассылке nginx отличить где заканчивается хайлоад и начинается "хайололоад" . Все читают эту рассылку nginx, надувают щеки, видят конфиги и вставляют себе эти ужасно необходимые фичи nginx не понимая почему они необходимы.
Вот что вам стоит вспомнить суть, если вы ее уяснили ?


Допустим, кеш не имеет значения при такой нагрузке, но вопрос об отказе от raid не ясен все равно.
Выигрыша не будет, но будет проигрыш в том, что каждый раз после закачки нового файла запускать синхронизацию. По крайней мере владелец этого сайта вынужден так делать сейчас.

Relic HunterМожет им зеркалирование просто нужно. Защита от дурака. Раид такого не обеспечивает.
Контент малоценный - его на торентах всегда перекачать и пережать можно. Защищаться от дурака смысла нет.

Задачи этого сервера известны - раздача крупных файлов. Тут никаких предположений и информиксов не нужно .

Птичница-синичница, с доказательством неэффективности этого паттерна не все ясно.
авторНо два конкурирующих треда будут гонять по две головки по пластинам уже в конкуренции, мешая друг другу.
Но ведь при раздаче файлов треды всегда конкурируют. Их всегда больше двух, а на деле тысячи.
Головка так или иначе будет летать туда-сюда. Останется ли тут разница ?

В общем я пока не вижу разницы конфигурации с raid и описанным скриптом с раздачей. И та и другая выплевывают ~ 700 мбит примерно с одинаковом %util по munin или iostat -d. Причем на одном памяти 24Г против 8 и процессор посовременнее. Такое впечатление, что это все мертвому припарки и натуральный хайололоад. Вся производительность зависит только от скорости и числа дисков.
Буду наблюдать.

птичница-синичницаnetwindПтичница-синичница, с доказательством неэффективности этого паттерна не все ясно.
пропущено...

Но ведь при раздаче файлов треды всегда конкурируют. Их всегда больше двух, а на деле тысячи.
Ты видно плохо изучил nginx, количества тредов в нем.

netwindГоловка так или иначе будет летать туда-сюда. Останется ли тут разница ?
Треды гоняются уже системой, для реализации на aio. Дальше все зависит от включенного конвеера (шедулера). К примеру noop позволяет выстроить всех тупо в очередь. Если фрагментация не сильно высокая, то на толстых файлах это таки может дать профит.

А при чем тут треды nginx?
Один тред nginx способен обработать несколько тысяч клиентов. треды там настраивают под количество ядер. Сколько клиентов придет столько запросов и к диску и будет послано. однако на описываемом сервере всего два треда nginx на 8 ядер Xeon E31230 .
Вот тогда побольше настроек nginx выложу :



версия 1.0.12 из squeezy-backports, вроде nginx-extras. с aio и так далее.
Эта настройка приводит к тому, что запросы на дисковое чтение выполняются с конкуренцией не более 2 ?

Про шедулер этот неизвестный киносисадмин забыл или специально не стал настраивать - там cfq, как и есть по дефолту в дебиане. И размер очереди в 128.

авторЕсли синхронизация только после перезагрузки, то, может быть, кроме производительности при раздаче преследуется цель иметь оперативную резервную копию?
Что касается двойного кэширования - на это явно никто не запаривался, а умные контроллеры и умные LVM тоже умеют чиать параллельно с обеих половин херкала для повышения производительности чтения.
Не думаю. Я специально описал не только железо но и область применения.
Это тупой и низкодоходный бизнес. Обычные типовые сервера. Переплачивать за нестандартное железо никто не будет.

miksoftnetwindбез raid-контроллера
...
Вместо использования raid1Варианты:
1) админ не смог настроить софтовый рейд.
2) админ не знал, что можно настроить софтовый рейд.
3) подразумевалось произвольное изменение количества дисков от 1 до N, где N>2 и, возможно, меняется во времени (умеют ли софтовые рейды использовать под рейд1 более двух дисков?).
4) требовалось решение для более широкого диапазона применений, например, передача/клонирование системы в условиях, когда нет админа, способного настроить софтовый рейд.
Ну это уж вы как-то совсем не верите в российское ИТ. Не думаю что не смог.
Программный raid1 может использовать и распределять нагрузку чтения на любое число устройств.

drsmхотконтент в память лезет?

Похоже, нет. Я пробовал и включать и выключать directio. Параметры типа load avg и iowait уменьшаются, но толку все равно мало.
Загрузка сетевой карты не меняется вообще, а значит эффекта этот бизнес не почувствует.
Пришел в выводу, что на скоростях до 1 гбита мудрить смысла нет вообще. А 10 гбит что-то им не нравится по ценам. Уже не того поля ягоды.

drsmрейд1, вроде как, судя по тестам проведенным не мной :D, менее годно размазывает нагрузку, но я бы сделал рейд1 )).

Вот эти подробности главным образом меня и интересовали. Что и как померить ?