Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Срубается копирование файлов по сети. / 16 сообщений из 16, страница 1 из 1
06.04.2015, 21:57
    #38928558
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Доброго дня.

Имеется сервер на FreeBSD 10, выполняющий роль файлопомойки на сотню пользователей под Samba 3.6, что-то по NFS расшарено, там же штатный ftpd работает, шелл открыт для некоторых пользователей, ну и ещё как сервер NIS он работает, хотя, наверно, это уже не имеет отношения... Ещё установлен VirtualBox с несколькими гостевыми машинами (сетевухи гостевых машин включены в режим bridge на основной сетевой адаптер хоста).
Жили - не тужили, а с некоторой поры стали замечать проблему при копировании файлов большого и не очень размера. Скажем так, на 20 мегабайт проблем почти не наблюдается, а вот на 300 уже удачной может оказаться одна попытка из пяти. В логах практически ничего по проблеме, только у самбы ошибка чтения сокета. Пробовал сходу поменять гнездо сетевой карты (двухголовая она там), патч-корд, порт в свиче - без результатов.

Попробовал собрать хоть какую-то статистику. Решил использовать более простой протокол ФТП. Тяну 300-метровый файл на клиентскую машину.
На виртуалку скачивается за три секунды на максимальной скорости (ну, всё внутри ж хост-машины) - ни единого обрыва. На ту же виртуалку тяну с ограничением скорости (использую wget с ключиком --limit-rate) до 1...2 мегабайт/сек - срубается где-нить в середине. Аналогичная ситуация и при копировании в локальную сеть. На машины, до которых доходит сеть по гигабиту этот 300-метровый файлик копируется на максимальной скорости вроде как без проблем. По крайней мере, не удалось зафиксировать. Где 100 мегабит или если ограничить скорость - высокая вероятность отказа.
Так же, бывает, срубаються шелл-подключения к серверу, в основном, когда имеет место быть интенсивный вывод в консоль.

По времени появление оной проблемы совпало с периодом добавления нескольких виртуальных машин к ранее существующим. Возможно, эти вещи как-то взаимосвязаны, но хочется получить какое-то более документальное тому подтверждение.

Такое ощущение, что проблемы где-то на уровне то ли TCP, то ли буферов... Что можно посмотреть/покрутить с целью хотя бы локализовать проблему?

Заранее благодарю.
...
Рейтинг: 0 / 0
06.04.2015, 22:04
    #38928561
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vkle,

ошибки на интерфейсах есть?
...
Рейтинг: 0 / 0
06.04.2015, 22:38
    #38928569
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
miksoft,

Смотрел netstat -I em1 -w 10 во время копирования - при обрыве ошибки по нулям.
...
Рейтинг: 0 / 0
06.04.2015, 22:47
    #38928570
Relic Hunter
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Что уже VirtualBox и для FreeBSD доступен?
...
Рейтинг: 0 / 0
06.04.2015, 22:48
    #38928574
Relic Hunter
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Не пробовали временно погасить VB?
...
Рейтинг: 0 / 0
06.04.2015, 22:56
    #38928579
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vklemiksoft,

Смотрел netstat -I em1 -w 10 во время копирования - при обрыве ошибки по нулям.А netstat умеет и ошибки смотреть?
Я имел ввиду, например, те, которые ifconfig показывает.

Если тянуть несколько потоков сразу, то они оборвутся одновременно или нет?
...
Рейтинг: 0 / 0
06.04.2015, 23:07
    #38928586
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
miksoftА netstat умеет и ошибки смотреть?Так понимаю, что умеет
Код: plaintext
1.
2.
3.
4.
5.
6.
$ netstat -I em1 -w 10
            input            em1           output
   packets  errs idrops      bytes    packets  errs      bytes colls
      1831     0     0     596756      13761     0   20711242     0
      1553     0     0     774920      13827     0   20609364     0
      2004     0     0     620190      14182     0   21138839     0

miksoftЯ имел ввиду, например, те, которые ifconfig показывает.Это на Линуксе ifconfig кажет ошибки, на Фряхе у него меньше информации:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
 $ ifconfig em1
em1: flags=8943<UP,BROADCAST,RUNNING,PROMISC,SIMPLEX,MULTICAST> metric 0 mtu 1500
        options=4219b<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING,VLAN_HWCSUM,TSO4,WOL_MAGIC,VLAN_HWTSO>
        ether 00:25:90:95:0f:4d
        inet 192.168.0.254 netmask 0xfffff000 broadcast 192.168.15.255
        nd6 options=29<PERFORMNUD,IFDISABLED,AUTO_LINKLOCAL>
        media: Ethernet autoselect (1000baseT <full-duplex>)
        status: active


miksoftЕсли тянуть несколько потоков сразу, то они оборвутся одновременно или нет?В разное время рвётся на разные машины. На одну может и не оборваться, а на другой обрыв.

Relic HunterЧто уже VirtualBox и для FreeBSD доступен?Третий год пользуюсь, раньше не обращал внимания. :-)


Relic HunterНе пробовали временно погасить VB?Хорошая идея! Пока не пробовал. Появилась мысль попробовать перекинуть сетевухи виртуалок на другой физический интерфейс сервера. Завтра проверю.
...
Рейтинг: 0 / 0
06.04.2015, 23:20
    #38928596
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vkleЭто на Линуксе ifconfig кажет ошибкиДа, я уже понял, что что-то не то :)

vkleна Фряхе у него меньше информацииА каких-нибудь опций именно для показа ошибок на интерфейсе нету?

Кстати, было бы интересно и на показания коммутатора посмотреть.
...
Рейтинг: 0 / 0
07.04.2015, 00:03
    #38928616
Sergey Orlov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Грешу на em, т.е. на интеловскую карту(драйвер), попробуйте отключить RXCSUM,TXCSUM
...
Рейтинг: 0 / 0
07.04.2015, 09:07
    #38928758
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
miksoftvkleна Фряхе у него меньше информацииА каких-нибудь опций именно для показа ошибок на интерфейсе нету?В мануале сказано про режим debug, но я пока не знаю, с чем его едят, а более ничего нет.

miksoftКстати, было бы интересно и на показания коммутатора посмотреть.Смотрел. Ошибки по нулям на порту сервера. На некоторых других портах имеется небольшое количество ошибок, но они не мешают работе и не входят в маршруты тестирования.


Sergey Orlovпопробуйте отключить RXCSUM,TXCSUMПопробовать не проблема. Можете пояснить очень коротко, что это за опции и для чего они нужны? В поисковике не нашел сходу.
...
Рейтинг: 0 / 0
07.04.2015, 10:31
    #38928857
Sergey Orlov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vkleSergey Orlovпопробуйте отключить RXCSUM,TXCSUMПопробовать не проблема. Можете пояснить очень коротко, что это за опции и для чего они нужны? В поисковике не нашел сходу.
Немножко здесь почитать http://iboxjo.livejournal.com/27727.html
...
Рейтинг: 0 / 0
07.04.2015, 11:33
    #38928986
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Sergey Orlov,

Так понимаю, при отключении опций RXCSUM и TXCSUM подсчет контрольных сумм пакетов переходит с аппаратного уровня сетевого адаптера на программный уровень. Вроде не критично.

Отключил.

Результат интересный и немного неожиданный.

У некоторых клиентов проблемы с копированием пропали, у других жалобы остались. Неоднозначно получилось. Возможно, кто-то и темнит...

Максимальная скорость копирования файла по ФТП с физического сервера на виртуальную машину резко упала с приблизительно 100 MB/s до диалаповских 3.5 KB/s. Это плохо, так как виртуалки работают с файлами этого сервера. Откатил, включил RXCSUM и TXCSUM - с виртуалки по ФТП вообще не удаётся подключиться к серверу. Возможно, на стороне виртуальных машин надо было тоже сделать аналогичное отключение опций... Пока убрал виртуалки на другой интерфейс.
...
Рейтинг: 0 / 0
07.04.2015, 11:44
    #38929000
bga83
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
давно уже с фрей не имел дела, но несколько лет назад для интеловских em был драйвер от яндекса, который в среднем был несколько лучше штатного.
...
Рейтинг: 0 / 0
07.04.2015, 15:53
    #38929464
Sergey Orlov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vkleSergey Orlov,
Так понимаю, при отключении опций RXCSUM и TXCSUM подсчет контрольных сумм пакетов переходит с аппаратного уровня сетевого адаптера на программный уровень. Вроде не критично.
Отключил.
Возможно, на стороне виртуальных машин надо было тоже сделать аналогичное отключение опций... Пока убрал виртуалки на другой интерфейс.
Вообще-то на хосте и для виртуалок я рекомендую включить promisc, неразборчивый режим...
...
Рейтинг: 0 / 0
07.04.2015, 21:20
    #38929846
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
Sergey OrlovВообще-то на хосте и для виртуалок я рекомендую включить promisc, неразборчивый режим...Это, если правильно понимаю, позволит сетевому адаптеру не фильтровать пакеты по MAC-адресу, принимая всё подряд. С интерфейсом хоста более-менее понятно, когда интерфейсы виртуальных хостов на него мостом прокинуты - разбор и раздача пакетов по виртуальным адаптерам пойдёт уже где-то в модуле поддержки сети Виртуалбокса. Но не совсем понимаю, какой смысл от неразборчивого режима на адаптере самой виртуалки. Отказ от дополнительного программного фильтра пакетов или что другое?
...
Рейтинг: 0 / 0
07.04.2015, 21:28
    #38929848
Sergey Orlov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Срубается копирование файлов по сети.
vkleЭто, если правильно понимаю, позволит сетевому адаптеру не фильтровать пакеты по MAC-адресу, принимая всё подряд. С интерфейсом хоста более-менее понятно, когда интерфейсы виртуальных хостов на него мостом прокинуты - разбор и раздача пакетов по виртуальным адаптерам пойдёт уже где-то в модуле поддержки сети Виртуалбокса. Но не совсем понимаю, какой смысл от неразборчивого режима на адаптере самой виртуалки. Отказ от дополнительного программного фильтра пакетов или что другое?
Я не знаю как работает сетевая подсистема виртуалбокса, точнее в какой последовательности она обрабатывает пакеты, поэтому у меня везде стоит неразборчивый режим...
...
Рейтинг: 0 / 0
Форумы / Unix-системы [игнор отключен] [закрыт для гостей] / Срубается копирование файлов по сети. / 16 сообщений из 16, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]