powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Форумы / Разработка информационных систем [игнор отключен] [закрыт для гостей] / Разработка системы передачи данных мониторинга
22 сообщений из 22, страница 1 из 1
Разработка системы передачи данных мониторинга
    #38375572
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Коллеги, всем доброго дня!
Есть такая проблема, с которой уже бьемся довольно продолжительное количество времени.
Суть: необходимо организовать стабильную и качественную систему передачи данных на сервер мониторинга.
Машины стоят внутри сети организации и шлют сообщения в формате протокола мониторинговой системы на уровне TCP, на каждое сообщение подобного рода с сервера должно прийти подтверждение о том, что оно получено, также в формате протокола мониторинговой системы. Если агент на клиентской машине не получает данного подтверждения, по истечению некоторого таймаута оно будет отослано снова, что может сформировать очередь на клиентской стороне. Сервер мониторинга стоит в совершенно другой сети и туда открыт только порт 443.

Что было сделано: все клиентские машины шлют свои сообщения на специальный концентратор, который "оборачивает" каждое сообщение в HTTPS и устанавливает сессию Request/Response, соответственно, на строне сервера мониторинга стоит приложение, которое "разворачивает" каждый пакет из сессии для дальнейшей обработки и "оборачивает" каждое сообщение-подтверждение со стороны сервера и отсылает его обратно. В сети организации также установлен прокси, собственно, который и перенаправляет все соединения на сервер.

Имеем проблему в производительности - то есть по факту у нас обрабатывается 4 сообщения в секунду, в результате получаем задержки в адекватном отображении информации о состоянии устройств клиентов.

Пробовали делать многопотосноть подобного решения, но судя по всему, прокси расценивает это как DOS-атаку и глушит все.
К сожалению, подробнее ничего не могу сказать о сети организации, так как она не предоставляет такие данные. Нам дали только выход на наш сервер мониторинга.

Дайте, по возможности, свои рекомендации и замечания.

P.S. Клиентские машины - WinXP + .NET, концентратор - Windows2008 + .NET, сервер мониторинга Win2008 + .NET
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38375697
mad_nazgul
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002,

А почему бы не попробовать ч/з MSMQ например?
Ну или SOA/SOAP?
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38375898
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
mad_nazgul,

Спасибо за подсказку, изучаю возможности
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38375984
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002Если агент на клиентской машине не получает данного подтверждения, по истечению некоторого таймаута оно будет отослано снова, что может сформировать очередь на клиентской стороне.
тут подробнее.
- TCP гарантирует целостность передачи данных
- HTTP - нет, и к тому же медленный
Следовательно, чем не устраивает TCP, откуда берутся очереди и размер этих очередей.
Т.е. всегда ли доступен сервер чтобы НЕ делать очереди?
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376014
Фотография Нахлобуч
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123- TCP гарантирует целостность передачи данных
- HTTP - нет, и к тому же медленныйЭто как так? HTTP строится поверх TCP.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376038
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
НахлобучPetro123- TCP гарантирует целостность передачи данных
- HTTP - нет, и к тому же медленныйЭто как так? HTTP строится поверх TCP.
поверх = оверхед = медленный.
Хотя можно и придраться)
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376044
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ключевой вопрос в доступности. И на сколько недоступен.
Если недоступен, то неизбежно - очереди и слежение за ними админом.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376148
mad_nazgul
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123Нахлобучпропущено...
Это как так? HTTP строится поверх TCP.
поверх = оверхед = медленный.
Хотя можно и придраться)

Это вопрос про целостность.
Протокол нижнего уровня гарантирует целостность передачи данных, а верхнего уже нет. :-)
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376160
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123bender2002Если агент на клиентской машине не получает данного подтверждения, по истечению некоторого таймаута оно будет отослано снова, что может сформировать очередь на клиентской стороне.
тут подробнее.
- TCP гарантирует целостность передачи данных
- HTTP - нет, и к тому же медленный
Следовательно, чем не устраивает TCP, откуда берутся очереди и размер этих очередей.
Т.е. всегда ли доступен сервер чтобы НЕ делать очереди?

Дело в том, что поверх TCP реализована логика протокола мониторинга и она подразумевает получение подтверждения клиентской машиной на каждое сообщение о статусе устройства. Если данное подтверждение (имеется в виду именно подверждение в формате протокола мониторинга) не было получено, то агент считает, что сообщение не было доставлено и пытается его отослать еще раз. За это время, само собой, могут возникнуть еще какие-нибудь статусные сообщения на клиентской машине, что порождает очередь
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376168
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123bender2002Если агент на клиентской машине не получает данного подтверждения, по истечению некоторого таймаута оно будет отослано снова, что может сформировать очередь на клиентской стороне.
тут подробнее.
- TCP гарантирует целостность передачи данных
- HTTP - нет, и к тому же медленный
Следовательно, чем не устраивает TCP, откуда берутся очереди и размер этих очередей.
Т.е. всегда ли доступен сервер чтобы НЕ делать очереди?

Не ответил на все вопросы:
1. TCP не устраивает тем, что принимающая часть реализована в составе ISAPI-фильтра, получается, что если переделывать все в TCP, то надо будет озадачиваться еще и изменением системы-приемника. К тому же, изменение политик на стороне прокси внутри организации процедура не самая простая в плане бюрократии

2. Сервер всегда доступен, то есть мы видим, как сообщения с концентратора отправляются и принимаются подтверждения, но получается, что пропускная способность ее очень невысока. А со стороны клиентской машины это все выглядит, как банальный таймаут по коннекту.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376176
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002что пропускная способность ее очень невысока
ищите конкретнее узкое место.
Т.к. imho именно веб-протокол не подходит для большой нагрузки.
Какая у вас "большая" надо померить.
4 в секунду - маловато.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376192
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123,

Я пообщался со своими коллегами в Бельгии (у них реализовано подобное решение), разница состоит в том, что у них установлен HTTP Load Balancer и он распределяет потоки с клиентских машин на 5 разных инстанций концентратора, установленных на одной машине. У них подобных проблем с пропускной способностью нет. Я пытался рассмотреть подобное, но не нашел готовых реализаций Load Balancer под винду, только по *nix, собственно там в Бельгии они так и поставили
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376224
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002,
ну понятно, либо переделывать всё по новой, либо добавлять машины - масштабировать))).
А никсы не так сложны в понимании и админстве как кажется "Оконнику")).

Всё таки замерьте маршрут и время прохождения...выложите тут.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38376278
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123bender2002,
ну понятно, либо переделывать всё по новой, либо добавлять машины - масштабировать))).
А никсы не так сложны в понимании и админстве как кажется "Оконнику")).

Всё таки замерьте маршрут и время прохождения...выложите тут.

Не боимся никсов-проблема только в бюрократии: не так просто установить что-то в организации не такая простая процедура, честно говоря, быстрее что-то написать

По поводу времени прохождения - в понедельник постараюсь выложить

Спасибо
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377200
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Постарался собрать статистику по времени прохождения. К сожалению, я располагаю только данными на прикладном уровне (на основе собственных логов).

В общем, пауза между запросом и ответом может составлять до 3-х секунд
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377220
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002на прикладном уровне
это уровень тестировщика системы снаружи.
Нужен уровень ниже для нахождения "узкого места". Т.е. логи от программиста или разработчика.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377340
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Собственно, это и есть, считай, лог программиста.
То есть замерили фактическое время отправки сообщения на уровне приложения-концентратора и приема им ответа
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377362
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002Собственно, это и есть, считай, лог программиста.
То есть замерили фактическое время отправки сообщения на уровне приложения-концентратора и приема им ответа
тогда я лично не пойму, на что уходит 3 сек? Пауза на перекуры?
Пишу IMHO.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377371
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123bender2002Собственно, это и есть, считай, лог программиста.
То есть замерили фактическое время отправки сообщения на уровне приложения-концентратора и приема им ответа
тогда я лично не пойму, на что уходит 3 сек? Пауза на перекуры?
Пишу IMHO.

После того, как концентратор отправляет реквест, он идет сначала на прокси, затем по сети организации выходит на сервер мониторига (что там находится фактически, я, к сожалению, даже узнать не могу) после получения реквеста сервером мониторинга запускается процедура генерации подтверждения на сообщение, которое по такому же маршруту возвращается на концентратор.

3 секунды - это максимум. Есть отрезки, когда проход по всему маршруту занимает менее 1 секунды
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377399
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002что там находится фактически, я, к сожалению, даже узнать не могут.е.
протрассировать путь пакетов:
Концентратор --> Прокси -->Монитор --> Прокси -->Концентратор = 3 сек
ваш админ не может?
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377608
bender2002
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
К сожалению, нет.
Мне пояснили, что ICMP протокол закрыт на устройствах, потому единственным способом оценки времени маршрута является приложение.
...
Рейтинг: 0 / 0
Разработка системы передачи данных мониторинга
    #38377874
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
bender2002К сожалению, нет.
Мне пояснили, что ICMP протокол закрыт на устройствах, потому единственным способом оценки времени маршрута является приложение.
тогда тема IMHO в раздел Администрирование ОС.
Не имея возможности Оценить узкие места админами, глупо наращивать сервера или "Разрабатывать информационную систему".
Удачи!
...
Рейтинг: 0 / 0
22 сообщений из 22, страница 1 из 1
Форумы / Разработка информационных систем [игнор отключен] [закрыт для гостей] / Разработка системы передачи данных мониторинга
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]