|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Всем привет. Стоит вопрос выбора промышленного компа с минимальными техническими характеристиками (для минимального энергопотребления) необходимыми для получения сетевого потока 300мбит/сек, буферизации и записи на диск. Есть реализация ПО, "прототип", который на стареньком i5 650 легко хавает и 600мбит/сек, но как это поведет себя на атоме или селероне - большой вопрос. Кто-нибудь сталкивался с подобным? На вскидку, какая мощность процессора для этого нужна? Можно ли здесь применить какую-то "формулу"? Хватит ли для такой задачи одного из Intel atom? или минимум мобильная серия i3? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 21:21 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Зависит от приложения. "Профессионализм не пропьешь" (C), т.ч. если делал профессионал, то и SuperDom мало будет. А вообще, по железу, мне кажется более важен диск, чем процессор. Требования к процессору это чисто качество/оптимизация кода. IMHO & AFAIK ... |
|||
:
Нравится:
Не нравится:
|
|||
15.11.2016, 22:17 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Leonid Kudryavtsev, Диск - SSD подключенный по USB 3.0, отличный от системного. 300мбит/сек - это 37мбайт/сек, если писать в один поток (что реализовано в софте), то это плевое дело и для USB2.0 ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 08:18 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
КифирчикLeonid Kudryavtsev, Диск - SSD подключенный по USB 3.0, отличный от системного. 300мбит/сек - это 37мбайт/сек, если писать в один поток (что реализовано в софте), то это плевое дело и для USB2.0 Атом вполне пойдет для непропитого профессионала. Я бы посмотрел на возможности операционной системы. ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 12:29 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Эх... притащил коллега из дома старенький 330й atom, неттоп, 2 ядра, 4 потока при получении UDP в один поток, начинают пакеты не доходить после скорости 23мбит/сек 2 потока - 45мбит/сек (~23мбит/сек на поток) 3 потока - 65мбит/сек (~22 на поток) 4 потока - 87мбит/сек (~22 на поток) 5 потоков и далее - хуже оба показателя в общем по тестам далее, надежно ловит не более 22мбит/сек на поток, или суммарно не более 85мбит/сек, при этом проц грузится в среднем на 55%. можно конечно пинять, на что ОС Windows 7, среда .NET, но что-то мне подсказывает что переписывание на Linux и С больше 15..20% профита не даст. оптимизировать уже некуда, профайлер показывает 93% на системную функцию Recieve только если есть какой-то способ получать не пакетами а пачками пакетов ( похоже таки процессор важен ( и надо пробовать i3 ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 16:30 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Я, собственно, не могу понять - чему удивляется ТС? В бюджетно-софтовых решениях, за все вычислительные вещи отвечает CPU (звук, рэйд, сеть) Хочешь - круто, апгрейди проц. Хочешь круто, но без участия CPU, докупай нужный контроллер, который свои операции замкнет на себе - все просто. ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 20:33 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
rahzerЯ, собственно, не могу понять - чему удивляется ТС? В бюджетно-софтовых решениях, за все вычислительные вещи отвечает CPU (звук, рэйд, сеть) Хочешь - круто, апгрейди проц. Хочешь круто, но без участия CPU, докупай нужный контроллер, который свои операции замкнет на себе - все просто.Так вроде поток небольшой, зачем советовать апгрейдить проц, не зная, сколько нужно? И до какого уровня апгрейдить, i3, или i7, или 4*Xeon, или кластер супердомов? Просто покупать новые и новые компы, пока не станут справляться? Современные CPU быстрые, Atom или даже ARM должен справиться с жалкими 300 мбит/сек. Смартфоны и домашние роутеры на ARM переваривают столько, и не жужжат, а Atom ещё быстрее. ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 23:23 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
КифирчикЕсть реализация ПО, "прототип", который на стареньком i5 650 легко хавает и 600мбит/сек, но как это поведет себя на атоме или селероне - большой вопрос. Кто-нибудь сталкивался с подобным? На вскидку, какая мощность процессора для этого нужна?На это может ответить только программист этой проги. Абстрактно для обработки такого потока хватит и атома, и селерона, достаточно посмотреть результаты тестов, например, на iXBT Но неизвестная прога для неизвестно какой обработки потока в 300 мбит/сек может требовать неизвестно каких ресурсов. Может, там на каждый принятый байт создаются классы, выделяется память менеджером, вызываются сборщики мусора и т.д.? :-) И вообще, тут известная штука - нужно посчитать, что дешевле, нанять нормального программиста или купить i7 вместо Atom-а ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 23:30 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Кифирчик, а почему, собственно, компьютер? мой современный чайнафон за $50 работает шустрее, чем 5-летний ноутбук. их даже НАСА использует для управления спутниками. ... |
|||
:
Нравится:
Не нравится:
|
|||
16.11.2016, 23:42 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
alexeyvgНа это может ответить только программист этой проги. Но неизвестная прога для неизвестно какой обработки потока в 300 мбит/сек может требовать неизвестно каких ресурсов. Может, там на каждый принятый байт создаются классы, выделяется память менеджером, вызываются сборщики мусора и т.д.? :-) Я как программист этой проги, могу сказать что кроме буферизации ни какой обработки там нет. И даже если выключить буферизацию и запись на диск - те же самые проблемы с потерей UDP пакетов на сокете. alexeyvgАбстрактно для обработки такого потока хватит и атома, и селерона, достаточно посмотреть результаты тестов, например, на iXBT К сожалению такая прикидка не оправдалась. сейчас пытаемся понять, это тормознутость .NET или есть более хитрые способы работы с сокетами. Но это тема другого форума. alexeyvg...на каждый принятый байт создаются классы... И вообще, тут известная штука - нужно посчитать, что дешевле, нанять нормального программиста или купить i7 вместо Atom-а ну вот так и есть, на каждый байт - 4 класса. сейчас считаем, то ли взять комп мощнее, то ли мне увольняться Х) ТиФорсмой современный чайнафон за $50 работает шустрее Добавлю... а вы присядьте, и гляньте цены на "промышленные компьютеры", и стоимость флеш дисков предназначенных для работы от -20°С. Я вот тоже думаю, какого черта? за что такие бабки? даже в 5-ти летнем смарфоне больше мощностей чем у компа кириосити. Почему на смартфонах не добавят пару гигабитных сетевых разъемов, не выведут на корпус всяких RS232, и желательно чтоб все разъемы были выведены в в rugged исполнении. Да, и чтоб чанафон запускался смело в -20°С. Ну и чтоб... годика два работал "наверняка". И чтоб не один Rugged ethernet разъем стоил 50 баксов, а весь комп ))) ТиФорсих даже НАСА использует для управления спутниками. Да да, именно спутниками!!! знаю, известная тема в НАСА, у всех стоит на смартфонах!!! ))))) ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 08:56 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
КифирчикДобавлю... а вы присядьте, и гляньте цены на "промышленные компьютеры", и стоимость флеш дисков предназначенных для работы от -20°С.Тут вопрос, это тиражное решение, т.е. таких компов будет много, или их будет несколько штук? Из этого можно понять, выгоднее купить железо, или оптимизировать. Кифирчикalexeyvg...на каждый принятый байт создаются классы... И вообще, тут известная штука - нужно посчитать, что дешевле, нанять нормального программиста или купить i7 вместо Atom-а ну вот так и есть, на каждый байт - 4 класса. сейчас считаем, то ли взять комп мощнее, то ли мне увольняться Х)Ну, я не говорю, что вы не в состоянии это сделать :-) Но понятно, что это дольше и дороже, чем налабать по быстрому. И согласитесь, человек с соотв. опытом сразу бы выбрал подходящую платформу и архитектуру :-) КифирчикК сожалению такая прикидка не оправдалась. Это же реальная работа реальных компьютеров, а не результаты каких то синтетических тестов или теоретических вычислений. Возьмите тест какого нибудь NAS на Atom-е Он по сети принимает поток, и раскладывает его по дискам (то, что вам и нужно), на скорости в сотни мегабайт/сек., т.е. быстрее вашей на порядок. Вот, например, на селеронах производительность упирается в гигабитный интерфейс: http://www.ixbt.com/storage/asustor-as1002t-as3202t.shtml http://www.ixbt.com/storage/qnap-ts-453mini.shtml А на i3 в 10 гигабитный http://www.ixbt.com/storage/thecus-n7770-10g.shtml Значит, можно? Кифирчиксейчас пытаемся понять, это тормознутость .NET или есть более хитрые способы работы с сокетами. Но это тема другого форума.Если "профайлер показывает 93% на системную функцию Recieve", ну, значит, это действительно проблема именно .NET, её сетевой библиотеки, а не вашего обрабатывающего/записывающего кода. Что сказать, делайте тесты, для начала простые, на приём (раз затык в получении потока), разными способами, выбирайте платформу. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 11:21 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
авторВот, например, на селеронах производительность упирается в гигабитный интерфейс: http://www.ixbt.com/storage/asustor-as1002t-as3202t.shtml http://www.ixbt.com/storage/qnap-ts-453mini.shtml А на i3 в 10 гигабитный http://www.ixbt.com/storage/thecus-n7770-10g.shtml Значит, можно? Объясню во второй раз, если CPU отвечает за все софтовую реализацию (сеть, рэйд и т.п.), как по Вашим же приведенным ссылкам - то там есть резон апгрейдить проц. Если есть ASIC (ну или дискретное решение), то проц уже не так важен. Для примера СХД НР MSA 1040 имеет на борту Селерон 1300, что не мешает при этом нести на каждом контроллере 2 порта 10Gb iSCSI или 2 порта 8Gb FC, потому что за сеть отвечают отдельные компоненты без задействия CPU. авторТак вроде поток небольшой, зачем советовать апгрейдить проц, не зная, сколько нужно? И до какого уровня апгрейдить, i3, или i7, или 4*Xeon, или кластер супердомов? Просто покупать новые и новые компы, пока не станут справляться? Включать профайлеры ПО разработки+перфмон ОС - думать, сравнивать, прикидывать. Либо эмпирическим путем) ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 12:25 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
alexeyvgЕсли "профайлер показывает 93% на системную функцию Recieve", ну, значит, это действительно проблема именно .NET, её сетевой библиотеки, а не вашего обрабатывающего/записывающего кода. +1. Receive как ожидающая функция должна занимать 99-100% времени. Вероятнее, всего, Вы ведёте обработку в том же потоке, что и приём, поэтому промежуток между вызовами recv() слишком велик и приходящие пакеты успевают переполнить системный буфер. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 13:13 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
rahzerОбъясню во второй раз, если CPU отвечает за все софтовую реализацию (сеть, рэйд и т.п.), как по Вашим же приведенным ссылкам - то там есть резон апгрейдить проц.Объясните в третий раз, зачем апгрейдить ЦПУ, если Целерона достаточно для задачи автора с 10 кратным запасом, как следует из приведённых мной ссылок? Вы мне что хотите сказать, что более производительные решения более производительны? Спасибо, но я это знал. Для чтения по сети 300 мбит и записи на диск не нужна высокоуровневая аппаратная поддержка, интеллектуальные сетевые контроллеры, аппаратные рейды с FPGA и т.д. Зачем пример про "СХД НР MSA 1040", у которого "2 порта 10Gb iSCSI или 2 порта 8Gb FC", если у автора 0.3 Gb, то есть в 70 (!) раз меньше? ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 13:19 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Кифирчик, А пакеты какого размера используются? 256 пакетов по 4 байта и один размером 1 КБайт - сильно разные вещи. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 13:23 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
авторТак вроде поток небольшой, зачем советовать апгрейдить проц, не зная, сколько нужно? Я где-то советовал апгрейдить бездумно? Вроде сразу сказал, что аппаратная обвязка - нет смысла, программная - есть смысл. авторДля чтения по сети 300 мбит и записи на диск не нужна высокоуровневая аппаратная поддержка, интеллектуальные сетевые контроллеры, аппаратные рейды с FPGA и т.д. Что же тогда у ТС на Атоме не получилось таких результатов? ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 13:33 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
rahzerЧто же тогда у ТС на Атоме не получилось таких результатов?Ну, прога так написана. А проги, которые на тестируемых iXBT системах, написаны по другому. rahzerЯ где-то советовал апгрейдить бездумно? Вроде сразу сказал, что аппаратная обвязка - нет смысла, программная - есть смысл. А я понял наоборот. Хочешь "круто", то есть достичь 300 мбит/сек, без потери пакетов - апгрейди железо. Я именно так понял ваш пост:rahzerЯ, собственно, не могу понять - чему удивляется ТС? В бюджетно-софтовых решениях, за все вычислительные вещи отвечает CPU (звук, рэйд, сеть) Хочешь - круто, апгрейди проц. Хочешь круто, но без участия CPU, докупай нужный контроллер, который свои операции замкнет на себе - все просто. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 13:44 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
miksoftКифирчик, А пакеты какого размера используются? 256 пакетов по 4 байта и один размером 1 КБайт - сильно разные вещи. пакеты чуток меньше MTU по вопросам программирования меня здесь воспитывают ))) присоединяйтесь ) Как я понимаю, на больших потоках потери UDP не избежать. Оптимизацией удалось снизить потери пакетов до ~15% на 175мбит/сек (на атоме). Подозреваю чтоб наверняка понять нужно переходить на TCP и копать исходники протокола NFS. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 15:38 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
Кифирчиккопать исходники протокола NFS.Если вы можете использовать NFS, так, может, на него и перейти? У нас как-то была попытка теста 10-гигабитного интерфейса. При закачке файлов по NFS при фактическом потоке 5 Гбит/с средненький i3 напрягался не так чтобы сильно и, по ощущениям, вытянул бы все 10 гигабит. А вам нужно в 15 раз меньше. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 15:54 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
miksoftКифирчиккопать исходники протокола NFS.Если вы можете использовать NFS, так, может, на него и перейти? У нас как-то была попытка теста 10-гигабитного интерфейса. При закачке файлов по NFS при фактическом потоке 5 Гбит/с средненький i3 напрягался не так чтобы сильно и, по ощущениям, вытянул бы все 10 гигабит. А вам нужно в 15 раз меньше. к сожалению именно копирование не получится. данные которые планируется писать - некоторая телеметрия в "поле" получаемая от "прибора". NFS - я подразумевал найти и посмотреть в исходниках как они реализовали такой быстрый прием пакетов и запись их на диск. Там наверняка какие-нибудь хитрости есть. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 16:11 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
КифирчикNFS - я подразумевал найти и посмотреть в исходниках как они реализовали такой быстрый прием пакетов и запись их на диск. Там наверняка какие-нибудь хитрости есть.Тогда, наверное, попроще будут исходники FTP, т.к. сам протокол попроще. ... |
|||
:
Нравится:
Не нравится:
|
|||
17.11.2016, 16:15 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
miksoftКифирчиккопать исходники протокола NFS.Если вы можете использовать NFS, так, может, на него и перейти? У нас как-то была попытка теста 10-гигабитного интерфейса. При закачке файлов по NFS при фактическом потоке 5 Гбит/с средненький i3 напрягался не так чтобы сильно и, по ощущениям, вытянул бы все 10 гигабит. А вам нужно в 15 раз меньше. Непоказательный пример. 10Gb интерфейс делает много чего offload а у мамы с 330 атомом может и ПДП нет. ... |
|||
:
Нравится:
Не нравится:
|
|||
18.11.2016, 00:46 |
|
Выбор компа для получения потока 300 мбит/сек его буферизации и записи на диск
|
|||
---|---|---|---|
#18+
В другой ветке форма, мне накидали тесты на максимальную скорость для UDP и TCP протокола, результаты на картинке. Среднее по трем замерам. Размер отправляемого пакета - 1024 байт. Компы стоят рядом соедены через гигабитный свитч. Еще можно добавить, что самый свежий атом E3815 (одно ядро), который быстрее чем 330й, на UDP тесте был загружен на 100%, 330й-менее 30%. Тесты максимально простые, задействованы только функции приема пакетов. По поводу NAS пообщался с коллегами... есть гипотеза, что в NAS ставятся "нормальные" сетевые контроллеры, на плате, которые берут на себя заметную часть обработки пакетов, а если сетевуха встроенная - то от части используется процессор. И на слабых компах это может быть очень заметно. Утвреждают что нормальная PCI-E сетвуха от Intel очень заметно разгружает процесор в системах где гоняется много сетевого трафика. То есть во многом рулит сетевой контроллер. Также есть подозрение, что NFS (который юзается при копировании файлов по сети), может использовать какие-то хитрые функции ОС/железа перекладывая данные на диск с высокой скоростью минуя процессор. Еще, есть сомнения, что те кто будет в итоге писать программу, будут искать и использовать "технологии" NFS, и будут как в этих функциях работать с TCP сокетом и буферизацией в памяти. То есть для таких технологий, производительность на приведенном железе можно считать потолком, и для этой задачи (получение 300мбит/сек) нужна платформа на базе не менее чем i3 5хххU, а лучше i5 5xxxU ... |
|||
:
Нравится:
Не нравится:
|
|||
18.11.2016, 11:59 |
|
|
start [/forum/topic.php?fid=30&msg=39347942&tid=1529126]: |
0ms |
get settings: |
10ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
154ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
61ms |
get tp. blocked users: |
1ms |
others: | 14ms |
total: | 275ms |
0 / 0 |