Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Вот скажем загрузили в memory xml размером 10MB. Что будет более эффективно. Парсить его в 1 потоке или параллельно в нескольких? на данный момент развития ЭВМ, имхо в 1-м Ну а вообще мерить надо. Есть что мерить? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 17:46 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Вопрос в другом. Вот скажем загрузили в memory xml размером 10MB. Что будет более эффективно. Парсить его в 1 потоке или параллельно в нескольких? Вопрос действительно в другом. Вопрос куда дальше результаты разбора пойдут? Готово ли конечное хранилище (пусть даже промежуточный кэш) параллельно принимать распарсенные данные на бешенной скорости? Давай определимся сначала какая скорость есть и какая нужна. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:14 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
kealon(Ruslan)Ну а вообще мерить надо. Есть что мерить?Пока для меня это не актуально. Вот уже использую в своих проектах свою поделку вместо "Msxml2.DOMDocument.4.0". И совместимость полная и в скорости по крайней мере /проверил/ не уступает "Msxml2.DOMDocument.4.0". Пока мне этого достаточно. Кой какие начатые проекты подтяну и "расширю" функциональность DOM. Точнее не DOM, а как бы это сказать, вместе с DOM будет соседствовать и другая модель представления данных. При этом функциональность DOM не будет нарушена. Да много работы ... Многое уже было апробировано ранее /например при разработке binary three/ и предшествующий опыт использую в новых проектах. PS: У меня и в мыслях нет кого-то перещеголять. Щегольство - не мой удел. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:21 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Dima TГотово ли конечное хранилище (пусть даже промежуточный кэш) параллельно принимать распарсенные данные на бешенной скорости?Дима. Топик не предопределяет, что уже имеются проектные решения. Цель топика подискутировать на эту тему. Если у вас имеются предложения - милости просим /впрочем это касается всех и меня в т.ч./. Единственно что могу пока сказать - верю, что распаралелить парсинг можно. Кому это может пригодиться? В первую очередь google /конечно шутка/ высоконагруженным сайтам и ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:39 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Кому это может пригодиться? В первую очередь google /конечно шутка/ высоконагруженным сайтам и ... а если серьёзно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:44 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Единственно что могу пока сказать - верю, что распаралелить парсинг можно. С верой - это к свидетелям-чего-ни-попадя. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:47 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Dimitry SibiryakovС верой - это к свидетелям-чего-ни-попадя.Так вера подкреплена и опытом ... Конечно вы пошутили. Но все же какое ваше мнение по параллельному парсингу? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 19:56 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Единственно что могу пока сказать - верю, что распаралелить парсинг можно. С дуру можно и ... сам знаешь что. Распараллелил тут одним по их же просьбе, а их админы с претензией: "какого уха ты нам сервер ложишь?" Да, на 100% загрузил им все ядра на пару минут несколько раз в день, но сами ведь просили чтоб максимально быстро было однопоточно было ~10 минут, но остальное работало. Это я к тому действительно ли это нужно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:02 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Изопропила если серьёзно?Хорошо сделаю серьезный вид ... И так. Если бы не пришлось решать эту задачу, то /скорее всего/ она включала следующие этапы: - разработка алгоритма позволяющего перед сохранением xml "выделить" логические блоки; - предоставить программисту API для возможности "ручного" выделения логических блоков; Далее уже на основе предшествующих решений - разработать алгоритм параллельного парсинга. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:10 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Dima TЭто я к тому действительно ли это нужно.Из того, что вы сказали ИМХНО нужно предусмотреть возможность получения парсером свойств типа: - одно поточный или параллельный парсинг; - max количество задействованных процессоров и потоков; - режим фонового парсинга /чтобы парсинг не властвовал над всем и вся/. ... ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:15 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Конечно вы пошутили. Нет, я абсолютно серьёзен. И моё мнение по этому поводу я уже неоднократно озвучил выше. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:20 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Dimitry SibiryakovНет, я абсолютно серьёзен. И моё мнение по этому поводу я уже неоднократно озвучил выше.Уважаю ваше мнение. Предыдущие ваши messages мною были поняты, что у вас имеются ряд текстов не поддающих параллельному парсингу. Или в целом считаете, что параллельный парсинг xml не нужен? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:24 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Или в целом считаете, что параллельный парсинг xml не нужен? да. совсем не нужен. особенно на тяжелонагруженной сисеме - где ядра и так загружены. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:28 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Dima TЭто я к тому действительно ли это нужно.Из того, что вы сказали ИМХНО нужно предусмотреть возможность получения парсером свойств типа: - одно поточный или параллельный парсинг; - max количество задействованных процессоров и потоков; - режим фонового парсинга /чтобы парсинг не властвовал над всем и вся/. ... ... Я уже писал выше что подобные вещи пишутся "под заказ", можно наворотить все что угодно, но писать надо с нуля, не может быть супер быстрого парсера на все случаи жизни. Если важна скорость, то надо писать под конкретную задачу, а не универсально. Возможно кто-то написав 100500 супер-быстрых парсеров найдет их общее место, обобщит и сделает свой. Но этот путь надо сначала пройти, затем делиться результатом, а не наоборот сначала придумать решение, а потом ждать оценки эффективности его применения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:33 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Изопропилда. совсем не нужен. особенно на тяжелонагруженной сисеме - где ядра и так загружены.Исходя из вашего суждения, много чего нужно отменить и запретить ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:34 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Изопропилда. совсем не нужен. особенно на тяжелонагруженной сисеме - где ядра и так загружены.Исходя из вашего суждения, много чего нужно отменить и запретить ... где я предлагал отменять уже сделанное и тем более что-то запрещать? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:40 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Dima TНо этот путь надо сначала пройти, затем делиться результатом, а не наоборот сначала придумать решение, а потом ждать оценки эффективности его применения.Согласен с вами. Кому нужно будет тот обсуждать не будет, а возьмет и реализует. Вердикт из этого пока один - ждем решения от того кому это будет нужно. PS: Предшествующие ответы форумчан говорят об одном, что поднятый вопрос их или не интересует или не нужным. ИМХНО считаю, что далее "толочь в ступе" этот вопрос не зачем. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:42 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Изопропилгде я предлагал отменять уже сделанное и тем более что-то запрещать?Ваш ответ был понят мной так как сказано выше. Ведь вы говорили о высоко нагруженных системах, которые не следует перезагружать ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:47 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Благодарю всех за участие в обсуждении темы топика. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:51 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012Кому нужно будет тот обсуждать не будет, а возьмет и реализует. Вердикт из этого пока один - ждем решения от того кому это будет нужно. Неправильный вердикт. Если кому нужно не сможет, то обратиться - поможем, но нужна конкретная задача, а не оптимизация сферического коня в вакууме. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.12.2016, 20:54 |
|
||
|
Как распараллелить загрузку XML?
|
|||
|---|---|---|---|
|
#18+
Владимир2012, можно закрыть? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.12.2016, 00:40 |
|
||
|
|

start [/forum/topic.php?fid=57&msg=39375769&tid=2018337]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
82ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
60ms |
get tp. blocked users: |
2ms |
| others: | 15ms |
| total: | 207ms |

| 0 / 0 |
