powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / C++ [игнор отключен] [закрыт для гостей] / Как распараллелить загрузку XML?
22 сообщений из 122, страница 5 из 5
Как распараллелить загрузку XML?
    #39375483
kealon(Ruslan)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Вот скажем загрузили в memory xml размером 10MB.
Что будет более эффективно.
Парсить его в 1 потоке или параллельно в нескольких?
на данный момент развития ЭВМ, имхо в 1-м
Ну а вообще мерить надо. Есть что мерить?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375545
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Вопрос в другом.
Вот скажем загрузили в memory xml размером 10MB.
Что будет более эффективно.
Парсить его в 1 потоке или параллельно в нескольких?
Вопрос действительно в другом. Вопрос куда дальше результаты разбора пойдут? Готово ли конечное хранилище (пусть даже промежуточный кэш) параллельно принимать распарсенные данные на бешенной скорости?

Давай определимся сначала какая скорость есть и какая нужна.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375553
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kealon(Ruslan)Ну а вообще мерить надо. Есть что мерить?Пока для меня это не актуально.
Вот уже использую в своих проектах свою поделку вместо "Msxml2.DOMDocument.4.0".
И совместимость полная и в скорости по крайней мере /проверил/ не уступает "Msxml2.DOMDocument.4.0".
Пока мне этого достаточно.

Кой какие начатые проекты подтяну и "расширю" функциональность DOM.
Точнее не DOM, а как бы это сказать, вместе с DOM будет соседствовать и другая модель представления данных.
При этом функциональность DOM не будет нарушена.

Да много работы ...
Многое уже было апробировано ранее /например при разработке binary three/ и предшествующий опыт
использую в новых проектах.

PS: У меня и в мыслях нет кого-то перещеголять.
Щегольство - не мой удел.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375565
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dima TГотово ли конечное хранилище (пусть даже промежуточный кэш) параллельно принимать распарсенные данные на бешенной скорости?Дима.
Топик не предопределяет, что уже имеются проектные решения.
Цель топика подискутировать на эту тему.
Если у вас имеются предложения - милости просим /впрочем это касается всех и меня в т.ч./.
Единственно что могу пока сказать - верю, что распаралелить парсинг можно.

Кому это может пригодиться?
В первую очередь google /конечно шутка/ высоконагруженным сайтам и ...
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375569
Фотография Изопропил
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Кому это может пригодиться?
В первую очередь google /конечно шутка/ высоконагруженным сайтам и ...
а если серьёзно?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375570
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Единственно что могу пока сказать - верю, что распаралелить парсинг можно.

С верой - это к свидетелям-чего-ни-попадя.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375573
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry SibiryakovС верой - это к свидетелям-чего-ни-попадя.Так вера подкреплена и опытом ...
Конечно вы пошутили.
Но все же какое ваше мнение по параллельному парсингу?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375580
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Единственно что могу пока сказать - верю, что распаралелить парсинг можно.
С дуру можно и ... сам знаешь что.

Распараллелил тут одним по их же просьбе, а их админы с претензией: "какого уха ты нам сервер ложишь?" Да, на 100% загрузил им все ядра на пару минут несколько раз в день, но сами ведь просили чтоб максимально быстро было однопоточно было ~10 минут, но остальное работало.

Это я к тому действительно ли это нужно.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375587
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Изопропила если серьёзно?Хорошо сделаю серьезный вид ...

И так.
Если бы не пришлось решать эту задачу, то /скорее всего/ она включала следующие этапы:
- разработка алгоритма позволяющего перед сохранением xml "выделить" логические блоки;
- предоставить программисту API для возможности "ручного" выделения логических блоков;

Далее уже на основе предшествующих решений - разработать алгоритм параллельного парсинга.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375595
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dima TЭто я к тому действительно ли это нужно.Из того, что вы сказали ИМХНО нужно предусмотреть возможность получения парсером свойств типа:
- одно поточный или параллельный парсинг;
- max количество задействованных процессоров и потоков;
- режим фонового парсинга /чтобы парсинг не властвовал над всем и вся/.
...
...
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375596
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Конечно вы пошутили.
Нет, я абсолютно серьёзен. И моё мнение по этому поводу я уже неоднократно озвучил выше.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375598
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry SibiryakovНет, я абсолютно серьёзен. И моё мнение по этому поводу я уже неоднократно озвучил выше.Уважаю ваше мнение.
Предыдущие ваши messages мною были поняты, что у вас имеются ряд текстов не поддающих параллельному парсингу.
Или в целом считаете, что параллельный парсинг xml не нужен?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375601
Фотография Изопропил
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Или в целом считаете, что параллельный парсинг xml не нужен?
да. совсем не нужен.

особенно на тяжелонагруженной сисеме - где ядра и так загружены.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375604
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Dima TЭто я к тому действительно ли это нужно.Из того, что вы сказали ИМХНО нужно предусмотреть возможность получения парсером свойств типа:
- одно поточный или параллельный парсинг;
- max количество задействованных процессоров и потоков;
- режим фонового парсинга /чтобы парсинг не властвовал над всем и вся/.
...
...
Я уже писал выше что подобные вещи пишутся "под заказ", можно наворотить все что угодно, но писать надо с нуля, не может быть супер быстрого парсера на все случаи жизни. Если важна скорость, то надо писать под конкретную задачу, а не универсально.

Возможно кто-то написав 100500 супер-быстрых парсеров найдет их общее место, обобщит и сделает свой. Но этот путь надо сначала пройти, затем делиться результатом, а не наоборот сначала придумать решение, а потом ждать оценки эффективности его применения.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375605
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Изопропилда. совсем не нужен.

особенно на тяжелонагруженной сисеме - где ядра и так загружены.Исходя из вашего суждения, много чего нужно отменить и запретить ...
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375606
Фотография Изопропил
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Изопропилда. совсем не нужен.

особенно на тяжелонагруженной сисеме - где ядра и так загружены.Исходя из вашего суждения, много чего нужно отменить и запретить ...
где я предлагал отменять уже сделанное и тем более что-то запрещать?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375608
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dima TНо этот путь надо сначала пройти, затем делиться результатом, а не наоборот сначала придумать решение, а потом ждать оценки эффективности его применения.Согласен с вами.
Кому нужно будет тот обсуждать не будет, а возьмет и реализует.
Вердикт из этого пока один - ждем решения от того кому это будет нужно.

PS: Предшествующие ответы форумчан говорят об одном, что поднятый вопрос их или не интересует или не нужным.
ИМХНО считаю, что далее "толочь в ступе" этот вопрос не зачем.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375613
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Изопропилгде я предлагал отменять уже сделанное и тем более что-то запрещать?Ваш ответ был понят мной так как сказано выше.
Ведь вы говорили о высоко нагруженных системах, которые не следует перезагружать ...
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375617
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Благодарю всех за участие в обсуждении темы топика.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375619
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012Кому нужно будет тот обсуждать не будет, а возьмет и реализует.
Вердикт из этого пока один - ждем решения от того кому это будет нужно.
Неправильный вердикт. Если кому нужно не сможет, то обратиться - поможем, но нужна конкретная задача, а не оптимизация сферического коня в вакууме.
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375715
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Владимир2012, можно закрыть?
...
Рейтинг: 0 / 0
Как распараллелить загрузку XML?
    #39375769
Владимир2012
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
maytonВладимир2012, можно закрыть?Нужно!

у меня просьба к вам - присекать тех кто флудит, пальцы топырит и ... /вариации на тему/.
Форум - дискуссия, а не выпендривание и хамство.
...
Рейтинг: 0 / 0
22 сообщений из 122, страница 5 из 5
Форумы / C++ [игнор отключен] [закрыт для гостей] / Как распараллелить загрузку XML?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]