|
|
|
Самый быстрый html парсер
|
|||
|---|---|---|---|
|
#18+
Добрый день всем Стоит задача парсить несколько десятков сайтов (на каждом сайте очень много страниц) Есть некие временные рамки в которые мне нужно вложится при парсенге. Тож нужен самый шустрый html парсер: - быстро парсит - извлекает только то, что нужно из страницы, остальное в память не грузит (как SAX- парсер) - коннект на сайт делается только раз, потом надсылаются только http запросы (по аналогии как с java Sockets) В сети говорят то что хорошые парсеры это Jsoup и Jaunt Но в меня такое подозрение что они сразу парсят весь документ (как DOM-парсер), а не то что мне нужно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.03.2015, 15:20 |
|
||
|
Самый быстрый html парсер
|
|||
|---|---|---|---|
|
#18+
denis111111Добрый день всем Стоит задача парсить несколько десятков сайтов (на каждом сайте очень много страниц) Есть некие временные рамки в которые мне нужно вложится при парсенге. Тож нужен самый шустрый html парсер: - быстро парсит - извлекает только то, что нужно из страницы, остальное в память не грузит (как SAX- парсер) - коннект на сайт делается только раз, потом надсылаются только http запросы (по аналогии как с java Sockets) В сети говорят то что хорошые парсеры это Jsoup и Jaunt Но в меня такое подозрение что они сразу парсят весь документ (как DOM-парсер), а не то что мне нужно. Сначала надо убедиться, что именно парсинг будет проблемой, а не сетевой запрос. А потом уже переходить с удобного DOM на потоковый (или как его правильно). Jsoup позволяет грузить очень большие сайты (с миллионами страниц) и не быть узким местом. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.03.2015, 15:37 |
|
||
|
Самый быстрый html парсер
|
|||
|---|---|---|---|
|
#18+
Alexey Tomin, Спасибо за ответ. Буду смотреть Jsoup. Alexey TominСначала надо убедиться, что именно парсинг будет проблемой, а не сетевой запрос. Это тоже) Alexey TominА потом уже переходить с удобного DOM на потоковый (или как его правильно). Но есть ли такие готовые парсеры? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.03.2015, 15:47 |
|
||
|
|

start [/forum/topic.php?fid=59&tid=2125643]: |
0ms |
get settings: |
8ms |
get forum list: |
14ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
137ms |
get topic data: |
12ms |
get forum data: |
2ms |
get page messages: |
41ms |
get tp. blocked users: |
1ms |
| others: | 211ms |
| total: | 430ms |

| 0 / 0 |
