|
|
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
Читаем, парсим сайт. Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей. Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 11:31 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDS, Подозреваю, что HttpURLConnection за "огромные скрипты" не полезет. На сервер влиять не получится ИМХО ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 11:45 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
am_sasaПодозреваю, что HttpURLConnection за "огромные скрипты" не полезет. На сервер влиять не получится ИМХО Что значит не полезет? Вот и тоже уверен, что не получится конечно ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 11:53 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDS, а, ну если в тексте, то дело дрянь... я имел ввиду если скрипт подключен ссылкой ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 12:14 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
ну во-первых использовать HttpURLConnection вместо HTTPClient или JSoup это мощно. Во-вторых единственное что можно сделать это выставить заголовок что ты accept gzip и вычитывать сжатый контент через GzipInputStream ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 12:19 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSЧитаем, парсим сайт. Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей. Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю). Эта оптимизация натолько странная что лучше ей вообще не заниматься ибо выгоды мало. Вобщем всё упирается в тип сервера и его возможности. Ты может запросить HTTP Range header http://stackoverflow.com/questions/3303029/http-range-header и проверить код ошибки. Если ты точно знаешь что твой полезный контент начинаеися с такого-то смещения байтов то делаешь "перемотку". Не уверен что это сработает для динамического контента но вобщем нужно пробовать. Скорее всего это будет опциональная возможность. Не 100%. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 13:45 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
mayton, действительно странная оптимизация. JDS дай пример сайта. Движок эксплорера загружает сайт в потоках за n секунд. Сначала выключи JS и посмотри, будет ли сайт отображаться корректно. Есть ведь динамический контент. Как вариант можно не загружать картинки. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 13:55 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
Petro123действительно странная оптимизация. JDS дай пример сайта. Движок эксплорера загружает сайт в потоках за n секунд. Сначала выключи JS и посмотри, будет ли сайт отображаться корректно. Есть ведь динамический контент. Как вариант можно не загружать картинки. Пример не могу дать, мопед не мой ) Насчет выключи JS, дин. контента и картинок, то речь же не о браузере, который сначала грузит страницу и потом начинает выполнять скрипты по onload-у например, подгружать параллельно картинки по ссылкам и тд. Я просто запрашиваю html-страничку, получаю ее, но вопрос не в скорости загрузки, а в трафике. Когда дергаешь тысячи страниц в день набегает неск гиг трафика, это как минимум, не очень гуманно ) И когда авторы сайта запихивают килобайтовые скрипты в страницу, то... ну молодцы конечно, ибо нефиг ) забыл никну во-первых использовать HttpURLConnection вместо HTTPClient или JSoup это мощно. Во-вторых единственное что можно сделать это выставить заголовок что ты accept gzip и вычитывать сжатый контент через GzipInputStream Вот это интересно. Спасибо. Поищу. Хорошо, если найдутся примеры. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:24 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSЧитаем, парсим сайт. Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей. Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю). textise ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:25 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSКогда дергаешь тысячи страниц в день набегает неск гиг трафика, это как минимум, не очень гуманно ) А фильмы когда смотрят в HD в онлайне? Там поболее набегает. Вообще что за канал у тебя? ASDL-модем чтоли? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:29 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
grasoff.net , не понял. И что? ) Там же в html все равно те же самые скрипты прилетели. maytonА фильмы когда смотрят в HD в онлайне? Там поболее набегает. Вообще что за канал у тебя? ASDL-модем чтоли? Канал вполне вменяемый (повторяю, вопрос не в скорости), но фильмы - это фильмы, ты смотришь их дома на безлимитном интернете с фиксированной абон.платой, там главное, чтобы скорость пропускала и смотришь не круглосуточно ) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:45 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSПример не могу дать, мопед не мой ) странный. Аналог большого сайта из инета не можем привести? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:51 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSЯ просто запрашиваю html-страничку, получаю ее возьми с SQL-ru и покажи. Она у тебя без доп закачки скриптов, картинок и CSS? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 14:53 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
Petro123Возьми с SQL-ru и покажи. Она у тебя без доп закачки скриптов, картинок и CSS? Не втыкаю ) При чем доп закачка картинок и css? Разве при запросе страницы через тот же HttpURLConnection он по цепочке, сам подкачивает еще и все картинки и css? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:15 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSРазве при запросе страницы через тот же HttpURLConnection не юзал)). Я вас спрашиваю пример контента который вы собрались фильтровать. Может это нерешаемая задача в принципе. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:17 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
Petro123Я вас спрашиваю пример контента который вы собрались фильтровать. А я и говорю, что примера под рукой нет, но описанная ситуация точно есть. Ну и решение подсказали уже - gzip. Только, что не везде поддерживается походу ) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:24 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSНе втыкаю ) При чем доп закачка картинок и css? Разве при запросе страницы через тот же HttpURLConnection он по цепочке, сам подкачивает еще и все картинки и css? Подожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять! Он не умеет подкачивать dependencies! Он просто возвращяет тебе fucken InputStream и дальше ты сам его парсишь и принимаешь решения о том что еще докачивать и какое активное содержимое исполнять. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:38 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
авторПодожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять! Он не умеет подкачивать dependencies! Так об этом и говорю. В общем тему можно закрыть. gzip. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:40 |
|
||
|
Уменьшение трафика при загрузке html
|
|||
|---|---|---|---|
|
#18+
JDSавторПодожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять! Он не умеет подкачивать dependencies! Так об этом и говорю. В общем тему можно закрыть. gzip. Ну и слава богу. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.07.2016, 15:43 |
|
||
|
|

start [/forum/topic.php?fid=59&msg=39269929&tid=2123916]: |
0ms |
get settings: |
9ms |
get forum list: |
19ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
54ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
75ms |
get tp. blocked users: |
1ms |
| others: | 209ms |
| total: | 386ms |

| 0 / 0 |
