powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Java [игнор отключен] [закрыт для гостей] / Уменьшение трафика при загрузке html
20 сообщений из 20, страница 1 из 1
Уменьшение трафика при загрузке html
    #39269553
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Читаем, парсим сайт.
Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей.
Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю).
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269573
am_sasa
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
JDS,

Подозреваю, что HttpURLConnection за "огромные скрипты" не полезет.
На сервер влиять не получится ИМХО
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269584
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
am_sasaПодозреваю, что HttpURLConnection за "огромные скрипты" не полезет.
На сервер влиять не получится ИМХО
Что значит не полезет?
Вот и тоже уверен, что не получится конечно
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269603
am_sasa
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
JDS,

а, ну если в тексте, то дело дрянь...
я имел ввиду если скрипт подключен ссылкой
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269607
забыл ник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ну во-первых использовать HttpURLConnection вместо HTTPClient или JSoup это мощно. Во-вторых единственное что можно сделать это выставить заголовок что ты accept gzip и вычитывать сжатый контент через GzipInputStream
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269754
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSЧитаем, парсим сайт.
Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей.
Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю).
Эта оптимизация натолько странная что лучше ей вообще не заниматься ибо выгоды мало.

Вобщем всё упирается в тип сервера и его возможности. Ты может запросить HTTP Range header

http://stackoverflow.com/questions/3303029/http-range-header

и проверить код ошибки. Если ты точно знаешь что твой полезный
контент начинаеися с такого-то смещения байтов то делаешь "перемотку".

Не уверен что это сработает для динамического контента но вобщем нужно
пробовать.

Скорее всего это будет опциональная возможность. Не 100%.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269765
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mayton,
действительно странная оптимизация.
JDS дай пример сайта.
Движок эксплорера загружает сайт в потоках за n секунд.
Сначала выключи JS и посмотри, будет ли сайт отображаться корректно. Есть ведь динамический контент.
Как вариант можно не загружать картинки.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269803
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123действительно странная оптимизация.
JDS дай пример сайта.
Движок эксплорера загружает сайт в потоках за n секунд.
Сначала выключи JS и посмотри, будет ли сайт отображаться корректно. Есть ведь динамический контент.
Как вариант можно не загружать картинки.
Пример не могу дать, мопед не мой )
Насчет выключи JS, дин. контента и картинок, то речь же не о браузере, который сначала грузит страницу и потом начинает выполнять скрипты по onload-у например, подгружать параллельно картинки по ссылкам и тд.
Я просто запрашиваю html-страничку, получаю ее, но вопрос не в скорости загрузки, а в трафике.
Когда дергаешь тысячи страниц в день набегает неск гиг трафика, это как минимум, не очень гуманно )
И когда авторы сайта запихивают килобайтовые скрипты в страницу, то... ну молодцы конечно, ибо нефиг )
забыл никну во-первых использовать HttpURLConnection вместо HTTPClient или JSoup это мощно. Во-вторых единственное что можно сделать это выставить заголовок что ты accept gzip и вычитывать сжатый контент через GzipInputStream
Вот это интересно. Спасибо. Поищу. Хорошо, если найдутся примеры.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269805
Фотография grasoff.net
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSЧитаем, парсим сайт.
Использую HttpURLConnection с чтением из потока в буфер ну и на выходе получаем строку с html-страницей.
Вопрос. Есть ли возможность как-то уменьшить трафик, если на странице например есть огромные скрипты, которые нам вообще не нужны? Может есть некий вариант, чтобы сервер с их стороны отправлял страницу в некоем сжатом виде (сам понимаю, что маловероятно, но вдруг чего-то не знаю). textise
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269817
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSКогда дергаешь тысячи страниц в день набегает неск гиг трафика, это как минимум, не очень гуманно )

А фильмы когда смотрят в HD в онлайне? Там поболее набегает.

Вообще что за канал у тебя? ASDL-модем чтоли?
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269849
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
grasoff.net , не понял. И что? ) Там же в html все равно те же самые скрипты прилетели.
maytonА фильмы когда смотрят в HD в онлайне? Там поболее набегает.
Вообще что за канал у тебя? ASDL-модем чтоли?
Канал вполне вменяемый (повторяю, вопрос не в скорости), но фильмы - это фильмы, ты смотришь их дома на безлимитном интернете с фиксированной абон.платой, там главное, чтобы скорость пропускала и смотришь не круглосуточно )
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269861
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSПример не могу дать, мопед не мой )
странный. Аналог большого сайта из инета не можем привести?
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269868
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSЯ просто запрашиваю html-страничку, получаю ее
возьми с SQL-ru и покажи. Она у тебя без доп закачки скриптов, картинок и CSS?
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269900
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123Возьми с SQL-ru и покажи. Она у тебя без доп закачки скриптов, картинок и CSS?
Не втыкаю ) При чем доп закачка картинок и css?
Разве при запросе страницы через тот же HttpURLConnection он по цепочке, сам подкачивает еще и все картинки и css?
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269902
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSРазве при запросе страницы через тот же HttpURLConnection
не юзал)).
Я вас спрашиваю пример контента который вы собрались фильтровать. Может это нерешаемая задача в принципе.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269907
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123Я вас спрашиваю пример контента который вы собрались фильтровать.
А я и говорю, что примера под рукой нет, но описанная ситуация точно есть. Ну и решение подсказали уже - gzip.
Только, что не везде поддерживается походу )
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269921
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSНе втыкаю ) При чем доп закачка картинок и css?
Разве при запросе страницы через тот же HttpURLConnection он по цепочке, сам подкачивает еще и все картинки и css?
Подожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять!
Он не умеет подкачивать dependencies!

Он просто возвращяет тебе fucken InputStream и дальше ты сам его парсишь и принимаешь решения о том
что еще докачивать и какое активное содержимое исполнять.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269925
JDS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторПодожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять!
Он не умеет подкачивать dependencies!
Так об этом и говорю. В общем тему можно закрыть. gzip.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39269929
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDSавторПодожди-подожди! Какая цепочка? HttpURLConnection - это не fucken-браузер! Он не умеет javascrip исполнять!
Он не умеет подкачивать dependencies!
Так об этом и говорю. В общем тему можно закрыть. gzip.
Ну и слава богу.
...
Рейтинг: 0 / 0
Уменьшение трафика при загрузке html
    #39270016
Фотография grasoff.net
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JDS grasoff.net , не понял. И что? ) Там же в html все равно те же самые скрипты прилетели.не нашёл ни одного, относящегося к sql.ru
...
Рейтинг: 0 / 0
20 сообщений из 20, страница 1 из 1
Форумы / Java [игнор отключен] [закрыт для гостей] / Уменьшение трафика при загрузке html
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]