powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Java [игнор отключен] [закрыт для гостей] / responsiveness vs throughput
25 сообщений из 31, страница 1 из 2
responsiveness vs throughput
    #39404369
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Чем собственно отличаются эти понятия?
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404375
забыл ник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
а гугл что думает?
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404377
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
забыл ника гугл что думает?
гугл говорит, что они обратны, но в concurrency in practice пишут, что нам надо добиться и того и того как будто мы это по разному долждны это делать
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404386
забыл ник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerгугл говорит, что они обратны,

Не всегда, но зачастую.

questioner но в concurrency in practice пишут, что нам надо добиться и того и того

Опять домыслы? Может не надо а хочется? А иногда на самом деле получается и то и другое.
questioner как будто мы это по разному долждны это делать
Ну вы сами себе противоречите, если это разные вещи то они и должны делаться по-разному?

В целом, стратегии достижения минимальной latency\максимального throughput действительно отличаются, иногда довольно сильно. В некоторых же случаях, можно улучшить и то и другое.

В общем вопрос опять из серии, прочитал что-то но не понял и не могу сформулировать.

На примере Java и GC - low latency сильно упирается в производительность GC, тут либо вообще добиться чтобы сборок не было(что почти нереально), либо не допускать STW-пауз блокирующих приложение надолго. В этом случае minor сборки будут работать почти постоянно, но быстро, сжирая нехилую часть CPU. Зато latency более-менее предсказуемый.
High throughput с другой стороны достигается методами "пакетной" обработки, нам не важна скорость, важно что ресурсы(CPU\память) будут расходоваться оптимально. Поэтому STW паузы допустимы, и они будут меньше кушать CPU.

Надо добавить, что Java в принципе не сильно хорошо подходит для low latency по своей архитектуре, сделать паузы менее 5-8 мкс практически невозможно
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404389
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerчто нам надо добиться и того и того как будто мы это по разному долждны это делать
цитата есть?
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404395
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Blazkowiczquestionerчто нам надо добиться и того и того как будто мы это по разному долждны это делать
цитата есть?

авторServer applications should exhibit both good throughput and good responsiveness under normal load. Application providers want applications to support as many users as possible, so as to reduce provisioning costs per user; users want to get their response quickly. Further, applications should exhibit graceful degradation as they become overloaded, rather than simply falling over under heavy load. Choosing good task boundaries, coupled with a sensible task execution policy, can help achieve these goals.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404396
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questioner,

ИМХО без четкого определения как мы хотим мерять одно и другое - обсуждать бесполезного. И если throughput ещё более менее можно обрисовать. То responsiveness, ИМХО, очень сильно зависит от решаемой задачи.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404397
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
забыл никHigh throughput с другой стороны достигается методами "пакетной" обработки, нам не важна скорость, важно что ресурсы(CPU\память) будут расходоваться оптимально. Поэтому STW паузы допустимы, и они будут меньше кушать CPU.
Есть мнение что старый добрый Serial GC выдаёт максимальную пропускную способность. Именно за счет того что responsiveness ему не важен.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404401
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerServer applications
Какой малозначительный нюанс. Правда? У нас, ведь, других не бывает?

questionershould exhibit both good throughput and good responsiveness under normal load. Application providers want applications to support as many users as possible, so as to reduce provisioning costs per user; users want to get their response quickly. Further, applications should exhibit graceful degradation as they become overloaded, rather than simply falling over under heavy load. Choosing good task boundaries, coupled with a sensible task execution policy, can help achieve these goals.
Ну, о том и речь, что для сервера важны оба "параметра". Клиенту нужна отзывчивость, а владельцу сервера - способность обслужить максимальное количество клиентов.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404404
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Blazkowicz,

ну не консольные же)) какие ещё есть. десктопные)

graceful degradation - как адекватно перевести?
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404412
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerну не консольные же)) какие ещё есть. десктопные)

А что не так с десктопными? О том-то и речь, что десктопным важна отзывчивость даже более чем серверным.
А есть ещё обработчики массивов данных, которым как раз отзывчивость и не важна и ей всегда можно пожертвовать ради производительности.

questionergraceful degradation - как адекватно перевести?
Что-то типа "постепенное ухудшение сервиса".
degradation - ухудшение качества
graceful - "элегантный" как альтернатива "резкому как понос" отказу в обслуживанию.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404798
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
а, понял, то есть при увеличении нагрузки в 2 раза время отклика не должно увеличиваться в 2 раза.

Я так понимаю обычно график совсем не линейный должен быть?
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404862
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerа, понял
Нет - не понял.
questioner, то есть при увеличении нагрузки в 2 раза время отклика не должно увеличиваться в 2 раза.
В идеальном сервере, при увеличении нагрузки в 2 раза, в качестве самого худшего сценария, время отклика должно увеличиваться в 2 раза.

В реальной жизни, если сервере работает на пределе нагрузки, то двухкратное повышение количества запросов приведёт к отказу. Задача разработчика - приблизить поведение сервера к идеалу.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404926
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Blazkowiczquestionerа, понял
Нет - не понял.
questioner, то есть при увеличении нагрузки в 2 раза время отклика не должно увеличиваться в 2 раза.
В идеальном сервере, при увеличении нагрузки в 2 раза, в качестве самого худшего сценария, время отклика должно увеличиваться в 2 раза.

В реальной жизни, если сервере работает на пределе нагрузки, то двухкратное повышение количества запросов приведёт к отказу. Задача разработчика - приблизить поведение сервера к идеалу.

Ну а как же масштабирование
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404928
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionerНу а как же масштабирование
А вот так же. Блин, спасибо вам что напоминаете откуда у меня желание перестать что либо здесь комментировать в принципе.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39404934
questioner
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Blazkowicz,

ну вот (
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39405996
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
questionergraceful degradation - как адекватно перевести?"Плавная деградация". Как контпример "резкой деградации".
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406032
Сергей Арсеньев
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Blazkowiczquestioner,

ИМХО без четкого определения как мы хотим мерять одно и другое - обсуждать бесполезного. И если throughput ещё более менее можно обрисовать. То responsiveness,
Это ж латентность отклика. Типа если тебе быстро говорят - погоди не до тебя. Это высокая отзывчивость, но низкая производительность. Если же на оборот спросил что-то, а тебе в ответ тишина...
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406036
Сергей Арсеньев
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
BlazkowiczЕсть мнение что старый добрый Serial GC выдаёт максимальную пропускную способность.Если ядро одно. А так, вроде-бы parallel copying collector по производительней считается.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406038
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Сергей АрсеньевЭто ж латентность отклика.
ОК. Что такое "латентность отклика" в абстрактном Java приложении? Про то что приложение, оказывается, многопользовательский сервер на тот момент указано не было.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406043
Сергей Арсеньев
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
BlazkowiczСергей АрсеньевЭто ж латентность отклика.
ОК. Что такое "латентность отклика" в абстрактном Java приложении?
Пользователь мышкой шмык, а оно как вжик.
Ну или: На Ваш запрос отвечаем - будем готовы не раньше чем через три часа, идут регламентные работы, загляните попозже.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406047
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Сергей АрсеньевПользователь мышкой шмык, а оно как вжик.
Ну или: На Ваш запрос отвечаем - будем готовы не раньше чем через три часа, идут регламентные работы, загляните попозже.
В абстрактном приложении нет пользователя, мышки и UI.
Есть один слой или уровень, а есть другой. Так вот латентность она и меряется от одного к другому. И в конкретном приложении стоит сначала определиться где конкретно мы хотим её мерять.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406054
Сергей Арсеньев
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
BlazkowiczЕсть один слой или уровень, а есть другой. Так вот латентность она и меряется от одного к другому.
Не. Латентность меряется от поступления задачи (неважно от кого или чего) до первого отклика. Собственно это и есть время отклика. А производительность это количество решенных задач в единицу времени.
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406058
Сергей Арсеньев
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
В частности когда говорят о GC иногда мешают теплое с мягким.
А именно латентность своей программки (потому, что ко времени отклика приходится порой добавлять время Stop The World) и производительность GC (как много мусора он вынес).
И начинается переливание из пустого в порожнее...
...
Рейтинг: 0 / 0
responsiveness vs throughput
    #39406060
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Сергей АрсеньевВ частности когда говорят о GC иногда мешают теплое с мягким.
А именно латентность своей программки (потому, что ко времени отклика приходится порой добавлять время Stop The World) и производительность GC (как много мусора он вынес).
И начинается переливание из пустого в порожнее...
Бинго! Я ведь о том же.
...
Рейтинг: 0 / 0
25 сообщений из 31, страница 1 из 2
Форумы / Java [игнор отключен] [закрыт для гостей] / responsiveness vs throughput
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]