|
|
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Все привет По форуму и в интернетах не нашел, если плохо искал, дайте ссылки Следующая проблема. используются servlet 3.1 на сервере tomcat. необходимо ограничить максимальное время выполнение запроса, например в 500мс. если запрос не успели за это время обработать, то слать стандартный ответ. Подскажите как это правильно реализовать. есть у меня несколько мыслей. но пока все попахивает костылями )) может спецификация предлагает какое-то стандартное решения для этого? пример использования servlet (стандартный) Код: java 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41. 42. 43. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 12:14 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Как вариант - Запрос приходит в сервлет, там тупо разбираете параметры и запускаете асинхронную обработку в неком Future, вызываете блокирующий future.get(timeout), если результата нет - то стандартный ответ, если есть - то выплевываем его ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 12:39 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakможет спецификация предлагает какое-то стандартное решения для этого? нужно в паре решать с клиентом. Он ведь тоже может одной строкой)) Код: java 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 12:47 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakесли запрос не успели за это время обработать, то слать стандартный ответ. может сразу асинхронный ответ? Чтоб не ждал? Или это теория для школьников? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 12:49 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
забыл никКак вариант - Запрос приходит в сервлет, там тупо разбираете параметры и запускаете асинхронную обработку в неком Future, вызываете блокирующий future.get(timeout), если результата нет - то стандартный ответ, если есть - то выплевываем его Это получается отдельный пул потоков для обработки + блокировка текущего потока. Не кажется это избыточным? Petro123Tivakможет спецификация предлагает какое-то стандартное решения для этого? нужно в паре решать с клиентом. Он ведь тоже может одной строкой)) Код: java 1. У нас нет доступа к клиенту. но мы точно знаем, что ответ, который придет позже 500 мс не имеет смысла. поэтому коннект можно спокойно закрывать со стандартным ответом. Petro123Tivakесли запрос не успели за это время обработать, то слать стандартный ответ. может сразу асинхронный ответ? Чтоб не ждал? Или это теория для школьников? Вот этого я не понял. а про школьников как-то пристыдило немного ((( ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:07 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
TivakУ нас нет доступа к клиенту. но мы точно знаем, что ответ, который придет позже 500 мс не имеет смысла. поэтому коннект можно спокойно закрывать со стандартным ответом. просто согласовать это с клиентом. Т.к. вы просто сделает двойную работу. "Не имеет смысла" - это БЛ. А бизнес логику надо согласовать с клиентом. TivakВот этого я не понял. сначала расскажите про Не имеет смвсла после 0,5 сек. TivakНе кажется это избыточным? можно сделать в фильтре. Там где вызывается сам сервлет.Т.е. перед ним. навешаете на любой сервлет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:17 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123можно сделать в фильтре. Там где вызывается сам сервлет.Т.е. перед ним. навешаете на любой сервлет. Чем это поможет? Ответ нужен через 500 мс, успела выполниться логика - судесно, нет - слать стандартную ошибку, фильтр тут не при чем ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:21 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
TivakЭто получается отдельный пул потоков для обработки + блокировка текущего потока. Не кажется это избыточным? Тут палка о двух концах. Можно сделать либо точно 500ms, либо в один поток. Но с одним потоком у вас нет шансов выдать точно 500ms, потому что за пределами 500ms - нужно распараллеливать. Один поток возвращает отклик, другой доводит запрос до ближайшей точки выхода. Хотя это можно пропробовать оптимизировать, фоновую задачу вы выполняете тем же потоком что обработал запрос, а вот отклик возвращаете новым потоком только если не успели обработать запрос. Подозреваю что на асинхронных сервлетах можно это провернуть. Но тут много вопросов уточнять надо. Что именно в эти 500ms происходит? Может у вас там блокирующая работа с БД, которую можно прервать. Тогда можно и в один поток решить, если 500ms не очень строгое требование. Ещё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:28 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123, согласовать с клиентом таймауты запроса не всегда возможно. да и странное это решение. клиентов может быть очень много и мы не имеем доступ ко всем клиентам. про 500 мс. очень простой пример - курс на валютном рынке. если мы отдадим цену позже чем через 500 мс, то эта цена может быть уже не актуальной и лучше в этом случае сказать клиенту "извини", чем вводить в заблуждение ответом через 2-3-4 секунды. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:30 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakпро 500 мс. очень простой пример - курс на валютном рынке. если мы отдадим цену позже чем через 500 мс, то эта цена может быть уже не актуальной и лучше в этом случае сказать клиенту "извини", чем вводить в заблуждение ответом через 2-3-4 секунды. пример хороший. Но почему тогда даты-время нет в ответе курса? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:34 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
забыл никЧем это поможет? Ответ нужен через 500 мс, т.е. Код: java 1. должен только 500мс. //Конечно можно спустить таймер и ответ пониже к БД или туда где тормозит. Пусть сам решает. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:44 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
BlazkowiczХотя это можно пропробовать оптимизировать, фоновую задачу вы выполняете тем же потоком что обработал запрос, а вот отклик возвращаете новым потоком только если не успели обработать запрос. Подозреваю что на асинхронных сервлетах можно это провернуть. Вот что-то такое и хочется сделать. в servlet 3.0 есть механиз timeout и перехват событие при помощи AsyncListener. этот механиз конечно ничего не гарантирует, но делает то что хочется. в servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext. Это позволяет нам выполнить до конца onAllDataRead и залогировать результат (для анализа) при этом ответ клиенту мы пошлем не позже 500мс (не или примерно 500 мс) BlazkowiczНо тут много вопросов уточнять надо. Что именно в эти 500ms происходит? Может у вас там блокирующая работа с БД, которую можно прервать. Тогда можно и в один поток решить, если 500ms не очень строгое требование. Не будем вдаваться в подробности и пытаться полностью использовать возможности NIO. Произойти может все что угодно, поэтому считаем, что обработка запроса без блокирующих вызовов. BlazkowiczЕщё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера? почему же? сейчас нет необходимости лезть в недра. сервлеты в данном сучае предоставляют все что необходимо для работы. нужно только понять как править сделать этот таймаут )) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:52 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakв servlet 3.1 я ничего похожего не нашел вмешиваться в работу контейнера типа: Код: java 1. очень странная задача (от программистов) IMHO ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 13:56 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123забыл никЧем это поможет? Ответ нужен через 500 мс, т.е. Код: java 1. должен только 500мс. //Конечно можно спустить таймер и ответ пониже к БД или туда где тормозит. Пусть сам решает. Я подумаю, но в целом решение решение похоже на то что я выше предложил, только на другом уровне. и этот уровень нам не позволит корректировать время отклика в зависимости от содержимого запрос. пока это не требуется, но есть вероятность, что потребуется ) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:01 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123Tivakв servlet 3.1 я ничего похожего не нашел вмешиваться в работу контейнера типа: Код: java 1. очень странная задача (от программистов) IMHO Вот и не хочется туда вмешиваться. хочется решить все это на уровне сервлета, причем красиво и правильно ))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:03 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakв servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext. посмотрел доку: Код: java 1. 2. 3. 4. 5. 6. 7. 8. 9. тут обратная задача. Нужно вывести в ответ Долгую задачу. А у тебя ответ не интересует). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:06 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakпричем красиво красиво выше сказано: BlazkowiczЕщё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:07 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivak, Да, в приципе и на синхронных сервлетах должно работать. Идея такая: Код: java 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. Надо только немного упростить и продумать синхронизацию. Можно ещё CompletableFuture притянуть за уши. Там вроде, что-то уже есть для реализации таймаута. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:18 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123Tivakв servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext. посмотрел доку: Код: java 1. 2. 3. 4. 5. 6. 7. 8. 9. тут обратная задача. Нужно вывести в ответ Долгую задачу. А у тебя ответ не интересует). Пока не понял о чем ты ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:23 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
BlazkowiczTivak, Да, в приципе и на синхронных сервлетах должно работать. Идея такая: Код: java 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. Надо только немного упростить и продумать синхронизацию. Можно ещё CompletableFuture притянуть за уши. Там вроде, что-то уже есть для реализации таймаута. ну да, примерно об этом я и говорил, только тут видимо sf.cancel(false) лишнее. Похоже так и придется, раз в спеке 3.1 отказались от таймаутов ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:27 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivak, А AsyncContext.setTimeout() никак вопрос не решает? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:27 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
BlazkowiczTivak, А AsyncContext.setTimeout() никак вопрос не решает? Я тестировал и этот момент меня больше всего бесит в этом. этот метод от спеки 3.0 и при использовании 3.1 он не работает, так же как и addListener неужели они не могли эти 2 спеки полностью разнести, чтобы они не пересекались ?!?!?! извините, крик души... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:36 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivak, А точно ли в спеке дело? Может контейнер пошаливает? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:38 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
TivakBlazkowiczTivak, А AsyncContext.setTimeout() никак вопрос не решает? Я тестировал и этот момент меня больше всего бесит в этом. этот метод от спеки 3.0 и при использовании 3.1 он не работает, так же как и addListener неужели они не могли эти 2 спеки полностью разнести, чтобы они не пересекались ?!?!?! извините, крик души... setTimeout и addListener работают при вызове asyncContext.start ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:38 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
BlazkowiczTivak, А точно ли в спеке дело? Может контейнер пошаливает? интересное предположение. попробую проверить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:40 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
TivakПока не понял о чем ты я о том что асинхронный сервлет для другой задачи. Не твоей. Там асинхронный подпроцесс (твой долгий) потом сам отвечает клиенту. Так понятно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:40 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
суть метода (не для вас): авторПосле набора этого адреса в адресной строке браузера, подождите 10 секунд, и вы увидите ответ сервлета. http://www.studfiles.ru/preview/1701994/page:78/ Удачи аффтару! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 14:45 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123TivakПока не понял о чем ты я о том что асинхронный сервлет для другой задачи. Не твоей. Там асинхронный подпроцесс (твой долгий) потом сам отвечает клиенту. Так понятно? использование асинхронности и время обработки на сервере не связаны напрямую. Вопрос в том, сколько коннектов хочется держать одновременно и сколько потоков понадобится для их обработки. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 15:05 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivakиспользование асинхронности и время обработки на сервере не связаны напрямую. Я сказал для каких юз-кейсов (ВИ) используется технология. Перевести? TivakВопрос в том, сколько коннектов хочется держать одновременно и сколько потоков понадобится для их обработки. "коннектов" - это слово почему всплыло на второй странице? ... IMHO вы как программист сами себе придумали задачу. Покажите ответ на клиента. В каком формате? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 15:23 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123Покажите ответ на клиента. В каком формате? Код: java 1. Т.к. если вы передаёте JSON или другой формат, то там будет метка времени, и при желании дельта по времени ответа в миллисекундах. И тогда сабж не имеет смысла. IMHO ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.11.2016, 15:31 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Итак, рассказываю, что в итоге сделал с servlet 3.1 так и не удалось найти нормального решения. Все решения сводились к тому, что приходится запускать обработку в отдельном потоке, а поток контейнера лочить. что само по себе не правильно. В идеале надо было решение, чтобы запускать обработку в отдельном потоке, а при готовности или таймауте инициировать событие записи. но как это правильно сделать я не нашел. в итоге откатился к servlet 3.0 проверил работу встроенного механизма timeout на tomcat 9. по моим тестам они ничего не гарантирует, даже приблизительно, при цифрах в 100мс. Поэтому сделал таймаут при помощи отложенного запуска потока + написал простенький контроль состояния асинхронного контекста. посмотрим как это себя покажет в будущем. Жаль что на текущем этапе пришлось отказаться от неблокирующего io ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2016, 17:30 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivak, вывод такой, что задача у тебя странная. А не сервлеты. Tivakс servlet 3.1 так и не удалось найти нормального решения. Все решения сводились к тому, что приходится запускать обработку в отдельном потоке, а поток контейнера лочить. что само по себе не правильно. В идеале надо было решение, чтобы запускать обработку в отдельном потоке, а при готовности или таймауте инициировать событие записи. но как это правильно сделать я не нашел. представь себе, что сервлет - это обычный поток А Значит при старте обычного потока А тебе надо через секундомер(Б) вырубить поток А и вместо него отправить ответ. Т.е. лезть в контейнер. Мыши пищали, но ели кактус (с) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2016, 17:46 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123Tivak, вывод такой, что задача у тебя странная. А не сервлеты. Tivakс servlet 3.1 так и не удалось найти нормального решения. Все решения сводились к тому, что приходится запускать обработку в отдельном потоке, а поток контейнера лочить. что само по себе не правильно. В идеале надо было решение, чтобы запускать обработку в отдельном потоке, а при готовности или таймауте инициировать событие записи. но как это правильно сделать я не нашел. представь себе, что сервлет - это обычный поток А Значит при старте обычного потока А тебе надо через секундомер(Б) вырубить поток А и вместо него отправить ответ. Т.е. лезть в контейнер. Мыши пищали, но ели кактус (с) вот не согласен. мне не надо никуда лезть в контейнер. просто или я успел обработать запрос и отдать ответ или не успел обработать запрос и отдал стандартный ответ. не вижу тут вылезание из контейнеров. почему хотелось использовать именно не блокирующее io? а чтобы не блокировать потоки, в случае проблем при передаче (например). опять же в идеале потом задача сведется к ожиданию ответов из внешних систем (из бд например или других сервисов). соответственно нам для этого всего не нужен на каждый запрос отдельный поток. поток нужен только для приема сообщения, формирования запроса к бд, обработки ответа от бд и ответа внешнему клиенту. нет никаких ожиданий. Но на данный момент это все мечты. К которым надеюсь вернемся в будущем))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2016, 17:59 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Tivak, Давай конкретнее. Выше было про поток А и поток Б. Это понятно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2016, 18:51 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Petro123Tivak, Давай конкретнее. Выше было про поток А и поток Б. Это понятно? В общих чертах так и получилось. servlet стартует поток А и отложено стартует поток Б. если в момент старта потока Б поток А отработал и отправил ответ, то все хорошо, он ничего не делает. если же поток А все еще работает, то поток Б отправляет ответ клиенту. Я тут нигде в недра контейнера не залез ))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.11.2016, 20:27 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Тему можно закрывать ) Решение было найдено и реализовано. если найду как правильно реализовать задуманное на servlet 3.1 то обязательно отпишусь в этой теме. Всем спасибо за помощь!!!! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.11.2016, 20:30 |
|
||
|
Servlet 3.1 и timeout
|
|||
|---|---|---|---|
|
#18+
Что-то я недопонял. В Servlet API 3.0 есть что-то, чего нет в Servlet API 3.1? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.11.2016, 20:37 |
|
||
|
|

start [/forum/topic.php?all=1&fid=59&tid=2123467]: |
0ms |
get settings: |
9ms |
get forum list: |
16ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
157ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
87ms |
get tp. blocked users: |
2ms |
| others: | 200ms |
| total: | 490ms |

| 0 / 0 |
