powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Java [игнор отключен] [закрыт для гостей] / Servlet 3.1 и timeout
25 сообщений из 38, страница 1 из 2
Servlet 3.1 и timeout
    #39348978
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Все привет
По форуму и в интернетах не нашел, если плохо искал, дайте ссылки

Следующая проблема.
используются servlet 3.1 на сервере tomcat.
необходимо ограничить максимальное время выполнение запроса, например в 500мс.
если запрос не успели за это время обработать, то слать стандартный ответ.

Подскажите как это правильно реализовать. есть у меня несколько мыслей. но пока все попахивает костылями ))
может спецификация предлагает какое-то стандартное решения для этого?

пример использования servlet (стандартный)

Код: java
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
public class SimpleAsyncServlet extends HttpServlet {
    @Override
    protected void doPost(HttpServletRequest req, HttpServletResponse resp)
            throws ServletException, IOException {
        AsyncContext asyncContext = req.startAsync(req, resp);
        Listener listener = new Listener(asyncContext);
        req.getInputStream().setReadListener(listener);
        resp.getOutputStream().setWriteListener(listener);
    }

    private class Listener implements ReadListener, WriteListener, AsyncListener {
        private final AsyncContext asyncContext;
        private final ServletInputStream inputStream;
        private final ServletOutputStream outputStream;

        public Listener(AsyncContext asyncContext) throws IOException {
            this.asyncContext = asyncContext;
            this.inputStream = asyncContext.getRequest().getInputStream();
            this.outputStream = asyncContext.getResponse().getOutputStream();
        }

        @Override
        public void onDataAvailable() throws IOException {
            // читаем данные из inputStream 
        }

        @Override
        public void onAllDataRead() throws IOException {
            // выполняем какие действия с данными, может выполняться долго
        }

        @Override
        public void onWritePossible() throws IOException {
            // пишем данные в outputStream 
            asyncContext.complete();
        }

        @Override
        public void onError(Throwable t) {
            // логируем ошибку
        }
    }
}
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39348999
забыл ник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Как вариант -
Запрос приходит в сервлет, там тупо разбираете параметры и запускаете асинхронную обработку в неком Future, вызываете блокирующий future.get(timeout), если результата нет - то стандартный ответ, если есть - то выплевываем его
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349012
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakможет спецификация предлагает какое-то стандартное решения для этого?
нужно в паре решать с клиентом.
Он ведь тоже может одной строкой))
Код: java
1.
$.ajaxSetup({timeout:500});
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349015
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakесли запрос не успели за это время обработать, то слать стандартный ответ.
может сразу асинхронный ответ? Чтоб не ждал?
Или это теория для школьников?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349043
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
забыл никКак вариант -
Запрос приходит в сервлет, там тупо разбираете параметры и запускаете асинхронную обработку в неком Future, вызываете блокирующий future.get(timeout), если результата нет - то стандартный ответ, если есть - то выплевываем его
Это получается отдельный пул потоков для обработки + блокировка текущего потока. Не кажется это избыточным?

Petro123Tivakможет спецификация предлагает какое-то стандартное решения для этого?
нужно в паре решать с клиентом.
Он ведь тоже может одной строкой))
Код: java
1.
$.ajaxSetup({timeout:500});


У нас нет доступа к клиенту. но мы точно знаем, что ответ, который придет позже 500 мс не имеет смысла. поэтому коннект можно спокойно закрывать со стандартным ответом.

Petro123Tivakесли запрос не успели за это время обработать, то слать стандартный ответ.
может сразу асинхронный ответ? Чтоб не ждал?
Или это теория для школьников?
Вот этого я не понял.

а про школьников как-то пристыдило немного (((
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349053
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
TivakУ нас нет доступа к клиенту. но мы точно знаем, что ответ, который придет позже 500 мс не имеет смысла. поэтому коннект можно спокойно закрывать со стандартным ответом.
просто согласовать это с клиентом.
Т.к. вы просто сделает двойную работу. "Не имеет смысла" - это БЛ. А бизнес логику надо согласовать с клиентом.
TivakВот этого я не понял.
сначала расскажите про Не имеет смвсла после 0,5 сек.
TivakНе кажется это избыточным?
можно сделать в фильтре. Там где вызывается сам сервлет.Т.е. перед ним.
навешаете на любой сервлет.
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349059
забыл ник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Petro123можно сделать в фильтре. Там где вызывается сам сервлет.Т.е. перед ним.
навешаете на любой сервлет.

Чем это поможет? Ответ нужен через 500 мс, успела выполниться логика - судесно, нет - слать стандартную ошибку, фильтр тут не при чем
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349070
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
TivakЭто получается отдельный пул потоков для обработки + блокировка текущего потока. Не кажется это избыточным?
Тут палка о двух концах. Можно сделать либо точно 500ms, либо в один поток. Но с одним потоком у вас нет шансов выдать точно 500ms, потому что за пределами 500ms - нужно распараллеливать. Один поток возвращает отклик, другой доводит запрос до ближайшей точки выхода.
Хотя это можно пропробовать оптимизировать, фоновую задачу вы выполняете тем же потоком что обработал запрос, а вот отклик возвращаете новым потоком только если не успели обработать запрос. Подозреваю что на асинхронных сервлетах можно это провернуть.

Но тут много вопросов уточнять надо. Что именно в эти 500ms происходит? Может у вас там блокирующая работа с БД, которую можно прервать. Тогда можно и в один поток решить, если 500ms не очень строгое требование.

Ещё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349073
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123,

согласовать с клиентом таймауты запроса не всегда возможно. да и странное это решение. клиентов может быть очень много и мы не имеем доступ ко всем клиентам.
про 500 мс. очень простой пример - курс на валютном рынке. если мы отдадим цену позже чем через 500 мс, то эта цена может быть уже не актуальной и лучше в этом случае сказать клиенту "извини", чем вводить в заблуждение ответом через 2-3-4 секунды.
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349078
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakпро 500 мс. очень простой пример - курс на валютном рынке. если мы отдадим цену позже чем через 500 мс, то эта цена может быть уже не актуальной и лучше в этом случае сказать клиенту "извини", чем вводить в заблуждение ответом через 2-3-4 секунды.
пример хороший. Но почему тогда даты-время нет в ответе курса?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349090
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
забыл никЧем это поможет? Ответ нужен через 500 мс,
т.е.
Код: java
1.
chain.doFilter(


должен только 500мс.
//Конечно можно спустить таймер и ответ пониже к БД или туда где тормозит.
Пусть сам решает.
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349101
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BlazkowiczХотя это можно пропробовать оптимизировать, фоновую задачу вы выполняете тем же потоком что обработал запрос, а вот отклик возвращаете новым потоком только если не успели обработать запрос. Подозреваю что на асинхронных сервлетах можно это провернуть.

Вот что-то такое и хочется сделать.
в servlet 3.0 есть механиз timeout и перехват событие при помощи AsyncListener. этот механиз конечно ничего не гарантирует, но делает то что хочется.
в servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext.
Это позволяет нам выполнить до конца onAllDataRead и залогировать результат (для анализа) при этом ответ клиенту мы пошлем не позже 500мс (не или примерно 500 мс)

BlazkowiczНо тут много вопросов уточнять надо. Что именно в эти 500ms происходит? Может у вас там блокирующая работа с БД, которую можно прервать. Тогда можно и в один поток решить, если 500ms не очень строгое требование.

Не будем вдаваться в подробности и пытаться полностью использовать возможности NIO. Произойти может все что угодно, поэтому считаем, что обработка запроса без блокирующих вызовов.

BlazkowiczЕщё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера?
почему же? сейчас нет необходимости лезть в недра.
сервлеты в данном сучае предоставляют все что необходимо для работы. нужно только понять как править сделать этот таймаут ))
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349103
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakв servlet 3.1 я ничего похожего не нашел
вмешиваться в работу контейнера типа:
Код: java
1.
this.Destroy()


очень странная задача (от программистов)
IMHO
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349108
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123забыл никЧем это поможет? Ответ нужен через 500 мс,
т.е.
Код: java
1.
chain.doFilter(


должен только 500мс.
//Конечно можно спустить таймер и ответ пониже к БД или туда где тормозит.
Пусть сам решает.
Я подумаю, но в целом решение решение похоже на то что я выше предложил, только на другом уровне.
и этот уровень нам не позволит корректировать время отклика в зависимости от содержимого запрос. пока это не требуется, но есть вероятность, что потребуется )
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349109
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123Tivakв servlet 3.1 я ничего похожего не нашел
вмешиваться в работу контейнера типа:
Код: java
1.
this.Destroy()


очень странная задача (от программистов)
IMHO
Вот и не хочется туда вмешиваться. хочется решить все это на уровне сервлета, причем красиво и правильно )))
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349111
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakв servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext.
посмотрел доку:
Код: java
1.
2.
3.
4.
5.
6.
7.
8.
9.
@WebServlet("/MyAsyncTestServlet" asyncSupported=true)
  public class TestServlet extends HttpServlet {
    public void doGet(HttpServletRequest req, HttpServletResponse res) {
      ...
      AsyncContext aCtx = request.startAsync(req, res);
      ScheduledThreadPoolExecutor executor = new ThreadPoolExecutor(10);
      executor.execute(new MyAsyncService(aCtx));
    }
  }


тут обратная задача.
Нужно вывести в ответ Долгую задачу.
А у тебя ответ не интересует).
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349112
Фотография Petro123
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivakпричем красиво
красиво выше сказано:
BlazkowiczЕщё меня в приципе смущает желание работать с сервлетами при таких своеобразных требованиях. Может работать с более низкоуровнывым API HTTP сервера?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349118
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivak,

Да, в приципе и на синхронных сервлетах должно работать. Идея такая:

Код: java
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
void doPost(Request req, Response resp) {    
    AtomicReference resultHolder = new AtomicReference();
    AtomicBoolean canceled = new AtomicBoolean();
    ScheduledFuture sf = scheduler.schedule(() -> {
          if(resultHolder.get() == null){
                canceled.set(true);
                respondWithTimeout(req, resp);
          }   
    }, 500, MILLISECONDS);
    Result result =  runProcessing(req, canceled);
    sf.cancel(false);
    if(!canceled.get()){
        resultHolder.set(result);
        respond(result);
    }
}



Надо только немного упростить и продумать синхронизацию. Можно ещё CompletableFuture притянуть за уши. Там вроде, что-то уже есть для реализации таймаута.
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349122
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Petro123Tivakв servlet 3.1 я ничего похожего не нашел. придумал пока только отслеживать время от вызова doPost, и если за 500мс onAllDataRead не завершил работу, то передавать в outputStream стандартный ответ и закрывать asyncContext.
посмотрел доку:
Код: java
1.
2.
3.
4.
5.
6.
7.
8.
9.
@WebServlet("/MyAsyncTestServlet" asyncSupported=true)
  public class TestServlet extends HttpServlet {
    public void doGet(HttpServletRequest req, HttpServletResponse res) {
      ...
      AsyncContext aCtx = request.startAsync(req, res);
      ScheduledThreadPoolExecutor executor = new ThreadPoolExecutor(10);
      executor.execute(new MyAsyncService(aCtx));
    }
  }


тут обратная задача.
Нужно вывести в ответ Долгую задачу.
А у тебя ответ не интересует).
Пока не понял о чем ты
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349127
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BlazkowiczTivak,

Да, в приципе и на синхронных сервлетах должно работать. Идея такая:

Код: java
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
void doPost(Request req, Response resp) {    
    AtomicReference resultHolder = new AtomicReference();
    AtomicBoolean canceled = new AtomicBoolean();
    ScheduledFuture sf = scheduler.schedule(() -> {
          if(resultHolder.get() == null){
                canceled.set(true);
                respondWithTimeout(req, resp);
          }   
    }, 500, MILLISECONDS);
    Result result =  runProcessing(req, canceled);
    sf.cancel(false);
    if(!canceled.get()){
        resultHolder.set(result);
        respond(result);
    }
}



Надо только немного упростить и продумать синхронизацию. Можно ещё CompletableFuture притянуть за уши. Там вроде, что-то уже есть для реализации таймаута.

ну да, примерно об этом я и говорил, только тут видимо sf.cancel(false) лишнее.
Похоже так и придется, раз в спеке 3.1 отказались от таймаутов
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349129
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivak,

А AsyncContext.setTimeout() никак вопрос не решает?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349139
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BlazkowiczTivak,

А AsyncContext.setTimeout() никак вопрос не решает?

Я тестировал и этот момент меня больше всего бесит в этом.
этот метод от спеки 3.0 и при использовании 3.1 он не работает, так же как и addListener

неужели они не могли эти 2 спеки полностью разнести, чтобы они не пересекались ?!?!?!
извините, крик души...
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349141
Фотография Blazkowicz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Tivak,

А точно ли в спеке дело? Может контейнер пошаливает?
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349142
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
TivakBlazkowiczTivak,

А AsyncContext.setTimeout() никак вопрос не решает?

Я тестировал и этот момент меня больше всего бесит в этом.
этот метод от спеки 3.0 и при использовании 3.1 он не работает, так же как и addListener

неужели они не могли эти 2 спеки полностью разнести, чтобы они не пересекались ?!?!?!
извините, крик души...

setTimeout и addListener работают при вызове asyncContext.start
...
Рейтинг: 0 / 0
Servlet 3.1 и timeout
    #39349145
Tivak
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BlazkowiczTivak,

А точно ли в спеке дело? Может контейнер пошаливает?

интересное предположение. попробую проверить.
...
Рейтинг: 0 / 0
25 сообщений из 38, страница 1 из 2
Форумы / Java [игнор отключен] [закрыт для гостей] / Servlet 3.1 и timeout
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]