Basil A. SidorovВо-первых асинхронная обработка в Servlet API появилась для того, чтобы не работать с потокам там, где может быть череповато.
Поэтому непонятно, что делает new Thread() в вашем коде.
Во-вторых, асинхронная обработка должна быть или
диспетчеризирована запрос или
явно завершена .
В-третьих, HTTP предусматривает три значения тайм-аутов:
1. До получения строки запроса - секунды;
2. До получения всего заголовка - (две-три) минуты;
3. При чтении тела запроса или записи ответа - десять-пятнадцать минут.
С какого перепугу выставлены отбалдянские три секунды - совершенно непонятно.
Поэтому непонятно, что делает new Thread() в вашем коде.
Ну в таком упрошенном примере это можно понимать как:
замыкание , у вас есть рул потоков в сервлете и каждый пользователь берет из этого пула по потоку вызывая при этом генерацию отчета - долгая операция ... по умолчанию в jetty из 200
<Set name="maxThreads">200</Set>
т.е если придет 201 пользователь , он либо попалдает в очередь ArrayBlockingQueue (6000) либо получает 500.
создавая внутри потока сервлета новый тред - мы тем самым освобождаем тред сервлета.
тут конечно вопрос :
когда работа в новом треде будет закончена , через что этот контектст возвращает результат и как он это делает ? через себя или через пул сервлета ???
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
<Configure id="Server" class="org.eclipse.jetty.server.Server">
<Set name="ThreadPool">
<New class="org.eclipse.jetty.util.thread.QueuedThreadPool">
<!-- specify a bounded queue -->
<Arg>
<New class="java.util.concurrent.ArrayBlockingQueue">
<Arg type="int">6000</Arg>
</New>
</Arg>
<Set name="minThreads">10</Set>
<Set name="maxThreads">200</Set>
<Set name="detailedDump">false</Set>
</New>
</Set>
</Configure>
Во-вторых, асинхронная обработка должна быть или запрос или явно завершена
context.complete();
1. До получения строки запроса - секунды;
2. До получения всего заголовка - (две-три) минуты;
3. При чтении тела запроса или записи ответа - десять-пятнадцать минут.
С какого перепугу выставлены отбалдянские три секунды - совершенно непонятно
просто не хочу ждать по несколько минут ... чтобы проверить работоспособность искусственно занизил время
логика приложения должна быть такая : к примеру если клиент не получил ответ в течении 3 секунд - он на стороне js = должен оборвать соединение , тоже самое должен сдлеать и сервер - если он е успел за 3 секунда обработать запрос- он должен прекратить его выполнение выполнить context.complete(); и вернуть 500 ... итд
возможно код сильно странно выглядит , но для того чтобы разобраться без всяких эффектов самое то :
могу переписать в таком виде : где будет очередь BlockingQueue
и один тред трудяга - который эту очередь будет разбирать ...
или можно заменить его на
private final static ExecutorService executorService = Executors.newFixedThreadPool(2);
Было :
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
@WebServlet(urlPatterns = "/BlockingServlet")
public class BlockingServlet extends HttpServlet {
private static final long serialVersionUID = 1L;
protected void doGet(HttpServletRequest request,
HttpServletResponse response) throws ServletException, IOException {
try {
long start = System.currentTimeMillis();
Thread.sleep(new Random().nextInt(2000));
String name = Thread.currentThread().getName();
long duration = System.currentTimeMillis() - start;
response.getWriter().printf("Thread %s completed the task in %d ms.", name, duration);
} catch (Exception e) {
throw new RuntimeException(e.getMessage(), e);
}
}
стало
1.
2.
3.
4.
5.
6.
7.
8.
@WebServlet(asyncSupported = true, value = "/AsyncServlet")
public class AsyncServlet extends HttpServlet {
private static final long serialVersionUID = 1L;
protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
Work.add(request.startAsync());
}
}
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
44.
45.
public class Work implements ServletContextListener {
private static final BlockingQueue queue = new LinkedBlockingQueue();
private volatile Thread thread;
public static void add(AsyncContext c) {
queue.add(c);
}
@Override
public void contextInitialized(ServletContextEvent servletContextEvent) {
thread = new Thread(new Runnable() {
@Override
public void run() {
while (true) {
try {
Thread.sleep(2000);
AsyncContext context;
while ((context = queue.poll()) != null) {
try {
ServletResponse response = context.getResponse();
response.setContentType("text/plain");
PrintWriter out = response.getWriter();
out.printf("Thread %s completed the task", Thread.currentThread().getName());
out.flush();
} catch (Exception e) {
throw new RuntimeException(e.getMessage(), e);
} finally {
context.complete();
}
}
} catch (InterruptedException e) {
return;
}
}
}
});
thread.start();
}
@Override
public void contextDestroyed(ServletContextEvent servletContextEvent) {
thread.interrupt();
}
}
Смысл асинхронности :
в системе с одной стороны на предприятии сидит более 200 человек и они шлют запросы на генерацию отчетов - к cерверу jetty
jetty - выступает клиентов (внутри создается http post запрос к серверу отчетов) ... выяснилось - что сервер отчетов не может работать в многопоточном режиме :(
что делать ?
можно было бы обойтись без асинхронности :
как было раньше
так же ставить все запросы в очередь , а обрабатывать их в один поток ...
а с клиента делать пулинг - готов отчето или нет ... такой ddos jetty /
мне показалось что лучше уж пусть клиент повисит немного в очереди и посмотрит процесс выполнения запроса ... чем будет слать запросы
как было сделано :
на клиента стоит скрипт и по кнопке идут запросы к url дай отчет в цикле ...
сервер возвращает либо жди ...либо готово ...
1.
2.
3.
4.
5.
6.
7.
@RequestMapping(value="/user/report")
@Transactional(readOnly = false)
public void report(HttpServletRequest request, HttpServletResponse response) throws IOException {
User user = userService.getCurrent();
ReportResult result = reportHolder.report(user);
response.getWriter().print(result.toString());
}
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
private static final long UPDATE_INTERVAL = 5 * 1000;
private final ConcurrentHashMap<Long, ReportResult>reportCache = new ConcurrentHashMap<Long, ReportResult>();
public ReportResult report(final User user) {
dropExpired();
if (reportCache.containsKey(user.getId()))
return reportCache.get(user.getId());
ReportResult pending = ReportResult.pending(Long.parseLong(user.getLogin()));
ReportResult actualReportResult = reportCache.putIfAbsent(user.getId(), pending);
if (actualReportResult == null) {
executorService.submit(new Callable<ReportResult>() {
public AccountResult call() throws Exception {
ReportResult report = service.getUserReport(user);
reportCache.put(user.getId(), report);
return report;
}
});
}
if (actualReportResult == null) {
actualReportResult = pending;
}
return actualReportResult;
}
как так ... где ReportResult report = service.getUserReport(user); получение отчета .
0FDAtum1
https://docs.oracle.com/javaee/6/api/javax/servlet/AsyncContext.html#start(java.lang.Runnable)
1.
context.start(() -> {...});
если просто пихать туда созданный тред
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
34.
35.
@RequestMapping("/hellot")
public void hellot(HttpServletRequest request, HttpServletResponse response) {
final AsyncContext context = request.startAsync();
context.setTimeout(3000);
context.start(() -> {
try {
ServletResponse res = context.getResponse();
res.setContentType("text/plain");
PrintWriter out = res.getWriter();
for (int i = 0; i < 10; i++) {
out.write(i + " " + Thread.currentThread().getName() + String.format(" random : %s\n", Math.random()));
out.flush();
Thread.sleep(1000);
}
out.write("Done\n");
out.flush();
} catch (Exception e) {
} finally {
//try {
context.complete();
//} catch (Exception e) {
// System.out.println(e);
// }
}
});
}
то будет тот же эффект - при явно меньшем таймауте чем сам процесс работы ... только имена тредов будут другие из какого то пула
