|
|
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Добрый день. Есть Tomcat 9. Есть примерно N REST сервисов, каждое из которых - отдельное веб-приложение. Все эти N сервисов задеплоены на один томкат. Есть один инстанс Postgres. Сейчас каждое из REST-приложений использует свой экземпляр ConnectionPool. Предположим, каждый пул резервирует M -соединений. Поэтому, может оказаться такая картина, что даже без нагрузки на web-приложения, в памяти будет удерживаться N * M idle-соединений. Либо другая ситуация: веб-приложение A будет более высоконагруженное, чем приложение B. В этом случае - ресурсы (connections) приложения B будут простаивать. Мне кажется, лучше использовать общий пул, на весь tomcat. И каждое из приложений будет его использовать (например через JNDI). Не будет ли в данном решении узких мест? Тоесть, еще раз резюмируя главный вопрос: Что лучше - отдельный ConnectionPool для каждого веб-приложения, либо общий пул на все? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:10 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirage, Что мешает сделать пул на каждое приложение + minIdleConnections = 0? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:16 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
А что делать нехардкод уже религия запрещает... Сделаете нехардкод,---чтоб можно было переключатся и так и так. Ведь речь идёт о строке JNDI... А на практике увидите ,что лучше. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:17 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
У вас у каждого модуля свой пул внутри реализован? В любом случае есть смысл вынести конфигурацию в Tomcat. Общий пул проще мониторить и конфигурировать. Но если нужен какому-то модулю особой конфиг, ничего не мешает прописать 2 пула или больше. Так же, на сколько я понимаю, Tomcat позволяет и любую реализацию пула подсунуть. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:29 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
BlazkowiczУ вас у каждого модуля свой пул внутри реализован? У каждого модуля одинаковая конфигурация пула. Используется одинаковая БД. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:31 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageУ каждого модуля одинаковая конфигурация пула. Используется одинаковая БД. В Context.xml? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:35 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageBlazkowiczУ вас у каждого модуля свой пул внутри реализован? У каждого модуля одинаковая конфигурация пула. Используется одинаковая БД. Просто каждый модуль держит открытым свой инстанс пула. Конфиг пула для каждого модуля примерно такой: Код: java 1. 2. 3. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:35 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Не знаю насчет PostgreSQL, но в Oracle Thin JDBC по умолчанию кешируются запарсенные Prepared Statement'ы... т.ч. пихать все в один пул - не очень хорошая идея. Повторное использование будет сведено к 0. Правда не очень понятно, насколько оно вообще оправдано, кроме того, что жрет оперативную память В общем "не все так однозначно" ( C ) IMHO & AFAIK ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:36 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
BlazkowiczunicornmirageУ каждого модуля одинаковая конфигурация пула. Используется одинаковая БД. В Context.xml? Нет, модули не используют конфиг из context.xml, а создают пул программно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 12:37 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageМне кажется, лучше использовать общий пул, на весь tomcat. И каждое из приложений будет его использовать (например через JNDI). да вроде нет никаких противопоказаний. JNDI он и в африке JNDI ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 13:30 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Petro123unicornmirageМне кажется, лучше использовать общий пул, на весь tomcat. И каждое из приложений будет его использовать (например через JNDI). да вроде нет никаких противопоказаний. JNDI он и в африке JNDI Есть один аргумент против такого подхода - microservice architecture. Если будет общий пул на все REST-сервисы, то при его переполнении - все выйдут из строя. Если будет каждый пул на каждый REST-сервис - то выйдет из строя только одно (самое высоконагруженное) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 13:32 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageЕсть один аргумент против такого подхода - microservice architecture. ====== это страшилка из 2-х слов которую никто не видел Если будет общий пул на все REST-сервисы, то при его переполнении - все выйдут из строя. ==== не смешите. Вам 10т. соединений хватит? Нет? Тогда давайте цифры. Если будет каждый пул на каждый REST-сервис - то выйдет из строя только одно (самое высоконагруженное) ==== см.выше. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 13:34 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
no56892unicornmirage, Что мешает сделать пул на каждое приложение + minIdleConnections = 0? по-умолчанию этот параметр итак равен 0, согласно исходникам GenericObjectPool: public static final int DEFAULT_MIN_IDLE = 0; ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:18 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Если будет общий пул на все REST-сервисы, то при его переполнении - все выйдут из строя. Если будет каждый пул на каждый REST-сервис - то выйдет из строя только одно (самое высоконагруженное) +1 Выше я уже говорил, когда много пулов может быть полезно. Например Oracle Thin JDBC и его методика кеширования statement'ов (менялась от версии к версии). По факту, в результате подхода "один пул на все приложения", кэшь просто набирает дофига мусора и съедает дофига ОП. На Oracle Customer Care & Billing пришлось долго корячится с настройками и перебрать кучу версий Oracle Thin JDBC, что бы хоть как-то зажило и перестало вылезать Out Of Memory.... ((( ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:25 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
лично я делаю обычно так: в томкэт объявляем один пул Код: xml 1. 2. 3. для каждого приложения конфигурируем ссылку на него (я это делаю в Catalina/host_name/context_name.xml) Код: xml 1. 2. как только общего пула начинает по какой-то причине не хватать или не устраивает, создаем новый ресурс и меняем ссылку на него. все ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:27 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageЕсть один аргумент против такого подхода - microservice architecture. Если будет общий пул на все REST-сервисы, то при его переполнении - все выйдут из строя. Если будет каждый пул на каждый REST-сервис - то выйдет из строя только одно (самое высоконагруженное) У вас все модули в одной JVM крутятся. Что нивелирует все вышеперечисленные аргументы. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:27 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
BlazkowiczunicornmirageЕсть один аргумент против такого подхода - microservice architecture. Если будет общий пул на все REST-сервисы, то при его переполнении - все выйдут из строя. Если будет каждый пул на каждый REST-сервис - то выйдет из строя только одно (самое высоконагруженное) У вас все модули в одной JVM крутятся. Что нивелирует все вышеперечисленные аргументы. Потому что узким местом здесь будет JVM, tomcat? можно поподробнее, почему нивелирует? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:29 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageможно поподробнее, почему нивелирует? Переполнение памяти одним модулем - все умрут. Повышенная нагрузка на один модуль - все тормозят. Поэтому достижение потолка соединений в пуле, это лишь одна из не многих потенциальных проблем. Микросервисы же это отдельные процессы. Они на много более независимы чем JEE модули. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 14:35 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Blazkowiczunicornmirageможно поподробнее, почему нивелирует? Переполнение памяти одним модулем - все умрут. Повышенная нагрузка на один модуль - все тормозят. Поэтому достижение потолка соединений в пуле, это лишь одна из не многих потенциальных проблем. Микросервисы же это отдельные процессы. Они на много более независимы чем JEE модули. Ок, предположим проблем с переполнением самой памяти нет. А существует только проблема переполнения connection pool (ведь мы указываем для него лимит соединеий). В данном случае - пул будет узким местом. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 15:35 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirage, ..."Жениться или не жениться - вот в чём вопрос. А если жениться, то куда девать нынешнюю жену?" )) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 16:19 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Petro123unicornmirage, ..."Жениться или не жениться - вот в чём вопрос. А если жениться, то куда девать нынешнюю жену?" )) другими словами - в данном случае - надо использовать то, что удобнее. )) По-поводу проблемы с idle-соединениями: я попробовал задать следующие параметры для пула: setMaxActive = 30 setMaxIdle = 10 setInitialSize = 10 setTimeBetweenEvictionRunsMillis = 30000 setMinEvictableIdleTimeMillis = 60000 Такая конфирурация включает pool sweeper. И получилась такая картина: 1. стартует сервис. При первом обращении выделяется 10 idle-connections в пуле. 2. если немного подождать (пару минут), то все idle-connections удаляются из пула. 3. если загрузить сервис кучей запросов, то пул вырастает согласно необходимому количеству, которое требуется для обработки. 4. если снова подождать пару минут - пул снова полностью очищается. Кажется, это то, что нужно. И в данном случае не обязательно использовать общий пул на весь томкат. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 16:27 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageИ в данном случае не обязательно использовать общий пул на весь томкат. из за того что один пул или на каждое приложение, разница будет не такая очевидная. Не такая очевидная чтобы ломать и переписывать. У вас всё работает. Плюсы минусы расссмотрели). Удачи! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 16:40 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageВ данном случае - пул будет узким местом.Ох уж это решение проблем, которые ещё даже не обозначились ... Вам какая разница будет к базе тысяча подключение из одного пула или тысяча подключений из десяти пулов??? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 18:42 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Basil A. SidorovunicornmirageВ данном случае - пул будет узким местом.Ох уж это решение проблем, которые ещё даже не обозначились ... Вам какая разница будет к базе тысяча подключение из одного пула или тысяча подключений из десяти пулов??? Разница обозначена в начальном топике: если будет тысяча подключений из десяти пулов, и одна часть пулов будет менее загружена, чем другая - то часть idle-connections (из менее нагруженных пулов) не будет использоваться. Тоесть будут просто вхолостую висеть в памяти. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 21:05 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirage, Почему вы все не конкретно? Сколько байт в памяти занимает простаивающий коннект? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 21:45 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Может приложение выгружать если оно простаивает? Коннект 2байта, а приложение в миллион раз больше. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 21:49 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Petro123unicornmirage, Почему вы все не конкретно? Сколько байт в памяти занимает простаивающий коннект? Вот статистика только одного пула (с помощью программы pg_top): PID USERNAME PRI NICE SIZE RES STATE TIME WCPU CPU COMMAND 10020 postgres 20 0 208M 9648K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57165) idle 10019 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57164) idle 10017 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57162) idle 10015 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57160) idle 10018 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57163) idle 10016 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57161) idle 10014 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57159) idle 10012 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57157) idle 10013 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57158) idle 10011 postgres 20 0 208M 7472K sleep 0:00 0.00% 0.00% postgres: postgres db1 127.0.0.1(57156) idle Если на томкате поднять все 10 приложений, то pg_top будет показывать 100 idle-connections. Я эту проблему решил, включив опции пула для pool sweeper. Который после некоторого времени бездействия, удаляет все idle-connections. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.07.2016, 21:58 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageЕсли на томкате поднять все 10 приложений, то pg_top будет показывать 100 idle-connections. Это, что проблема? Для чего нужны эти простаивающие? Чтобы быстро обслужить появившийся запрос не занимаясь оверхедом на открытие/закрытие соединения. Это основная функция пула. А дальше по простой арифметике. БД настроена на 1000 соединений. Есть 10 приложений. а) делим по 100 на приложения и получаем, что то приложение, которое массово что-то делает в основном висит на ожиданиях освободившегося соединения, зато все остальные приложения работают в штатном режиме и используется всего ~110 соединений из 1000. б) даем все один пул на 100 соединений. Если нагруженному приложению хватает 990 соединений то оно отрабатывает быстрее и остальные приложения работают в штатном режиме. Если же ему не хватает и надо гораздо больше, то все приложения начинают висеть на ожиданиях соединения. Ну и всякие плюсы-минусы в качестве премиальных (переоткрытие свободных соединений если замечена смерть сервера и переезд на новый узел и т.п.). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 12:32 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
б) даем все один пул на 1000 соединений. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 12:33 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Сергей АрсеньевДля чего нужны эти простаивающие? ему они не нравились после определённого времени. Например, тем что висят через час полсе бездействия авторКоторый после некоторого времени бездействия ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 13:08 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Я бы придерживался следующей схемы - общий пул, но помимо общего ограничения на максимальное количество соединений в пуле я бы ограничил возможность каждого приложения. Например, 3 приложения, каждому нужно примерно 10, всего 30 соединений, но каждое отдельно взятое может использовать не более 15 (реальные цифры конечно же корректируются под реальный профиль нагрузки). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 13:17 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
unicornmirageесли будет тысяча подключений из десяти пулов, и одна часть пулов будет менее загружена, чем другая - то часть idle-connections (из менее нагруженных пулов) не будет использоваться. Тоесть будут просто вхолостую висеть в памяти.И что??? Вы уже измерили это "вхолостую висеть в памяти" и именно эти байты/килобайты/мегабайты критичны для вашего приложения? P.S. Начало нулевых - давно в прошлом и сотни-тысяча подключений уже перестала быть сверхнагрузкой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 18:35 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Ну возьмите готовое решение : docker + tomcat + war все ... на каждый микросервис свой томкат в своем контейнере ... кластерезуйте и масштабируйте как душе угодно ... вот рабочий пример https://hub.docker.com/_/jetty/ ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 22:59 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
+ чтобы нагрузка не была такой большой использовать кеши https://blogs.oracle.com/theaquarium/entry/jcache_is_final_i_repeat и очереди ... при использовании очереди - вам и двух потоков/коннектов к БД на каждое приложение хватить должно ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 25.07.2016, 23:08 |
|
||
|
Общий пул на весь servlet container, или отдельный пул на каждое web-приложение
|
|||
|---|---|---|---|
|
#18+
Atum1и очереди ... при использовании очереди - вам и двух потоков/коннектов к БД на каждое приложение хватить должно ... точно, и страничку специальную показывать с надписью "в очередь, сукины дети" ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.07.2016, 10:31 |
|
||
|
|

start [/forum/topic.php?all=1&fid=59&tid=2123862]: |
0ms |
get settings: |
8ms |
get forum list: |
19ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
43ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
83ms |
get tp. blocked users: |
1ms |
| others: | 238ms |
| total: | 411ms |

| 0 / 0 |
