Гость
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Размер лога postgresql за день на проде / 7 сообщений из 7, страница 1 из 1
13.01.2019, 13:33
    #39758941
BigBudda
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
Добрый день!
Возник спор с коллегой по работе относительно размера лога промышленного сервера БД postgresql.
Коллега считает, что на проде размер лога не должен превышать 10-20 Мб:
авторЧто касаемо лога в 10 Гб... Если у тебя лог занимает больше 10-20 Мб - значит у тебя включено избыточное логирование.
Такие логи допустимы во время отлатки в режиме debug, но никак не на проде...
Как убедить в обратном?
...
Рейтинг: 0 / 0
13.01.2019, 14:19
    #39758956
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
BigBudda,

посмотрите лог и предметно объясните коллеге, как вы используете всё что там у вас есть.

10 гб логов в день у меня тоже вызовет вопрос, а что там такое происходит и не надо ли добавить пару индексов или местами поправить работающее с базой приложение.
Впрочем цифра в 10-20мб в день меня удивляет тоже. Откуда она взялась?
...
Рейтинг: 0 / 0
13.01.2019, 14:32
    #39758960
kira ivanov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
BigBuddaКак убедить в обратном?

Ни как.... Спор ни о чем, в логе лежит то что админу или разрабу надо, этим и определяется размер
к примеру :

-rw-r----- 1 postgres postgres 38M Dec 10 23:49 postgresql-2018-12-10.log
-rw-r----- 1 postgres postgres 23M Dec 11 23:59 postgresql-2018-12-11.log
-rw-r----- 1 postgres postgres 98M Dec 12 23:50 postgresql-2018-12-12.log
-rw-r----- 1 postgres postgres 21M Dec 13 23:57 postgresql-2018-12-13.log
-rw-r----- 1 postgres postgres 23M Dec 14 23:20 postgresql-2018-12-14.log
-rw-r----- 1 postgres postgres 9.5M Dec 15 23:59 postgresql-2018-12-15.log
-rw-r----- 1 postgres postgres 962K Dec 16 23:14 postgresql-2018-12-16.log
-rw-r----- 1 postgres postgres 33M Dec 17 23:17 postgresql-2018-12-17.log
-rw-r----- 1 postgres postgres 265M Dec 18 22:23 postgresql-2018-12-18.log
-rw-r----- 1 postgres postgres 64M Dec 19 23:43 postgresql-2018-12-19.log
-rw-r----- 1 postgres postgres 4.4G Dec 21 00:00 postgresql-2018-12-20.log.gz
-rw-r----- 1 postgres postgres 10G Dec 22 00:00 postgresql-2018-12-21.log.gz
-rw-r----- 1 postgres postgres 723M Dec 23 00:00 postgresql-2018-12-22.log.gz
-rw-r----- 1 postgres postgres 733M Dec 24 00:00 postgresql-2018-12-23.log.gz
-rw-r----- 1 postgres postgres 13G Dec 25 00:00 postgresql-2018-12-24.log.gz
-rw-r----- 1 postgres postgres 13G Dec 26 00:00 postgresql-2018-12-25.log.gz
-rw-r----- 1 postgres postgres 14G Dec 27 00:00 postgresql-2018-12-26.log.gz
-rw-r----- 1 postgres postgres 16G Dec 28 00:00 postgresql-2018-12-27.log.gz
-rw-r----- 1 postgres postgres 17G Dec 29 00:00 postgresql-2018-12-28.log.gz
-rw-r----- 1 postgres postgres 12G Dec 30 00:00 postgresql-2018-12-29.log.gz
-rw-r----- 1 postgres postgres 2.3G Dec 31 00:00 postgresql-2018-12-30.log.gz
-rw-r----- 1 postgres postgres 5.0G Dec 31 23:59 postgresql-2018-12-31.log
-rw-r----- 1 postgres postgres 3.3M Jan 1 23:59 postgresql-2019-01-01.log
-rw-r----- 1 postgres postgres 5.8M Jan 2 23:59 postgresql-2019-01-02.log
-rw-r----- 1 postgres postgres 2.6M Jan 3 23:59 postgresql-2019-01-03.log
...
Рейтинг: 0 / 0
13.01.2019, 14:53
    #39758971
Maxim Boguk
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
BigBuddaДобрый день!
Возник спор с коллегой по работе относительно размера лога промышленного сервера БД postgresql.
Коллега считает, что на проде размер лога не должен превышать 10-20 Мб:
авторЧто касаемо лога в 10 Гб... Если у тебя лог занимает больше 10-20 Мб - значит у тебя включено избыточное логирование.
Такие логи допустимы во время отлатки в режиме debug, но никак не на проде...
Как убедить в обратном?

Так надо понять зачем именно используются данные в логе. Если не зачем - то их в лог и не надо писать постоянно.
10gb в день - обьем не сильно большой но проблема в другом - в таком обьеме легко потерять действительно важные/критичные вещи.
...
Рейтинг: 0 / 0
14.01.2019, 14:40
    #39759341
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
А они вообще об одном и том же логе говорят? А то вдруг один о протоколе работы, а другой - о WAL...
...
Рейтинг: 0 / 0
15.01.2019, 09:18
    #39759646
BigBudda
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
Dimitry Sibiryakov,
Речь об обычном логе, который я обрабатываю с помощью утилиты pgbadger. Из-за логирования запросов он и раздулся до 10 Гб за день.
...
Рейтинг: 0 / 0
15.01.2019, 11:54
    #39759702
Maxim Boguk
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Размер лога postgresql за день на проде
BigBuddaDimitry Sibiryakov,
Речь об обычном логе, который я обрабатываю с помощью утилиты pgbadger. Из-за логирования запросов он и раздулся до 10 Гб за день.

Честно говоря на нагруженном production это решение так себе. Потому что полный лог всех запросов не включить (это будет не 10gb а 300 ;)) а без полного лога целостной картины не будет. Это решение было хорошо лет 10 и больше назад когда не было внятного pg_stat_statements.

Я бы анализ запросов на основе pg_stat_statements бы делал который как раз для этого и предназначен
( https://www.postgresql.org/docs/11/pgstatstatements.html )
а в лог писать только запросы которые критически медленно работают (и требуют ручного или полуручного анализа), смотря от проекта это может быть и запросы длинее 1секунды и запросы длинее 1часа (смотря чем там у вас база занята).

Как то так.

PS: если у вас лог всех запросов влезает за сутки в 10gb можно наверное так и оставить особой нагрузки с того не будет нормальному серверу.
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Размер лога postgresql за день на проде / 7 сообщений из 7, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]