Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Postgres убивает сервак / 13 сообщений из 13, страница 1 из 1
20.12.2006, 06:55
    #34211874
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Здраствуйте. имеется постгрес собранный под фришку на серваке (достаточно мощном (2 проца, 4 гига оперы)). на этом же сервере поднят сбор потоков netflow с порядка 10 сиско-коллекторов.
так вот при запуске постгреса сервер начинает жутко тормозить. такое впечатление что убивается файловая система.
fstat | grep postgres | wc -l
дает порядка 1600 строк. насколько мне известно физически каждый объект бд постгрес - это отдельный файл. получается что чем больше таблиц, индексов и прочего в базе, тем сильнее будет забита фс.
зы vacuum analyze и reindexdb отрабатывает каждые сутки
...
Рейтинг: 0 / 0
20.12.2006, 11:26
    #34212439
glebofff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Наверное, 10 сиско-генераторов? А коллектор на постгресовой машине?
В постгрес эти netflow льются, или он там так, отдельно стоит?
Если льются - то с аггрегацией или без, и каким образом, и куда? DDL, и т.д.
...
Рейтинг: 0 / 0
20.12.2006, 11:43
    #34212497
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
методика реализована примерно следущая:
используется пакет flowd.
раз в час производится ротация логов флов, после этого эти файлы обрабатываются по определенным правилам (агрегируются скажем) и после этого происходит заливка агрегированных данных в постгрес. алгоритм построен таким образом, что в сутки добавляется 1*(n клиентов) запись, затем каждый час эти n записей апдейтятся. соотв. кол-во апдейтов = 23*(n клиентов).
n порядка 3000-4000.
просто смущает то, что когда постгрес погашен, то сервер в принципе летает и работа этих коллекторов в общем не напрягает.
...
Рейтинг: 0 / 0
20.12.2006, 12:29
    #34212729
glebofff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Не такие уж и страшные для постгреса цифры. Я бы после этих апдейтов порекомендовал бы делать вакуум. А таблица одна? Если одна - то разбить по месяцам, например.
...
Рейтинг: 0 / 0
20.12.2006, 13:19
    #34212986
Andrey Daeron
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Radjaman
так вот при запуске постгреса сервер начинает жутко тормозить. такое впечатление что убивается файловая система.

Под запуском что имеется в виду?
Просто старт? Или какая-то активность ПО?
...
Рейтинг: 0 / 0
20.12.2006, 13:22
    #34213011
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
да я понимаю, что объемы не очень страшные.
просто сам факт тормозов пугает :(.
и еще любопытно знать, если в базе много таблиц, которые не используются, но удалять жалко, влияют ли они на загруженность файловой системы, то есть держит ли их посгрес постоянно открытыми, или открывает по мере обращения к таблице
...
Рейтинг: 0 / 0
20.12.2006, 13:26
    #34213033
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Andrey Daeron Radjaman
так вот при запуске постгреса сервер начинает жутко тормозить. такое впечатление что убивается файловая система.

Под запуском что имеется в виду?
Просто старт? Или какая-то активность ПО?ну если обращения от апача считать активностью ПО :)
...
Рейтинг: 0 / 0
20.12.2006, 13:58
    #34213191
Funny_Falcon
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
автордает порядка 1600 строк. насколько мне известно физически каждый объект бд постгрес - это отдельный файл. получается что чем больше таблиц, индексов и прочего в базе, тем сильнее будет забита фс.
зы vacuum analyze и reindexdb отрабатывает каждые сутки

1. grep нужно делать от директории базы данных (кластера postgres)
2. количество открытых файлов ни о чем не говорит
(у меня команда lsof | grep postgres | wc-l даёт 2900, сервер не тормозит (Slackware Linux 2.6.16.17), но меньше других программ )
(lsof | grep postgres/ | wc-l даёт 1700 - реально файлы баз данных, остальное - библиотеки, so-шки)
(lsof | wc -l даёт 5693)

Если Postgres тормозит систему, значит кто-то postgres активно пользует. Моё мнение.
Открывает Postgres только те файлы, которые соответствуют используемым таблицам, а не все таблицы в базе.
И, думаю, периодически закрывает неиспользуемые (но не уверен).

А сколько памяти на серваке? А сколько shared_buffers в postgresql.conf? Может ты его большим сделал, да сервак начинает элементарно свопиться?
...
Рейтинг: 0 / 0
20.12.2006, 14:33
    #34213361
Andrey Daeron
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Было бы неплохо еще посмотреть на загруженность проца и дисковой (что-то по типу top , и iostat).
На сколько я знаю, сам по себе, постгрес практически ничего не делает (ну по запуску смотрит WAL, да иногда автовакуум запускается).
...
Рейтинг: 0 / 0
21.12.2006, 10:45
    #34215289
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
shared_buffers = 400 (а не мало ли это?)
в дефалтовых конфигах это значение = 1000
...
Рейтинг: 0 / 0
21.12.2006, 11:23
    #34215438
Funny_Falcon
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Radjamanshared_buffers = 400 (а не мало ли это?)
в дефалтовых конфигах это значение = 1000
Мало. Это 3200KБ.
Сколько памяти на серваке? Если 512МБ - 1ГБ, то поставь 10000, если >=1ГБ, то 20000 (160МБ). Больше не надо.
Не забудь поправить shmmax (смотри документацию 16.4. Managing Kernel Resources)
...
Рейтинг: 0 / 0
21.12.2006, 11:24
    #34215447
Funny_Falcon
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
Кстати, с таким shared_buffers (400) он и правда может начать дрочить диск.
...
Рейтинг: 0 / 0
21.12.2006, 13:40
    #34215939
Radjaman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Postgres убивает сервак
поставили 15000. вроде начал оживать. спасибо огромное
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Postgres убивает сервак / 13 сообщений из 13, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]