powered by simpleCommunicator - 2.0.40     © 2025 Programmizd 02
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Фантомные процессы [postgres] с 100% CPU SystemTime
23 сообщений из 23, страница 1 из 1
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107820
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Доброго времени суток!

Сервер 64 ядра 256GB ОЗУ
PostgreSQL 12.8 (Debian 12.8-1.pgdg100+1) on x86_64-pc-linux-gnu, compiled by gcc (Debian 8.3.0-6) 8.3.0, 64-bit
Debian GNU/Linux 10 (buster)


С недавних пор появились фантомные процессы [postgres] причем с 100% утилизацией CPU SystemTime, на несколько секунда или минут висят.
Кол-во 3-50 порою забивают весь вывод команды TOP.

причем strace процесса пустой
root@:/tmp# strace -p 42321 -s 128 -T
strace: Process 42321 attached
+++ exited with 0 +++


Нагрузка скажем не очень большая 10K tps
Профиль нагрузки не менялся, мжт немного вырос, в pg_stat_activity ничего подозрительного нет, вернее этих процессов фантомов там нет и нагрузка от приложения не проседает, только скачет общее CPU до 100% от фантомных процессов с зашкаливающем SystemTime.


Подскажите, сталкивался кто с такой бедой?

top -с выглядит следующим образом
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107823
Melkij
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
S.e.r.y.i,

замерьте количество forks / sec. Типичная причина аномального systime - слишком часто открываете/закрываете коннекты к базе.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107826
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Честно говоря как замерить forks / sec не представляю возможным.

Но все приложения ходят в базу чрз PgBauncer, включил логирование коннектов, в логах появились записи от zabbix локально, где-то 2 коннекта в секунду, не может он такой SystemTime накручивать.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107828
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Предварительно дав checkpoint и на pgBouncer pause, далее попытался отправить postgres в restart так сервер повис с 100 фантомных процессов в TOP, пришлось дать hard reset.

После ребута сервера ситуация мало чем изменилась, по прежнему время от времени появляется пачка фантомных процессов.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107837
Фотография mefman
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
S.e.r.y.i
Честно говоря как замерить forks / sec не представляю возможным.

Но все приложения ходят в базу чрз PgBauncer, включил логирование коннектов, в логах появились записи от zabbix локально, где-то 2 коннекта в секунду, не может он такой SystemTime накручивать.

PgBauncer в каком режиме работает?
Машина - Виртуалка?
думаю имеет смысл посмотреть
Код: sql
1.
perf top
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107843
Фотография Maxim Boguk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
S.e.r.y.i,

strace на какой то из таких процессов чтобы посмотреть чем он занят таким странным.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107844
Фотография mefman
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
По вашему логу - коннектится у вас в основном заббикс. У вас самопальный агент или "коробочный"?
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107847
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
mefman

PgBauncer в каком режиме работает?
Машина - Виртуалка?
думаю имеет смысл посмотреть
Код: sql
1.
perf top



pool_mode = transaction

сервер железный
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107849
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
mefman
По вашему логу - коннектится у вас в основном заббикс. У вас самопальный агент или "коробочный"?


Новых коннектов нет, потому как приложение работает чрз pgBouncer в режиме pool_mode = transaction и то что новых коннектов нет это нормально.

Уже писал выше о нагрузке от приложений ~10К запросов в секунду.

Zabbix снимает некоторые метрики чрз psql и для этого делает 2 коннекта в секунду это тоже нормально.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40107850
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Maxim Boguk
S.e.r.y.i,

strace на какой то из таких процессов чтобы посмотреть чем он занят таким странным.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru


уже писал выше вывод strace фантомного процесса, он пустой.
повторю еще раз
root@:/tmp# strace -p 42321 -s 128 -T
strace: Process 42321 attached
+++ exited with 0 +++
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108074
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Тогда тяжёлую артиллерию: GDB, attach, bt.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108083
Фотография mefman
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov
Тогда тяжёлую артиллерию: GDB, attach, bt.

ну и "perf" все-таки я бы посмотрел
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108464
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Везде пусто, не perf не strace ничего не выводят, что удивительно, другие процессы postgres прекрасно выводят стек своей работы.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108465
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Вот еще один нюанс, kill -9 с процессом ничего не делает, он по прежнему висит пока сам не исчезнет.
После попыток kill в логах БД пусто, такое ощущение, что это не postgres процессы, и не понятно почему для них не работает kill -9, загадка.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108480
Фотография mefman
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
S.e.r.y.i
Везде пусто, не perf не strace ничего не выводят, что удивительно, другие процессы postgres прекрасно выводят стек своей работы.

Что значит пусто?
Что показывает perf top?
Он показывает не процессную информацию а общесистемную.
Хотелось бы понять какие события конкретно приходятся на system time.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108484
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Процесс висит, а perf top либо пишет что процесс не найден, либо выводит вот такую ерунду.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108485
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
вывод dmesg
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108489
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
вывод perf top -a во время пика фантомных процессов.
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108491
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
вот еще пример raw_spin_lock в TOP
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108500
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
вот еще пример хороший
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40108519
Фотография Maxim Boguk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
S.e.r.y.i,

Самое интересное в этих perf top это наличие __bpf_prog_run кругом в top3.
Что то у вас там странное с сетевым стеком творится походу (как версия на проверку).
В жизни не видел __bpf_prog_run в perf top на базах, это очень очень странно.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40116653
S.e.r.y.i
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
В итоге, просто поменяли сервер железный, на новый, с аналогичными настройками и характеристиками, проблема с фантомными процессами ушла сразу.

perf top -a на новом сервере, если кому интересно (профиль нагрузки БД не менялся).
...
Рейтинг: 0 / 0
Фантомные процессы [postgres] с 100% CPU SystemTime
    #40117892
комит
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
мож это вирус был...
...
Рейтинг: 0 / 0
23 сообщений из 23, страница 1 из 1
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Фантомные процессы [postgres] с 100% CPU SystemTime
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]