Гость
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Фантомные процессы [postgres] с 100% CPU SystemTime / 23 сообщений из 23, страница 1 из 1
28.10.2021, 17:41
    #40107820
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Доброго времени суток!

Сервер 64 ядра 256GB ОЗУ
PostgreSQL 12.8 (Debian 12.8-1.pgdg100+1) on x86_64-pc-linux-gnu, compiled by gcc (Debian 8.3.0-6) 8.3.0, 64-bit
Debian GNU/Linux 10 (buster)


С недавних пор появились фантомные процессы [postgres] причем с 100% утилизацией CPU SystemTime, на несколько секунда или минут висят.
Кол-во 3-50 порою забивают весь вывод команды TOP.

причем strace процесса пустой
root@:/tmp# strace -p 42321 -s 128 -T
strace: Process 42321 attached
+++ exited with 0 +++


Нагрузка скажем не очень большая 10K tps
Профиль нагрузки не менялся, мжт немного вырос, в pg_stat_activity ничего подозрительного нет, вернее этих процессов фантомов там нет и нагрузка от приложения не проседает, только скачет общее CPU до 100% от фантомных процессов с зашкаливающем SystemTime.


Подскажите, сталкивался кто с такой бедой?

top -с выглядит следующим образом
...
Рейтинг: 0 / 0
28.10.2021, 17:54
    #40107823
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
S.e.r.y.i,

замерьте количество forks / sec. Типичная причина аномального systime - слишком часто открываете/закрываете коннекты к базе.
...
Рейтинг: 0 / 0
28.10.2021, 18:03
    #40107826
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Честно говоря как замерить forks / sec не представляю возможным.

Но все приложения ходят в базу чрз PgBauncer, включил логирование коннектов, в логах появились записи от zabbix локально, где-то 2 коннекта в секунду, не может он такой SystemTime накручивать.
...
Рейтинг: 0 / 0
28.10.2021, 18:08
    #40107828
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Предварительно дав checkpoint и на pgBouncer pause, далее попытался отправить postgres в restart так сервер повис с 100 фантомных процессов в TOP, пришлось дать hard reset.

После ребута сервера ситуация мало чем изменилась, по прежнему время от времени появляется пачка фантомных процессов.
...
Рейтинг: 0 / 0
28.10.2021, 18:32
    #40107837
mefman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
S.e.r.y.i
Честно говоря как замерить forks / sec не представляю возможным.

Но все приложения ходят в базу чрз PgBauncer, включил логирование коннектов, в логах появились записи от zabbix локально, где-то 2 коннекта в секунду, не может он такой SystemTime накручивать.

PgBauncer в каком режиме работает?
Машина - Виртуалка?
думаю имеет смысл посмотреть
Код: sql
1.
perf top
...
Рейтинг: 0 / 0
28.10.2021, 18:43
    #40107843
Maxim Boguk
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
S.e.r.y.i,

strace на какой то из таких процессов чтобы посмотреть чем он занят таким странным.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru
...
Рейтинг: 0 / 0
28.10.2021, 18:43
    #40107844
mefman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
По вашему логу - коннектится у вас в основном заббикс. У вас самопальный агент или "коробочный"?
...
Рейтинг: 0 / 0
28.10.2021, 18:49
    #40107847
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
mefman

PgBauncer в каком режиме работает?
Машина - Виртуалка?
думаю имеет смысл посмотреть
Код: sql
1.
perf top



pool_mode = transaction

сервер железный
...
Рейтинг: 0 / 0
28.10.2021, 18:53
    #40107849
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
mefman
По вашему логу - коннектится у вас в основном заббикс. У вас самопальный агент или "коробочный"?


Новых коннектов нет, потому как приложение работает чрз pgBouncer в режиме pool_mode = transaction и то что новых коннектов нет это нормально.

Уже писал выше о нагрузке от приложений ~10К запросов в секунду.

Zabbix снимает некоторые метрики чрз psql и для этого делает 2 коннекта в секунду это тоже нормально.
...
Рейтинг: 0 / 0
28.10.2021, 18:54
    #40107850
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Maxim Boguk
S.e.r.y.i,

strace на какой то из таких процессов чтобы посмотреть чем он занят таким странным.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru


уже писал выше вывод strace фантомного процесса, он пустой.
повторю еще раз
root@:/tmp# strace -p 42321 -s 128 -T
strace: Process 42321 attached
+++ exited with 0 +++
...
Рейтинг: 0 / 0
29.10.2021, 13:55
    #40108074
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Тогда тяжёлую артиллерию: GDB, attach, bt.
...
Рейтинг: 0 / 0
29.10.2021, 14:11
    #40108083
mefman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Dimitry Sibiryakov
Тогда тяжёлую артиллерию: GDB, attach, bt.

ну и "perf" все-таки я бы посмотрел
...
Рейтинг: 0 / 0
31.10.2021, 18:23
    #40108464
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Везде пусто, не perf не strace ничего не выводят, что удивительно, другие процессы postgres прекрасно выводят стек своей работы.
...
Рейтинг: 0 / 0
31.10.2021, 18:26
    #40108465
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Вот еще один нюанс, kill -9 с процессом ничего не делает, он по прежнему висит пока сам не исчезнет.
После попыток kill в логах БД пусто, такое ощущение, что это не postgres процессы, и не понятно почему для них не работает kill -9, загадка.
...
Рейтинг: 0 / 0
31.10.2021, 19:11
    #40108480
mefman
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
S.e.r.y.i
Везде пусто, не perf не strace ничего не выводят, что удивительно, другие процессы postgres прекрасно выводят стек своей работы.

Что значит пусто?
Что показывает perf top?
Он показывает не процессную информацию а общесистемную.
Хотелось бы понять какие события конкретно приходятся на system time.
...
Рейтинг: 0 / 0
31.10.2021, 19:33
    #40108484
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
Процесс висит, а perf top либо пишет что процесс не найден, либо выводит вот такую ерунду.
...
Рейтинг: 0 / 0
31.10.2021, 19:35
    #40108485
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
вывод dmesg
...
Рейтинг: 0 / 0
31.10.2021, 19:50
    #40108489
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
вывод perf top -a во время пика фантомных процессов.
...
Рейтинг: 0 / 0
31.10.2021, 19:57
    #40108491
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
вот еще пример raw_spin_lock в TOP
...
Рейтинг: 0 / 0
31.10.2021, 20:33
    #40108500
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
вот еще пример хороший
...
Рейтинг: 0 / 0
31.10.2021, 22:39
    #40108519
Maxim Boguk
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
S.e.r.y.i,

Самое интересное в этих perf top это наличие __bpf_prog_run кругом в top3.
Что то у вас там странное с сетевым стеком творится походу (как версия на проверку).
В жизни не видел __bpf_prog_run в perf top на базах, это очень очень странно.

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru
...
Рейтинг: 0 / 0
02.12.2021, 10:53
    #40116653
S.e.r.y.i
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
В итоге, просто поменяли сервер железный, на новый, с аналогичными настройками и характеристиками, проблема с фантомными процессами ушла сразу.

perf top -a на новом сервере, если кому интересно (профиль нагрузки БД не менялся).
...
Рейтинг: 0 / 0
06.12.2021, 19:19
    #40117892
комит
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Фантомные процессы [postgres] с 100% CPU SystemTime
мож это вирус был...
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Фантомные процессы [postgres] с 100% CPU SystemTime / 23 сообщений из 23, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]