Гость
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / avtovacuum to prevent wraparound / 14 сообщений из 14, страница 1 из 1
01.12.2020, 09:32
    #40023534
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Привет всем, столкнулся с такой проблемой. Подскажите пожалуйста в какую сторону копать.

avtovacuum по табличке работает уже неделю. Самое интересное, табличка только на insert. Никаких апдейтов или удалений в ней никогда не делается. Что с ней делает вакуум не понятно.

Табличка большая, вместе с индексами 1.5ТБ. Неделю уже по ней работает avtovacuum: VACUUM table (to prevent wraparound)

Заранее спасибо.
...
Рейтинг: 0 / 0
01.12.2020, 10:08
    #40023541
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
По документации, получается, что автовакуум будет все равно работать по такой таблице, выполняя действия по предотвращению зацикливания номеров транзакций. Интересно конечно отработает ли он когда нибудь и когда стоит бить тревогу по этому поводу.
...
Рейтинг: 0 / 0
01.12.2020, 10:27
    #40023545
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
kliff
Что с ней делает вакуум не понятно

kliff
VACUUM table (to prevent wraparound)

Это и делает.

Волноваться про подход к границе wraparound и связанного с этим уходом в RO.

Если не говорить о EOL релизах - то смотреть в pg_stat_progress_vacuum для оценки прогресса. До pg13 на insert-only таблицах время от времени имеет смысл пускать вакуум вручную, чтобы wraparound autovacuum быстрее проходит.
...
Рейтинг: 0 / 0
01.12.2020, 10:55
    #40023553
Lonepsycho
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
kliff
Табличка большая, вместе с индексами 1.5ТБ. Неделю уже по ней работает avtovacuum: VACUUM table (to prevent wraparound)

посмотреть в сторону партиционирования. меньше партиции, легче пылесосу.
...
Рейтинг: 0 / 0
01.12.2020, 12:00
    #40023579
MikeR.Ru
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Я бы посмотрел в сторону актуальности всех данных в этой таблице. То есть в операционном плане, все ли данные нужны для изменения? Если уже есть история, которая не изменяется, выносите в другую бд, исключительно для анализа или делайте OLAP.
"Бабу с воза, кобыле легче".
...
Рейтинг: 0 / 0
01.12.2020, 12:02
    #40023582
Guzya
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
А разве вакуум не должен обрабатывать только те страницы, которые изменились с прошлого раза.
Автор говорит, что в таблицу идут только insert-ы соответственно все кроме вновь прибывших должны быть уже заморожены предыдущими проходами вакуума.
Поправьте если я не прав.
...
Рейтинг: 0 / 0
01.12.2020, 12:40
    #40023596
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Guzya
Автор говорит, что в таблицу идут только insert-ы соответственно все кроме вновь прибывших должны быть уже заморожены предыдущими проходами вакуума.

Ну вот он и морозит всё что появилось после прошлого прохода. Который был неизвестно когда, или вообще не было. Все эти 1,5тб вполне могли быть записаны без прихода автовакуума до наступления wraparound. До pg13 в insert-only таблицы автовакуум приходит только для защиты от wraparound.
...
Рейтинг: 0 / 0
01.12.2020, 13:34
    #40023619
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Melkij
Guzya
Автор говорит, что в таблицу идут только insert-ы соответственно все кроме вновь прибывших должны быть уже заморожены предыдущими проходами вакуума.

Ну вот он и морозит всё что появилось после прошлого прохода. Который был неизвестно когда, или вообще не было. Все эти 1,5тб вполне могли быть записаны без прихода автовакуума до наступления wraparound. До pg13 в insert-only таблицы автовакуум приходит только для защиты от wraparound.


не ткнете пожалуйста в ссыль по этому вопросу в pg13 ? Что то не могу найти, хотелось бы посмотреть.
...
Рейтинг: 0 / 0
01.12.2020, 13:39
    #40023620
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Melkij,

Да, все данные вполне могли быть записаны до 2млрд транзакций, система не многотранзакционная, не совсем olap, но близко к тому.
...
Рейтинг: 0 / 0
01.12.2020, 13:47
    #40023624
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Melkij
kliff
Что с ней делает вакуум не понятно

kliff
VACUUM table (to prevent wraparound)

Это и делает.

Волноваться про подход к границе wraparound и связанного с этим уходом в RO.

Если не говорить о EOL релизах - то смотреть в pg_stat_progress_vacuum для оценки прогресса. До pg13 на insert-only таблицах время от времени имеет смысл пускать вакуум вручную, чтобы wraparound autovacuum быстрее проходит.


такой вьюхи у меня нет pg_stat_progress_vacuum. Postgresql 9.6
...
Рейтинг: 0 / 0
01.12.2020, 16:11
    #40023682
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
kliff
Melkij
пропущено...

Ну вот он и морозит всё что появилось после прошлого прохода. Который был неизвестно когда, или вообще не было. Все эти 1,5тб вполне могли быть записаны без прихода автовакуума до наступления wraparound. До pg13 в insert-only таблицы автовакуум приходит только для защиты от wraparound.


не ткнете пожалуйста в ссыль по этому вопросу в pg13 ? Что то не могу найти, хотелось бы посмотреть.

https://git.postgresql.org/gitweb/?p=postgresql.git;a=commitdiff;h=b07642dbcd8d5de05f0ee1dbb72dd6760dd30436
autovacuum_vacuum_insert_scale_factor / autovacuum_vacuum_insert_threshold новые настройки

kliff
такой вьюхи у меня нет pg_stat_progress_vacuum. Postgresql 9.6

Значит у вас:
- или не postgresql
- или не 9.6, а что-то более древнее.
Именно в 9.6 эта view и появилась.
...
Рейтинг: 0 / 0
02.12.2020, 09:49
    #40023845
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Melkij,
Большое спасибо, очень помогли. Да, запутался, серверов много, на этом стоит 9.5.
...
Рейтинг: 0 / 0
02.12.2020, 10:54
    #40023859
Melkij
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
kliff,

обновляться. На 9.5 wraparound террабайтных баз всегда долго. В частности вот это
Guzya
А разве вакуум не должен обрабатывать только те страницы, которые изменились с прошлого раза.

Было сделано так же в 9.6, до этого при wraparound посещали каждый блок независимо от visibility map.

Ну и настройки автовакуума проверьте. Возможно дефолтные.
...
Рейтинг: 0 / 0
02.12.2020, 10:56
    #40023862
kliff
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
avtovacuum to prevent wraparound
Melkij, да настройки дефолтные
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / avtovacuum to prevent wraparound / 14 сообщений из 14, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]