powered by simpleCommunicator - 2.0.49     © 2025 Programmizd 02
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Посоветуйте базу, много операция удалений и вставок.
25 сообщений из 49, страница 1 из 2
Посоветуйте базу, много операция удалений и вставок.
    #38878611
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Входные данные:
1) Сервер любой (не имеет значение, т.е. будет куплен любой по необходимости)
2) Таблица содержит до 100 тыс. записей. Это правда немного, но все записи находятся в ПОСТОННОМ режиме вставки, чтения, удаления.
3) Каждую секунду к БД идет соединений: 400-800шт. Одно обращение это:
Код: plsql
1.
UPDATE ... SET `process_id` = '_X_' WHERE `process_id` = '' LIMIT _N_; SELECT ... WHERE `process_id` = '_X_'

.
Если кто-то не понял логики, объясню: так делается для того, чтобы одну и ту же запись не могли получить одновременно два разных соединения.
4) Через некоторое время (3-5 сек.):
Код: plsql
1.
DELETE ... WHERE `id` = '_ID_'

(каждая запись имеет уникальный идентификатор `id`)

Вопрос : какую БД лучше использовать?
Может быть есть какой-то другой алгоритм контроля, чтобы одну строку могло прочитать (использовать) только одно соединение?

P.S. Пробовал на MySql с таблицей типа InnoDB с индексами на `id` и `process_id`. До 5 тыс. записей в таблице молниеносно все работает. Но если записей становится около 20 тыс. в статусе операций БД видно много запросов с ожиданием "wite lock".

Видимо 300 (примерное число) одновременных соединений, выполняя UPDATE мешают друг другу и ждут окончания каждого. Если соединений еще больше, и записей больше происходит, что то похожее на "deadlock" - но все же не "deadlock", со временем операции все завершаются, но из-за медленного выполнения, количество одновременных соединений увеличивается, что и вызывает потерю памяти и еще больше блокировок (количество открывающихся соединения растет, а выполненных и закрывающихся падает).а завершающихся падает.

P.S. P.S.
Как вариант - запретить подключение к базе более 800 соединений. Этот вариант я рассмотрел и мне он не подходит. Просто каждую минуту соединения не будут открываться с ошибкой "max connect" - это не решение. Каждую секунду они должны как открываться, так (через равные промежутки времени) и закрываться (как было бы, если бы не было блокировок).
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38878620
NikolayV81
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyВходные данные:
1) Сервер любой (не имеет значение, т.е. будет куплен любой по необходимости)
2) Таблица содержит до 100 тыс. записей. Это правда немного, но все записи находятся в ПОСТОННОМ режиме вставки, чтения, удаления.
3) Каждую секунду к БД идет соединений: 400-800шт. Одно обращение это:
Код: plsql
1.
UPDATE ... SET `process_id` = '_X_' WHERE `process_id` = '' LIMIT _N_; SELECT ... WHERE `process_id` = '_X_'

.
Если кто-то не понял логики, объясню: так делается для того, чтобы одну и ту же запись не могли получить одновременно два разных соединения.


есть select for update
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38878621
NikolayV81
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyВходные данные:


Вообще не понятно, а нельзя записи при вставке как-то разделять на группы?
Я правильно понял что вы просто разгребаете поток заданий?
Зачем столько соединений?
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38878637
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyВопрос: какую БД лучше использовать?
Ответ: в данном случае БД будет только мешать. Используйте тривиальный связный список в ОЗУ.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38878640
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

кстати, да, присоединяюсь.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38879222
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

При отключения питания сервера, данные не пропадут?
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38879241
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyПри отключения питания сервера, данные не пропадут?
Купить ИБП проще и дешевле чем заставлять СУБД работать в режиме для которого они не
предназначены. Кроме того, насколько я понял, у вас идёт постоянный приток новых данных,
так что если немного старых и пропадёт - не беда, потери быстро восполнятся.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38879380
DPH3
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Если я правильно понял, тут какой-то аналог очереди раздачи заданий.
Поищите любую очередь сообщений с гарантией доставки (если это так важно) и не мучайте БД )

Вообще, если задача - просто распределять таски по воркерам (иногда там встречаются подобные решения), то лучше использовать базу с реализацией skip locked.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38881314
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyDimitry Sibiryakov,

При отключения питания сервера, данные не пропадут?

А это уже как напишешь.

А СУБД для той задачи можно брать любую из унивесальных.
MSSQL, Mysql/Innodb, oracle, postgres, и много других. Любую.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38881318
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
DPH3Если я правильно понял, тут какой-то аналог очереди раздачи заданий.
Поищите любую очередь сообщений с гарантией доставки (если это так важно) и не мучайте БД ).

ну любая очередь с гарантией доставки сообщений тоже как правило СУБД использует, но я бы тоже присоединился к совету --
там можно иногда использовать чуть более другие СУБД...
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38881418
Фотография Изопропил
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZivлюбую из унивесальных
зачем универсальных?
MasterZivможно иногда использовать чуть более другие СУБД...
да
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38881851
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ИзопропилMasterZivлюбую из унивесальных
зачем универсальных?


Имелось в виду, СУБД для OLTP, не специальные для OLAP.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38884884
Arm79
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZivну любая очередь с гарантией доставки сообщений тоже как правило СУБД использует
MSMQ не использует.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38886938
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

Про питание я дли примера сказал. 99.99% меня уже не утсроит (потеря 00.001%). Остановка может быть вызвана не только прекращением питания.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38886946
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
DPH3,

авторПоищите любую очередь сообщений с гарантией

А она точно будет быстрее работать чем 800 заданий в сек.? Если да, то посоветуйте пожалуйста очередь сообщения с гарантией.

При этом процесс должен уметь принимать сообщение, и возвращать для отправки другому процессу, в случае неудачи обработки, аналогично описанному алгоритму.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38887006
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyПро питание я дли примера сказал. 99.99% меня уже не утсроит (потеря
00.001%). Остановка может быть вызвана не только прекращением питания.
При других причинах остановки Вас ничто не спасёт. Бетонная плита, упавшая на сервер,
непобедима.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38888823
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

Нынешний алгоритм, при потере питания сохраняет данные в базе.
Вариант с оперативной памятью не подходит.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38888831
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyНынешний алгоритм, при потере питания сохраняет данные в базе.
Вариант с оперативной памятью не подходит.
То есть ты не способен написать программу, которая при завершении сохраняет данные на диск?..
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38888873
Arm79
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
см. тарантул, вполне потянет такую мелочь как тысячи соединений и тысячи операций чтения/записи в секунду.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889249
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

Вы сами предложили использовать оперативку для хранения данных, чтобы все было быстро. Если будем эти данные каждый раз сохранять с высокой частотой на диск, вернемся к первому вопросу. В каком виде хранить такие данные. Я использую Mysql.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889256
Artemeey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arm79см. тарантул, вполне потянет такую мелочь как тысячи соединений и тысячи операций чтения/записи в секунду.

Спасибо! ТАРАНtool мне показался интересным и вероятным решением из NoSQL.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889280
Arm79
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyArm79см. тарантул, вполне потянет такую мелочь как тысячи соединений и тысячи операций чтения/записи в секунду.

Спасибо! ТАРАНtool мне показался интересным и вероятным решением из NoSQL.
На самом деле проблем с записью на диск не так уж и много. Допустим 1000 соединений. Создать файл, записать небольшую порцию данных туда, закрыть файл - примерно 0,2 мс, итого до 5000 тысяч мелких файлов в секунду в зависимости от диска. SSD в этом плане побыстрее даже будет.

Но и это можно обойти и ускорить. Например, выравнивая приходящие сообщения по размеру и записывая их в файл (но не закрывая сам файл) с принудительным сохранением буфера. Тогда не будет тратиться время на получение соответствующего handle, а удаление записи - обычной пометкой как удаленную. При новых сообщениях (учитывая, что они равны в размерах) тупо писать на место помеченной как удаленная либо добавлять в конец.

И, естественно, вести в памяти индекс, например на основе avl деревьев. То есть такая своеобразная localdb получится.

Работы там на пару дней всего + еще пару - тестирование.
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889325
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ArtemeeyЕсли будем эти данные каждый раз сохранять с высокой частотой на диск,
вернемся к первому вопросу.
С какой ещё "высокой частотой"? Повторяю медленно: при завершении программы-диспетчера,
сохранить все ещё не розданные задания на диск. В простой файл. Текстовый, например. Это
будет очень и очень быстрее, чем сохранять их в любой СУБД.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889396
Leonid Kudryavtsev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov,

Да можно и базу использовать. Только если в ней данные хранить, а не фигней заниматься. Блокировки UPDATE'ами реализовывать.

IMHO & AFAIK
...
Рейтинг: 0 / 0
Посоветуйте базу, много операция удалений и вставок.
    #38889462
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Можно и базу если нагрузка не слишком велика. Но всё равно по скорости чистой записи с
плоским файлом ничто не сравнится.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
25 сообщений из 49, страница 1 из 2
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Посоветуйте базу, много операция удалений и вставок.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]