Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Выбрать базу для системы контроля промоборудования / 25 сообщений из 70, страница 1 из 3
03.12.2011, 06:10
    #37557282
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Доброго времени суток!

Помогите, пожалуйста, выбрать СУБД для системы контроля промышленного оборудования.

В базу будут писаться данные примерно с 1000 объектов по 64-128 байт с каждого раз в секунду. Клиенты - поставщики данных подключаются через интернет по самопальному (предположительно) протоколу, 1000 соединений одновременно.
Чтение из базы восновном предполагается двумя способами параллельно:
- те же 64-128 байт считываются около 4000 клиентов в секунду.
- плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. В том числе, сложные запросы хранимыми процедурами, или, в любом случае, программой на самом сервере, например CGI.
Клиенты запрашивающие данные работают через web-интерфейсы, т.е. будет http сервер, около 4000 одновременных сессий.

Размер базы зависит от требуемого времени накопления (пока не определено), может быть от 2 до 16 Тб.
В базе восновном две большие таблицы занимающие 95% всего размера. Всего таблиц около 30.
Данные восновном числа, BLOB-ов и прочей мультимедии не будет.

Требуется высокая надёжность.
Вероятнее всего linux на 64.

Понятно, что много зависит от железа, но тут можно потратится.
СУБД можно и платную, но только обоснованно, а не "на всякий случай".

В связи с доступом к системе через браузеры, решения упрощающие интеграцию СУБД с системами генерации html приветствуются, хотя это и не главный критерий.
...
Рейтинг: 0 / 0
03.12.2011, 08:09
    #37557307
SERG1257
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDel В базу будут писаться данные примерно с 1000 объектов по 64-128 байт с каждого раз в секунду.
....
Чтение из базы восновном предполагается двумя способами параллельно:
- те же 64-128 байт считываются около 4000 клиентов в секунду. Правильно ли я понимаю, что датчик пишет в базу свое событие и читает обо всех событиях, а СУБД у вас - точка входа, куда все пишут и читают.
Если так, то крайне рекомендую пересмотреть архитектуру. Пусть СУБД загружает события оптом по таймеру (раз в минуту например) и затем ее обрабатывает, показывает web-клиентам, а непосредственно приемом и раздачей событий занимается какая-нибудь упрощенная хрень без транзакций, без SQL, с хранением данных в файловой системе.
AltCtrlDel - плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. А это что за запрос? Просто любопытно
AltCtrlDel В том числе, сложные запросы хранимыми процедурамиЭто похоже взаимодействие с GUI клиента
AltCtrlDel Размер базы зависит от требуемого времени накопления (пока не определено), может быть от 2 до 16 Тб.это ваши фантазии. Вам понадобится секционирование (ручное на вьюхах или средствами СУБД), а устаревшая часть будет агрегироватся, выгружатся из СУБД, паковатся, засовыватся в дальний пыльный угол и там забыватся.
...
Рейтинг: 0 / 0
03.12.2011, 10:13
    #37557316
Siemargl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Сначала нужно вылечить болезнь гигантизма, потом приступать к работе.
...
Рейтинг: 0 / 0
03.12.2011, 12:50
    #37557381
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
SERG1257устаревшая часть будет агрегироватся
У меня есть подозрение, что эта часть будет устаревать ещё до помещения в базу. На зачем
бы в базе понадобились сырые данные в таком количестве?..
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
03.12.2011, 13:39
    #37557415
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
SERG1257Правильно ли я понимаю, что датчик пишет в базу свое событие и читает обо всех событиях, а СУБД у вас - точка входа, куда все пишут и читают.
[/quot]

Нет. Источники данных тоже подключены через интернет, до 1000 источников. данные от них идут только в один конец, но независимо от др-друга. Но вы правы в том, что на стороне сервера можно вначале накопить несколько входящих пакетов, а класть в базу большими порциями. Тогда запись по 64К-128К раз в секунду. Так же правы и в том, что часть данных можно (кроме записи в базу) сразу отсылать другим клиентам.

SERG1257AltCtrlDel - плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. А это что за запрос? Просто любопытно
Создать данные для построения графиков/отчётов. Сгруппировать по временным интервалам. Есть относительно нетривиальные пересчёты, типа, пересчёт с матформулами использующими текущие и ряд предыдущих значений, искать пропуски в данных. Заранее такое в базу записывать проблематично, у клиентов разные критерии анализа и будут появляться новые алгоритмы - новые поля плодить не хотелось бы, хотя тут конкретно смотреть буду.
SERG1257Это похоже взаимодействие с GUI клиента
оно
SERG1257AltCtrlDel может быть от 2 до 16 Тб. это ваши фантазии. Вам понадобится секционирование (ручное на вьюхах или средствами СУБД), а устаревшая часть будет агрегироватся, выгружатся из СУБД, паковатся, засовыватся в дальний пыльный угол и там забыватся.
Секционирование всё равно понадобится. И если разбивать на короткие секции (на квартал), то потом, всё равно, будут иногда встречаться хотелки посмотреть старые данные не прерывая основную работу (желательно) в той же системе. Т.е. придётся восстанавливать частично старые данные по отдельным объектам, если захотят посмотреть.
...
Рейтинг: 0 / 0
03.12.2011, 13:40
    #37557416
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Dimitry SibiryakovSERG1257устаревшая часть будет агрегироватся
У меня есть подозрение, что эта часть будет устаревать ещё до помещения в базу. На зачем
бы в базе понадобились сырые данные в таком количестве?..


Это обязательное требование. Для "разбора полётов" в случае аварий.
...
Рейтинг: 0 / 0
03.12.2011, 13:52
    #37557425
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelЭто обязательное требование. Для "разбора полётов" в случае аварий.

Для "разбора полётов" данным не обязательно находиться именно в базе. В виде файлов данные
хранятся гораздо удобнее.
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
03.12.2011, 13:57
    #37557435
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Dimitry SibiryakovДля "разбора полётов" данным не обязательно находиться именно в базе. В виде файлов данные
хранятся гораздо удобнее.
И гораздо проще попадают в потерянные кластеры. Плавали, знаем. Плюс постоянный себе геморой с конвертацией плоских файлов в новые версии.
...
Рейтинг: 0 / 0
03.12.2011, 14:02
    #37557444
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelИ гораздо проще попадают в потерянные кластеры.

Вы не поверите, но кластерам глубоко пофиг: плоский файл в них или кусок БД...

И, кстати, я ещё не видел чтобы у Integer появилась новая версия...
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
03.12.2011, 14:35
    #37557472
Сергей Арсеньев
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelПомогите, пожалуйста, выбрать СУБД для системы контроля промышленного оборудования.

При правильной организации системы практически любая, кроме MSSql и то потому, что
AltCtrlDelВероятнее всего linux на 64.

Подводный камень в Вашем вопросе скрыт в
AltCtrlDelТребуется высокая надёжность.
За какой период времени можно потерять данные от датчиков в случае сбоя?
Могут ли датчики связываьтся с несколькими разными (с разными путями доступа) агентами по сохранению информации.
И т.п.
...
Рейтинг: 0 / 0
03.12.2011, 14:42
    #37557480
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Сергей АрсеньевЗа какой период времени можно потерять данные от датчиков в случае сбоя?
секунды
Сергей АрсеньевМогут ли датчики связываьтся с несколькими разными (с разными путями доступа) агентами по сохранению информации.
нет. Каналы от датчиков на объектах узкие.
Сергей АрсеньевИ т.п.
А вот это самое интересное. )
...
Рейтинг: 0 / 0
03.12.2011, 15:01
    #37557490
Сергей Арсеньев
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelСергей АрсеньевЗа какой период времени можно потерять данные от датчиков в случае сбоя?
секунды.
Нужно понимать что хотябы цикл перезагрузки компа (или перераспределение ролей узлов кластера ) должно укладываться в эти секунды.
А по бд. тут почти нагрузки нет - надо среднее звено, которое накапливает информацию от датчиков (группы датчиков) за секунду (и т.п.) и сбрасывает чохом в базу. Можно сделать его мутльтиплексированным с минимальным временем подъема (добавления в кластер) и настроить датчики на выбор работающего.
AltCtrlDelнет. Каналы от датчиков на объектах узкие.
Тут надо понимать, что ремонт канала должен укладываться в эти секунды. или считать допустимым неработоспособность части датчиков.
...
Рейтинг: 0 / 0
03.12.2011, 15:19
    #37557502
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Сергей АрсеньевНужно понимать что хотябы цикл перезагрузки компа (или перераспределение ролей узлов кластера ) должно укладываться в эти секунды.

Ну перезагрузка компа всяко не уложиться. А вот с кластерами, тут я, честно говоря, не разбираюсь.

Сергей Арсеньевнадо среднее звено, которое накапливает информацию от датчиков (группы датчиков) за секунду (и т.п.) и сбрасывает чохом в базу. Можно сделать его мутльтиплексированным с минимальным временем подъема (добавления в кластер) и настроить датчики на выбор работающего.

Датчики шлют через интернет на фиксированный IP. В каком смысле мультиплексированным, не совсем понял.


Сергей АрсеньевAltCtrlDelнет. Каналы от датчиков на объектах узкие.
Тут надо понимать, что ремонт канала должен укладываться в эти секунды. или считать допустимым неработоспособность части датчиков.

Скажем так. Разрыв канала связи с датчиком - форсмажор. А вот если серверная часть упадёт - моя проблема.
...
Рейтинг: 0 / 0
03.12.2011, 15:33
    #37557516
Сергей Арсеньев
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelНу перезагрузка компа всяко не уложиться.
Тогда и не подписывайтесь под тем, чего не можете выполнить. :)
Тут надо загрублять требования (описывать ситуаци форсмажора), ну и искать пути дублирования. функций (что правда тоже чревато).

AltCtrlDelДатчики шлют через интернет на фиксированный IP. В каком смысле мультиплексированным, не совсем понял.
Либо датчик шлет на два (или более) адреса, либо несколько приемников ловят один сигнал (или начинают ловить по смерти соседа).
А по кластеры почитать надо, чтобы понимать на какие грабли люди уже наступали и где дорожки протоптали.
...
Рейтинг: 0 / 0
03.12.2011, 15:34
    #37557518
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelСкажем так. Разрыв канала связи с датчиком - форсмажор. А вот если серверная часть упадёт
- моя проблема.

Любой приличный датчик имеет внутренний буфер, достаточный чтобы обойтись пару часов а то
и дней без связи с внешним миром. Пофиг что упало - сервер или канал.

PS: Но про то, что датчик будет писать прямо в базу - сразу забудь.
PPS: Cache вам в руки. Чтобы мало не показалось.
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
03.12.2011, 15:38
    #37557522
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Сергей АрсеньевА по кластеры почитать надо, чтобы понимать на какие грабли люди уже наступали и где дорожки протоптали.

Не посоветуете ли что и где почитать?

И так никто конретную субд и не предложил. Ну хоть какие то рекомендации? Дельфинчика? Слоника? Огненную птичку? Или только оракл на спарке?

Свой личный опыт есть, но я его специально не хочу упоминать ибо открыт для нового.
...
Рейтинг: 0 / 0
03.12.2011, 15:52
    #37557539
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Dimitry SibiryakovЛюбой приличный датчик имеет внутренний буфер, достаточный чтобы обойтись пару часов а то
и дней без связи с внешним миром. Пофиг что упало - сервер или канал.

А потом он по быстрому должен всё залить. Что резко увеличивает нагрузку на канал передачи и сервер.

Постоянно накапливать данные и отправлять большими порциями датчик не может т.к. их немедленно должны смотреть клиенты - задержка только неск. секунд на время прохождения.

Кеширование с нескольких объектов для записи в базу сервером обязательно.
...
Рейтинг: 0 / 0
03.12.2011, 16:06
    #37557555
Сергей Арсеньев
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelИ так никто конретную субд и не предложил.
11700774
Вопорс в обвязке. Не в СУБД. СУБД почти любая, под которую найдутся специалисты способный держать ее 24x7 в рамках заданных требований.
...
Рейтинг: 0 / 0
03.12.2011, 18:20
    #37557664
Siemargl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Сергей АрсеньевAltCtrlDelИ так никто конретную субд и не предложил.
11700774
Вопорс в обвязке. Не в СУБД. СУБД почти любая, под которую найдутся специалисты способный держать ее 24x7 в рамках заданных требований.В подобных системах почти поголовно стоит MSSQL.
Но исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать.
...
Рейтинг: 0 / 0
03.12.2011, 18:54
    #37557687
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
SiemarglВ подобных системах почти поголовно стоит MSSQL.

почему?

SiemarglНо исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать.

Не флейма ради. Поправте меня, в чём я не прав. Это соответствует хотелкам начальства с небольшим моим "прозапасом", чтоб каждые полгода заново не строить.
...
Рейтинг: 0 / 0
03.12.2011, 21:01
    #37557792
Siemargl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelSiemarglВ подобных системах почти поголовно стоит MSSQL.

почему?Я не знаю причин. Но Intouch, WinCC, IFix (Proficy), Genesis вместе 95% рынка. И все основываются на MSSQL.
AltCtrlDel
SiemarglНо исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать.

Не флейма ради. Поправте меня, в чём я не прав. Это соответствует хотелкам начальства с небольшим моим "прозапасом", чтоб каждые полгода заново не строить.
1. Интеллектуальные датчики в кол-ве 1000 шт. Редкость в принципе. Модель можно?
2. 4000 читающих клиентов к _пишущей_ БД. Такое и в OLTP редко встретить, не то что в АСУТП.
3. Кластер и 16Тб.

Хотим купить пяток мэйфреймов?
...
Рейтинг: 0 / 0
03.12.2011, 21:39
    #37557826
AltCtrlDel
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
Siemargl1. Интеллектуальные датчики в кол-ве 1000 шт. Редкость в принципе. Модель можно?

В стартовом сообщении я не писал что это датчики. Я писал что это объекты, реально ПК. Потом уж, отвечая на вопросы про датчики, сам "датчики" написал чтоб не разжёвывать - каюсь. Объектов с ПК до 1000 штук, это с учётом запаса "на вырост". Каналы узкие у некоторых (GPRS). Данные нужны в онлайне (в том числе), т.е. большими блоками отсылать не катит.

Siemargl2. 4000 читающих клиентов к _пишущей_ БД. Такое и в OLTP редко встретить, не то что в АСУТП.

клиенты по стране разнесены. Я сам предполагаю что реально будет чуть более 2-х читающих на один пишуший, но требуют до 8-ми.
И это не в полном смысле АСУТП - "У" управления никакого нет.

Siemargl3. Кластер и 16Тб. Хотим купить пяток мэйфреймов?

Я написал " (пока не определено), может быть от 2 до 16 Тб". Ну не знаю я как там дальше пойдёт. Понадобится - купят.
Давайте пока ограничимся 2Тб.

Очень критична надёжность, малые потери в случае восстановления.
...
Рейтинг: 0 / 0
03.12.2011, 21:55
    #37557843
Siemargl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDel,

Чтобы не теоретизировать.
Я перечислил системы. Можно найти на них доку и почитать, при каких условиях какую нагрузку они несут. Это даст порядок цифр.
На память - десяток тысяч записей /сек на среднем ПК.

Ну и скачать там демку, почитать опять же доку, можно будет понять как умные люди делали.

Разницы нет. Ну 1000 УСПД и АСКУЭ )))
...
Рейтинг: 0 / 0
03.12.2011, 22:33
    #37557878
zeehond
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
сбор данных по-любому имеет смысл буферизовать, если не нравится хранилище на файловой системе - заведите простую таблицу без индексов и периодический процесс, который из неё будет читать и уже раскладывать всё как надо

а так вообще всё сильно зависит от паттернов доступа к данным
если всем 4000 одновременным клиентам надо работать одновременно со всеми 16TB - то дела плохи
но наверное не всё так плохо, и можно расшардить данные скажем по группам датчиков
заявленные объёмы нагрузки не кажутся запредельными, возможно что на нормальном серверном железе даже и шардить не потребуется

что касается отказоустойчивости - данные надо реплицировать

репликация в том виде, в котором она нормально работает на opensource базах данных - как правило асинхронная, и при падении мастера в момент отставания репликации на slave данные за время отставания могут потеряться
оцените эти риски, если пара минут данных может потеряться - может быть вам будет достаточно MySQL или Postrges, с master-slave репликацией и failover на slave

если нет - можно синхронно реплицировать данные, которые пишутся на диск, на уровне файловой системы (GFS, DRBD или же hardware-решение, какой-нибудь NetApp Filer)
не самое производительное решение, но зато всё очень надёжно - всегда есть физическая копия на соседнем сервере
...
Рейтинг: 0 / 0
03.12.2011, 22:51
    #37557884
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выбрать базу для системы контроля промоборудования
AltCtrlDelОчень критична надёжность, малые потери в случае восстановления.

Сейчас я опять буду нудеть: "в случае восстановления" после чего? Какие у вас
катастрофические сценарии заложены в ТЗ?
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Выбрать базу для системы контроля промоборудования / 25 сообщений из 70, страница 1 из 3
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]