|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Доброго времени суток! Помогите, пожалуйста, выбрать СУБД для системы контроля промышленного оборудования. В базу будут писаться данные примерно с 1000 объектов по 64-128 байт с каждого раз в секунду. Клиенты - поставщики данных подключаются через интернет по самопальному (предположительно) протоколу, 1000 соединений одновременно. Чтение из базы восновном предполагается двумя способами параллельно: - те же 64-128 байт считываются около 4000 клиентов в секунду. - плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. В том числе, сложные запросы хранимыми процедурами, или, в любом случае, программой на самом сервере, например CGI. Клиенты запрашивающие данные работают через web-интерфейсы, т.е. будет http сервер, около 4000 одновременных сессий. Размер базы зависит от требуемого времени накопления (пока не определено), может быть от 2 до 16 Тб. В базе восновном две большие таблицы занимающие 95% всего размера. Всего таблиц около 30. Данные восновном числа, BLOB-ов и прочей мультимедии не будет. Требуется высокая надёжность. Вероятнее всего linux на 64. Понятно, что много зависит от железа, но тут можно потратится. СУБД можно и платную, но только обоснованно, а не "на всякий случай". В связи с доступом к системе через браузеры, решения упрощающие интеграцию СУБД с системами генерации html приветствуются, хотя это и не главный критерий. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 06:10 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDel В базу будут писаться данные примерно с 1000 объектов по 64-128 байт с каждого раз в секунду. .... Чтение из базы восновном предполагается двумя способами параллельно: - те же 64-128 байт считываются около 4000 клиентов в секунду. Правильно ли я понимаю, что датчик пишет в базу свое событие и читает обо всех событиях, а СУБД у вас - точка входа, куда все пишут и читают. Если так, то крайне рекомендую пересмотреть архитектуру. Пусть СУБД загружает события оптом по таймеру (раз в минуту например) и затем ее обрабатывает, показывает web-клиентам, а непосредственно приемом и раздачей событий занимается какая-нибудь упрощенная хрень без транзакций, без SQL, с хранением данных в файловой системе. AltCtrlDel - плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. А это что за запрос? Просто любопытно AltCtrlDel В том числе, сложные запросы хранимыми процедурамиЭто похоже взаимодействие с GUI клиента AltCtrlDel Размер базы зависит от требуемого времени накопления (пока не определено), может быть от 2 до 16 Тб.это ваши фантазии. Вам понадобится секционирование (ручное на вьюхах или средствами СУБД), а устаревшая часть будет агрегироватся, выгружатся из СУБД, паковатся, засовыватся в дальний пыльный угол и там забыватся. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 08:09 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Сначала нужно вылечить болезнь гигантизма, потом приступать к работе. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 10:13 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
SERG1257устаревшая часть будет агрегироватся У меня есть подозрение, что эта часть будет устаревать ещё до помещения в базу. На зачем бы в базе понадобились сырые данные в таком количестве?.. Posted via ActualForum NNTP Server 1.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 12:50 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
SERG1257Правильно ли я понимаю, что датчик пишет в базу свое событие и читает обо всех событиях, а СУБД у вас - точка входа, куда все пишут и читают. [/quot] Нет. Источники данных тоже подключены через интернет, до 1000 источников. данные от них идут только в один конец, но независимо от др-друга. Но вы правы в том, что на стороне сервера можно вначале накопить несколько входящих пакетов, а класть в базу большими порциями. Тогда запись по 64К-128К раз в секунду. Так же правы и в том, что часть данных можно (кроме записи в базу) сразу отсылать другим клиентам. SERG1257AltCtrlDel - плюс раз в несколько секунд запрос с обработкой 10-100 Мб и результатом в 10-100К. А это что за запрос? Просто любопытно Создать данные для построения графиков/отчётов. Сгруппировать по временным интервалам. Есть относительно нетривиальные пересчёты, типа, пересчёт с матформулами использующими текущие и ряд предыдущих значений, искать пропуски в данных. Заранее такое в базу записывать проблематично, у клиентов разные критерии анализа и будут появляться новые алгоритмы - новые поля плодить не хотелось бы, хотя тут конкретно смотреть буду. SERG1257Это похоже взаимодействие с GUI клиента оно SERG1257AltCtrlDel может быть от 2 до 16 Тб. это ваши фантазии. Вам понадобится секционирование (ручное на вьюхах или средствами СУБД), а устаревшая часть будет агрегироватся, выгружатся из СУБД, паковатся, засовыватся в дальний пыльный угол и там забыватся. Секционирование всё равно понадобится. И если разбивать на короткие секции (на квартал), то потом, всё равно, будут иногда встречаться хотелки посмотреть старые данные не прерывая основную работу (желательно) в той же системе. Т.е. придётся восстанавливать частично старые данные по отдельным объектам, если захотят посмотреть. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 13:39 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Dimitry SibiryakovSERG1257устаревшая часть будет агрегироватся У меня есть подозрение, что эта часть будет устаревать ещё до помещения в базу. На зачем бы в базе понадобились сырые данные в таком количестве?.. Это обязательное требование. Для "разбора полётов" в случае аварий. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 13:40 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelЭто обязательное требование. Для "разбора полётов" в случае аварий. Для "разбора полётов" данным не обязательно находиться именно в базе. В виде файлов данные хранятся гораздо удобнее. Posted via ActualForum NNTP Server 1.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 13:52 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Dimitry SibiryakovДля "разбора полётов" данным не обязательно находиться именно в базе. В виде файлов данные хранятся гораздо удобнее. И гораздо проще попадают в потерянные кластеры. Плавали, знаем. Плюс постоянный себе геморой с конвертацией плоских файлов в новые версии. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 13:57 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelИ гораздо проще попадают в потерянные кластеры. Вы не поверите, но кластерам глубоко пофиг: плоский файл в них или кусок БД... И, кстати, я ещё не видел чтобы у Integer появилась новая версия... Posted via ActualForum NNTP Server 1.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 14:02 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelПомогите, пожалуйста, выбрать СУБД для системы контроля промышленного оборудования. При правильной организации системы практически любая, кроме MSSql и то потому, что AltCtrlDelВероятнее всего linux на 64. Подводный камень в Вашем вопросе скрыт в AltCtrlDelТребуется высокая надёжность. За какой период времени можно потерять данные от датчиков в случае сбоя? Могут ли датчики связываьтся с несколькими разными (с разными путями доступа) агентами по сохранению информации. И т.п. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 14:35 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Сергей АрсеньевЗа какой период времени можно потерять данные от датчиков в случае сбоя? секунды Сергей АрсеньевМогут ли датчики связываьтся с несколькими разными (с разными путями доступа) агентами по сохранению информации. нет. Каналы от датчиков на объектах узкие. Сергей АрсеньевИ т.п. А вот это самое интересное. ) ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 14:42 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelСергей АрсеньевЗа какой период времени можно потерять данные от датчиков в случае сбоя? секунды. Нужно понимать что хотябы цикл перезагрузки компа (или перераспределение ролей узлов кластера ) должно укладываться в эти секунды. А по бд. тут почти нагрузки нет - надо среднее звено, которое накапливает информацию от датчиков (группы датчиков) за секунду (и т.п.) и сбрасывает чохом в базу. Можно сделать его мутльтиплексированным с минимальным временем подъема (добавления в кластер) и настроить датчики на выбор работающего. AltCtrlDelнет. Каналы от датчиков на объектах узкие. Тут надо понимать, что ремонт канала должен укладываться в эти секунды. или считать допустимым неработоспособность части датчиков. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:01 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Сергей АрсеньевНужно понимать что хотябы цикл перезагрузки компа (или перераспределение ролей узлов кластера ) должно укладываться в эти секунды. Ну перезагрузка компа всяко не уложиться. А вот с кластерами, тут я, честно говоря, не разбираюсь. Сергей Арсеньевнадо среднее звено, которое накапливает информацию от датчиков (группы датчиков) за секунду (и т.п.) и сбрасывает чохом в базу. Можно сделать его мутльтиплексированным с минимальным временем подъема (добавления в кластер) и настроить датчики на выбор работающего. Датчики шлют через интернет на фиксированный IP. В каком смысле мультиплексированным, не совсем понял. Сергей АрсеньевAltCtrlDelнет. Каналы от датчиков на объектах узкие. Тут надо понимать, что ремонт канала должен укладываться в эти секунды. или считать допустимым неработоспособность части датчиков. Скажем так. Разрыв канала связи с датчиком - форсмажор. А вот если серверная часть упадёт - моя проблема. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:19 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelНу перезагрузка компа всяко не уложиться. Тогда и не подписывайтесь под тем, чего не можете выполнить. :) Тут надо загрублять требования (описывать ситуаци форсмажора), ну и искать пути дублирования. функций (что правда тоже чревато). AltCtrlDelДатчики шлют через интернет на фиксированный IP. В каком смысле мультиплексированным, не совсем понял. Либо датчик шлет на два (или более) адреса, либо несколько приемников ловят один сигнал (или начинают ловить по смерти соседа). А по кластеры почитать надо, чтобы понимать на какие грабли люди уже наступали и где дорожки протоптали. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:33 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelСкажем так. Разрыв канала связи с датчиком - форсмажор. А вот если серверная часть упадёт - моя проблема. Любой приличный датчик имеет внутренний буфер, достаточный чтобы обойтись пару часов а то и дней без связи с внешним миром. Пофиг что упало - сервер или канал. PS: Но про то, что датчик будет писать прямо в базу - сразу забудь. PPS: Cache вам в руки. Чтобы мало не показалось. Posted via ActualForum NNTP Server 1.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:34 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Сергей АрсеньевА по кластеры почитать надо, чтобы понимать на какие грабли люди уже наступали и где дорожки протоптали. Не посоветуете ли что и где почитать? И так никто конретную субд и не предложил. Ну хоть какие то рекомендации? Дельфинчика? Слоника? Огненную птичку? Или только оракл на спарке? Свой личный опыт есть, но я его специально не хочу упоминать ибо открыт для нового. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:38 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Dimitry SibiryakovЛюбой приличный датчик имеет внутренний буфер, достаточный чтобы обойтись пару часов а то и дней без связи с внешним миром. Пофиг что упало - сервер или канал. А потом он по быстрому должен всё залить. Что резко увеличивает нагрузку на канал передачи и сервер. Постоянно накапливать данные и отправлять большими порциями датчик не может т.к. их немедленно должны смотреть клиенты - задержка только неск. секунд на время прохождения. Кеширование с нескольких объектов для записи в базу сервером обязательно. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 15:52 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelИ так никто конретную субд и не предложил. 11700774 Вопорс в обвязке. Не в СУБД. СУБД почти любая, под которую найдутся специалисты способный держать ее 24x7 в рамках заданных требований. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 16:06 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Сергей АрсеньевAltCtrlDelИ так никто конретную субд и не предложил. 11700774 Вопорс в обвязке. Не в СУБД. СУБД почти любая, под которую найдутся специалисты способный держать ее 24x7 в рамках заданных требований.В подобных системах почти поголовно стоит MSSQL. Но исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 18:20 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
SiemarglВ подобных системах почти поголовно стоит MSSQL. почему? SiemarglНо исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать. Не флейма ради. Поправте меня, в чём я не прав. Это соответствует хотелкам начальства с небольшим моим "прозапасом", чтоб каждые полгода заново не строить. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 18:54 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelSiemarglВ подобных системах почти поголовно стоит MSSQL. почему?Я не знаю причин. Но Intouch, WinCC, IFix (Proficy), Genesis вместе 95% рынка. И все основываются на MSSQL. AltCtrlDel SiemarglНо исходные слишком шапкозакидательские, чтобы вообще что то ТСу предлагать. Не флейма ради. Поправте меня, в чём я не прав. Это соответствует хотелкам начальства с небольшим моим "прозапасом", чтоб каждые полгода заново не строить. 1. Интеллектуальные датчики в кол-ве 1000 шт. Редкость в принципе. Модель можно? 2. 4000 читающих клиентов к _пишущей_ БД. Такое и в OLTP редко встретить, не то что в АСУТП. 3. Кластер и 16Тб. Хотим купить пяток мэйфреймов? ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 21:01 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
Siemargl1. Интеллектуальные датчики в кол-ве 1000 шт. Редкость в принципе. Модель можно? В стартовом сообщении я не писал что это датчики. Я писал что это объекты, реально ПК. Потом уж, отвечая на вопросы про датчики, сам "датчики" написал чтоб не разжёвывать - каюсь. Объектов с ПК до 1000 штук, это с учётом запаса "на вырост". Каналы узкие у некоторых (GPRS). Данные нужны в онлайне (в том числе), т.е. большими блоками отсылать не катит. Siemargl2. 4000 читающих клиентов к _пишущей_ БД. Такое и в OLTP редко встретить, не то что в АСУТП. клиенты по стране разнесены. Я сам предполагаю что реально будет чуть более 2-х читающих на один пишуший, но требуют до 8-ми. И это не в полном смысле АСУТП - "У" управления никакого нет. Siemargl3. Кластер и 16Тб. Хотим купить пяток мэйфреймов? Я написал " (пока не определено), может быть от 2 до 16 Тб". Ну не знаю я как там дальше пойдёт. Понадобится - купят. Давайте пока ограничимся 2Тб. Очень критична надёжность, малые потери в случае восстановления. ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 21:39 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDel, Чтобы не теоретизировать. Я перечислил системы. Можно найти на них доку и почитать, при каких условиях какую нагрузку они несут. Это даст порядок цифр. На память - десяток тысяч записей /сек на среднем ПК. Ну и скачать там демку, почитать опять же доку, можно будет понять как умные люди делали. Разницы нет. Ну 1000 УСПД и АСКУЭ ))) ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 21:55 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
сбор данных по-любому имеет смысл буферизовать, если не нравится хранилище на файловой системе - заведите простую таблицу без индексов и периодический процесс, который из неё будет читать и уже раскладывать всё как надо а так вообще всё сильно зависит от паттернов доступа к данным если всем 4000 одновременным клиентам надо работать одновременно со всеми 16TB - то дела плохи но наверное не всё так плохо, и можно расшардить данные скажем по группам датчиков заявленные объёмы нагрузки не кажутся запредельными, возможно что на нормальном серверном железе даже и шардить не потребуется что касается отказоустойчивости - данные надо реплицировать репликация в том виде, в котором она нормально работает на opensource базах данных - как правило асинхронная, и при падении мастера в момент отставания репликации на slave данные за время отставания могут потеряться оцените эти риски, если пара минут данных может потеряться - может быть вам будет достаточно MySQL или Postrges, с master-slave репликацией и failover на slave если нет - можно синхронно реплицировать данные, которые пишутся на диск, на уровне файловой системы (GFS, DRBD или же hardware-решение, какой-нибудь NetApp Filer) не самое производительное решение, но зато всё очень надёжно - всегда есть физическая копия на соседнем сервере ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 22:33 |
|
Выбрать базу для системы контроля промоборудования
|
|||
---|---|---|---|
#18+
AltCtrlDelОчень критична надёжность, малые потери в случае восстановления. Сейчас я опять буду нудеть: "в случае восстановления" после чего? Какие у вас катастрофические сценарии заложены в ТЗ? Posted via ActualForum NNTP Server 1.4 ... |
|||
:
Нравится:
Не нравится:
|
|||
03.12.2011, 22:51 |
|
|
start [/forum/topic.php?fid=35&msg=37557307&tid=1552609]: |
0ms |
get settings: |
8ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
37ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
62ms |
get tp. blocked users: |
1ms |
others: | 252ms |
total: | 397ms |
0 / 0 |