powered by simpleCommunicator - 2.0.59     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Запись 10К полей посекундно - какая БД справиться?
48 сообщений из 48, показаны все 2 страниц
Запись 10К полей посекундно - какая БД справиться?
    #32670403
hek
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hek
Гость
Нужна база, в которую можно без проблем писать около 10 000 параметров (полей) ежесекундно. Чтение также посекундными запросами (около 15 клиентов). Остальным клиентам информация предоставляется в виде выборки за сутки, например. Смотрю с сторону SyBase IQ 12.5 - кто использовал в подобных задачах насколько эффективно?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32670519
Серега
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hekНужна база, в которую можно без проблем писать около 10 000 параметров (полей) ежесекундно. Чтение также посекундными запросами (около 15 клиентов). Остальным клиентам информация предоставляется в виде выборки за сутки, например. Смотрю с сторону SyBase IQ 12.5 - кто использовал в подобных задачах насколько эффективно?
Я тут прикинул на калькуляторе - без малого миллиард записей в сутки. Скока суток подряд писать надо? Че то фантастическое вырисовывается, ИМХО. Что за задача то?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32670549
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hekНужна база, в которую можно без проблем писать около 10 000 параметров (полей) ежесекундно. Чтение также посекундными запросами (около 15 клиентов). Остальным клиентам информация предоставляется в виде выборки за сутки, например. Смотрю с сторону SyBase IQ 12.5 - кто использовал в подобных задачах насколько эффективно?

Эти 10000 полей - одна запись(для IQ это не проблема)? Писать - имеется ввиду операция insert или загрузка из файла (bulk load)?

Какого типа запросы (ежесекундные)? "выборки за сутки" - что это?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32670601
hek
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hek
Гость
например, 30 суток (месяц) , после этого данные можно архивировать усредняя секундные до минутных. По моим прикидкам для полей типа float(4 байта) на сутки выходит ~ 3Гб, что вполне приемлимо.
Задача же стоит в хранении данных с тучи различных датчиков.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32670609
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Sybase IQ не предназначен для использования как OLTP и эффективно данные подгружает только через LOAD TABLE, который вызывается для подгрузки данных через определенные промежутки времени. Если запросы пользователей должны сразу учитывать добавленные в реалтайме записи, то тут он ничем не поможет. Насколько я знаю, у Sybase на базе ASE сделан RealTime Database Server, можно посмотреть его характеристики.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32670789
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ASCRUSSybase IQ не предназначен для использования как OLTP и эффективно данные подгружает только через LOAD TABLE, который вызывается для подгрузки данных через определенные промежутки времени. Если запросы пользователей должны сразу учитывать добавленные в реалтайме записи, то тут он ничем не поможет. Насколько я знаю, у Sybase на базе ASE сделан RealTime Database Server, можно посмотреть его характеристики.

И да и нет. :)

IQ может потянуть инстерт 3600 записей в час, но надо попробовать(т.к. запись очень широкая).

Если это задача типа: датчики пишут в какой-то фаил(тхт/дбф, цсв), и эти данные надо обрабатывать/хранить - то это классика для IQ, все будет работать ок.

Если хотите грузить инсертами - то надо тестировать. Я бы советовал грузить из фаилов.

Тип данных для IQ подходит. Если число различных значений в одном поле не велико, то данные не плохо сожмутся. Т.е. из планируемых 3ГБх365=~1Tb в IQ будут лежать ~300-400Gb.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671610
Вот и проявилось полное ничтожество Oracle!!!!!!!
У него, по крайней мере в 9.2, в таблице "1000 columns maximum".
"Оракле - мастдай, Сайбэйс - форева!!!" :-)))
P.S. Вообще, постановка задачи дикая. В промышленных решениях применяют связку идентификатор источника - метка времени - значение - идентификатор параметра (необязательно).
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671706
Фотография ну я
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
В одну секунду всего 10К полей и одна запись? Из-за этого маета? Не морочьте людям голову.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671714
Фотография ну я
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Чтобы не быть голословным, код для вставки 10 тыщ значений:
test()
w $zts,!
n i,rec,id,param
s id=$i(^ddd)
f i=1:1:10000 d
. s param=$r(100000)
. s ^ddd(id,i)=param
w $zts,!
q
занимает 60 миллисек на ширпотребной тачке.

Вопрос: что Вы не договариваете?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671763
Антилох
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Когда-то читал в истории создания interbase, что у них есть поля типа "массив" и добавлены они по просьбе каких-то лётчиков, которым "требовалось хранить данные, получаемые
единовременно с большого количества датчиков в БД, и обрабатывать эти данные по горизонтали и по вертикали"

Ктонибудь реально использовал эту фичу ?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671816
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Когда-то читал в истории создания interbase, что у них есть поля типа "массив" и добавлены они по просьбе каких-то лётчиков
Что за чудо-СУБД этот интербейз!
То в танк Абрамсь его поставят (как единственную СУБД, способную выдержать прямое попадание артилеристского снаряда), то в самолет, летающий горизонтально и вертикально...
Если интербейз еще и на подводных лодках стоит - то я его уже боюсь.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671878
Dedushka Mazai
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
стоит - точно стоит. ежели прямое попадание артснаряда выдерживает, то какая-нибудь торпеда - это так, детские игрушки
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671959
DimaR
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
И что будет когда через пол года эксплуатации добавится 10001 датчик?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32671970
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
И что будет когда через пол года эксплуатации добавится 10001 датчик?
подводная лодка утонет?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32672405
hek
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hek
Гость
_Dog
Эти 10000 полей - одна запись(для IQ это не проблема)?

да, одна запись

_Dog
Писать - имеется ввиду операция insert или загрузка из файла (bulk load)?

Не представляю сеье что такое bulk load

_Dog
Какого типа запросы (ежесекундные)? "выборки за сутки" - что это?

Ежесекундные, например, отображается график realtime по одному полю (сумме полей).
Выборка за сутки - чаще по нескольким полям выбрать, например, данные по температуре и давлению чего-то с 8.00 30.08.04 до 08.00 31.08.04, опять же все это на график

ASCRUS
Sybase IQ не предназначен для использования как OLTP и эффективно данные подгружает только через LOAD TABLE, который вызывается для подгрузки данных через определенные промежутки времени. Если запросы пользователей должны сразу учитывать добавленные в реалтайме записи, то тут он ничем не поможет. Насколько я знаю, у Sybase на базе ASE сделан RealTime Database Server, можно посмотреть его характеристики.

Вот-вот, как только записалось, так сразу и считалось - это для ежесекундных запросов.
Что-т информация по RealTime Database Server скудная, а точнее ее совсем нет.

_Dog
Если хотите грузить инсертами - то надо тестировать.

А IQ водится в демо- или пиратской версии вообще?

Велосипедист
В промышленных решениях применяют связку идентификатор источника - метка времени - значение - идентификатор параметра (необязательно).

Да, есть и такой вариант реализации, просто решил копнуть, может что-то придумали лучшее (более естественное чтоли).

Ну я
Чтобы не быть голословным, код для вставки 10 тыщ значений:
test()
w $zts,!
n i,rec,id,param
s id=$i(^ddd)
f i=1:1:10000 d
. s param=$r(100000)
. s ^ddd(id,i)=param
w $zts,!
q
занимает 60 миллисек на ширпотребной тачке.

Вопрос: что Вы не договариваете?

А вот такая у нас незадача случается при тесте на MSSQL. Пишется 10 полей ежесекундно (CBuilder через ADO) ... и в сутки терятся от 10-50 записей.

DimaR
И что будет когда через пол года эксплуатации добавится 10001 датчик?

Да кстати, а что будет, если нужно через некоторое время в IQ добавить пару десятков полей?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32672412
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hek _Dog
Эти 10000 полей - одна запись(для IQ это не проблема)?

да, одна запись

для IQ это не проблема


Не представляю сеье что такое bulk load


ето когда записи первоначально поступают в какой то файл который считывается IQ


Что-т информация по RealTime Database Server скудная, а точнее ее совсем нет. ИМЧО - ето не о Вашей проблеме.

А IQ водится в демо- или пиратской версии вообще?
Не знаю как с етим там где жы сидите, в моей стране мне был привезен компакт и проведены курсы/демонстрации (2х6-8 часов) .

Да кстати, а что будет, если нужно через некоторое время в IQ добавить пару десятков полей?
ето цовсем без проблем. хоть несколько, хоть несколько тысяч.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32672423
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
_Dog ИМЧО , цовсем
ИМХО и совсем

советую обратиться в локальный сайбеис. Ети выборки - по моему для них не обязательно иметь IQ (IQ на них чудес скорее всего не покажет, вот если бы посчитать ету кучу данных...)
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32672559
andsm
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hekА вот такая у нас незадача случается при тесте на MSSQL. Пишется 10 полей ежесекундно (CBuilder через ADO) ... и в сутки терятся от 10-50 записей.
Если теряются записи, то проблема в программе загрузки или где-то еще раньше. Сколько лет работаю с SQL Server, данные не терялись, за исключением случая когда полетел диск. Если вы так же напишите программу для Sybase IQ или для чего-то другого, что захотите использовать, то будут аналогичные проблемы.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32672906
flaxima
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Когда-то слышал что Berkley DB имеет одну из наилучших скоростей на простых данных.

Может подойдет?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32673226
Фотография Хрен
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
По результатам crash-me из mysql benchmarks - максимальное количество колонок которые держат (в default configuration):

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
DB2 8.1 /odbc            500
frontbase                    >8000
informix 7.24UC5       5888
interbase 7.0              4759
mimer 8.2/odbc         252
mimer 9.1/odbc         252
msql                           75
ms-sql8.0/odbc         1024
mysql 4.1(myisam)  2599
mysql 4.1(innodb)    1000
oracle 9i(win)            1000
postgres 7.4.5          1600
sapdb7.5                   1023
solid 03.00                1000
sqlite 2.8.0                >8000
sybase asa8/odbc    >8000
sybase ASE11.03      250

А вообще таблица с таким количеством полей говорит скорее о неправильном пректировании. я думаю вам даже проиндексировать ее эффективно неудастся.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32673242
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторя думаю вам даже проиндексировать ее эффективно неудастся.
Почему же? Всего 10000 индексов - и золотой ключик у нас в кармане.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674370
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ХренПо результатам crash-me из mysql benchmarks - максимальное количество колонок которые держат (в default configuration):

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
DB2 8.1 /odbc            500
frontbase                    >8000
informix 7.24UC5       5888
interbase 7.0              4759
mimer 8.2/odbc         252
mimer 9.1/odbc         252
msql                           75
ms-sql8.0/odbc         1024
mysql 4.1(myisam)  2599
mysql 4.1(innodb)    1000
oracle 9i(win)            1000
postgres 7.4.5          1600
sapdb7.5                   1023
solid 03.00                1000
sqlite 2.8.0                >8000
sybase asa8/odbc    >8000
sybase ASE11.03      250

А вообще таблица с таким количеством полей говорит скорее о неправильном пректировании. я думаю вам даже проиндексировать ее эффективно неудастся.

В IQ каждое поле автоматически проиндексировано. Такие вот чудеса, г-н Хрен. Полей может быть 16000(в настояшей версии). И повторюсь, размер полностью проиндексирожанной базы будет меньше объема исходных данных
По пожоду оптимальности, кроме 3NF, сушествуют и другие схемы...
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674386
Фотография Хрен
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ой..
г-н Dog, возможно я слишком старый, но вот не верю я в "серебряную пулю" и "лекарство от всех болезней". Особенно когда говорят о "10..100 увеличении скорости" и о том что нормализация не нужна.

Возможно, что sybase iq и есть тот продукт, который подходит под эту задачу (я нигде и не утверждал что это не так), но скорректировать 10000 индексов раз в секунду - извините, в чудеса не верю. Хотя, конечно от компьютера зависит.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674393
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ХренОй..
г-н Dog, возможно я слишком старый, но вот не верю я в "серебряную пулю" и "лекарство от всех болезней". Особенно когда говорят о "10..100 увеличении скорости" и о том что нормализация не нужна.

Возможно, что sybase iq и есть тот продукт, который подходит под эту задачу (я нигде и не утверждал что это не так), но скорректировать 10000 индексов раз в секунду - извините, в чудеса не верю. Хотя, конечно от компьютера зависит.

изи - тест ит :) и не нужна и 10..100

(подсказка: у него индексы bitwise, не путать с Оракловскими bitmap. совсем не б-трее)

под ету задачу - не знаю подойдет ли, но если задача анализа данных, VLDB и т.п., то IQ очень даже подходит.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674417
Fx400
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
_Dog
изи - тест ит :) и не нужна и 10..100

(подсказка: у него индексы bitwise, не путать с Оракловскими bitmap. совсем не б-трее)

под ету задачу - не знаю подойдет ли, но если задача анализа данных, VLDB и т.п., то IQ очень даже подходит.

да протестировали - tpc-h ровно в 10 раз медленее оракла ... чуда как и предполагалось не произошло.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674418
_Dog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Fx400 _Dog
изи - тест ит :) и не нужна и 10..100

(подсказка: у него индексы bitwise, не путать с Оракловскими bitmap. совсем не б-трее)

под ету задачу - не знаю подойдет ли, но если задача анализа данных, VLDB и т.п., то IQ очень даже подходит.

да протестировали - tpc-h ровно в 10 раз медленее оракла ... чуда как и предполагалось не произошло.

ага. куда уж. http://www.tpc.org/tpch/results/tpch_price_perf_results.asp .
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674423
Fx400
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
да sybase - дешево, согласен. есть субд еще дешевле ... но к чему это ?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674795
jvvjvv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Вот я тут попробовал на Cache 5.0.4 .

Текст программки такой:

k ^base
w !,"Проверка производительности Cache 5.0.4 "
w !,"Формирование в базе 1000 записей по 10000 полей содержащих случайное число"
w !
s begintime=$p($h,",",2)
f i=1:1:1000 f j=1:1:10000 s data=$r(123456789) s ^base("data",i,j)=data
s delta=+$p($h,",",2)-begintime
w !,"Продолжительность : ",delta," сек."
w !,"Производительность : ",1000\delta," записей в секунду"
w !

Результат следующий:

USER> d ^testrecord
Проверка производительности Cache 5.0.4
Формирование в базе 1000 записей по 10000 полей содержащих случайное число

Продолжительность : 48 сек.
Производительность : 20 записей в секунду

USER >
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32674978
jvvjvv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Выяснилось что предыдущий пример показывает не скорость записи, а время, потраченное на формирование значений полей и запись их в базу.
Чтобы проверить сколько времени потребуется на "только запись", я написал следующую программку:
k ^base
w !,"Проверка производительности Cache 5.0.4 "
w !,"Формирование в базе 1000 записей по 10000 полей содержащих случайное число"
w !
s data=""
f i=1:1:20000 s data=data_$c($r(256))
s begintime=$p($h,",",2)
f i=1:1:1000 s ^base("data",i)=data
s delta=+$p($h,",",2)-begintime
w !,"Продолжительность : ",delta," сек."
w !,"Производительность : ",1000\delta," записей в секунду"

Здесь в цикле f i=1:1:20000 s data=data_$c($r(256)) формируется строка из 20000 байт (по 2 байта на датчик) и далее в другом цикле она записывается в базу.

Результат следующий:

USER> d ^testrecord
Проверка производительности Cache 5.0.4
Формирование в базе 1000 записей по 10000 полей содержащих случайное число

Продолжительность : 5 сек.
Производительность : 200 записей в секунду

USER >

Можно сделать вывод что Cache в состоянии записывать данные с нужной автору топика скоростью.
Остается открытым вопрос с какой соростью будет считываться информация с датчиков.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32676609
Игорь_Б
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Господа!
А почему не одно или несколько длинннных полей?
Запаковать/выделить достаточно быстрая операция в любой промышленной СУБД
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32677482
hek
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hek
Гость
Игорь_БГоспода!
А почему не одно или несколько длинннных полей?
Запаковать/выделить достаточно быстрая операция в любой промышленной СУБД
чем дальше тем страшнее :)
ничего не знаю о длинных полях. можешь подкинешь ссылку?
...и потом выдернуть из сайбейс одно поле каждую секунду, будет сподручнее, чем каждую секунду распаковывать некое длинное поле.

2ALL
А писать 10к записей вертикально в MSSQL 2k (по схеме идентификатор - время - значение), этакий цикл на 10к инсертов - это нормально? Справиться ли он ежесекундно?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32678538
Игорь_Б
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
hek Игорь_БГоспода!
А почему не одно или несколько длинннных полей?
Запаковать/выделить достаточно быстрая операция в любой промышленной СУБД
чем дальше тем страшнее :)
ничего не знаю о длинных полях. можешь подкинешь ссылку?
...и потом выдернуть из сайбейс одно поле каждую секунду, будет сподручнее, чем каждую секунду распаковывать некое длинное поле.

2ALL
А писать 10к записей вертикально в MSSQL 2k (по схеме идентификатор - время - значение), этакий цикл на 10к инсертов - это нормально? Справиться ли он ежесекундно?

на первый вопрос:

пример из документации MS SQL 2000:

binary and varbinary
Binary data types of either fixed-length (binary) or variable-length (varbinary).

binary [ ( n ) ]

Fixed-length binary data of n bytes. n must be a value from 1 through 8,000. Storage size is n+4 bytes.

varbinary [ ( n ) ]

Variable-length binary data of n bytes. n must be a value from 1 through 8,000. Storage size is the actual length of the data entered + 4 bytes, not n bytes. The data entered can be 0 bytes in length. The SQL-92 synonym for varbinary is binary varying.



на второй вопрос: 2000 записей -13 мс (MS SQL 2000 Compaq P III 700MHc 384 MB memory с использованием insert ..select... from OPENXML(..))
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32679247
AlexB
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А может просто разбить датчики на неколько групп и для каждой группы сервер?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32679373
hek
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hek
Гость
AlexBА может просто разбить датчики на неколько групп и для каждой группы сервер?
да, решение простое (без групп сервероы) .... и безумно неудобное

Игорь_Б
на второй вопрос: 2000 записей -13 мс (MS SQL 2000 Compaq P III 700MHc 384 MB memory с использованием insert ..select... from OPENXML(..))


вот такие вот неутешительные результаты:

CREATE PROCEDURE dbo.testproc AS
declare @counter integer
set @counter=1
while 1=1
begin
insert into VTable (ID,MeasureDate,Value) VALUES (11,'2004-12-11 13:00:00',0.234523)
set @counter=@counter+1
if(@counter= 2000 )
goto Next
end
Next:
return
GO

все это за 500~600 мс
Тест производился из CBuilder компонентом ADOStoredProc
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32679895
Константин Лисянский
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
insert into ... values - самый медленный способ.
Каждый insert логируется.
insert into ... select должен быстрее работать, поскольку логируется операция вставки сразу многих строк.
Через bcp или bulk load вставка быстрее будет, поскольку эта операция не логируется.

Тем более Вы запускаете свою процедуру через ADO. Наверное, ещё и через сеть?

А обязательно именно каждую секунду вставки сделать или можно массированно загружать через определённые интервалы времени?
Если можно, то надо попробовать через bcp.


С уважением,
Константин Лисянский
http://lissianski.narod.ru
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32680760
f_w_p
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
АнтилохКогда-то читал в истории создания interbase, что у них есть поля типа "массив" и добавлены они по просьбе каких-то лётчиков, которым "требовалось хранить данные, получаемые
единовременно с большого количества датчиков в БД, и обрабатывать эти данные по горизонтали и по вертикали" Кто-нибудь реально использовал эту фичу ?
Не летчиков, а конструкторов фирмы "Боинг". Правда не знаю какое количество датчиков у них было. Сколько надо датчиков при обдуве модели в АД трубе?
P.S. А шуточки про танки и подводные лодки - это отнезнания или от "недостатков" характера?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32680768
f_w_p
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hekНужна база, в которую можно без проблем писать около 10 000 параметров (полей) ежесекундно. Чтение также посекундными запросами (около 15 клиентов). Остальным клиентам информация предоставляется в виде выборки за сутки, например. Смотрю с сторону SyBase IQ 12.5 - кто использовал в подобных задачах насколько эффективно?
Зайди на форум FireBird. Там такие задачи периодически обсуждаются. Кстати, участник форума Zmeishe (если не ошибаюсь) разбирался с массивами. М.б. он тебе чего посоветует.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681160
funikovyuri
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
hek
А писать 10к записей вертикально в MSSQL 2k (по схеме идентификатор - время - значение), этакий цикл на 10к инсертов - это нормально? Справиться ли он ежесекундно?

Более чем, а вот то что 10k полей - нормально я сильно сомневаюсь

Код: plaintext
1.
2.
CREATE PROCEDURE dbo.testproc AS
...
Про SET NOCOUNT ON вы не забыли?


Константин Лисянский
Тем более Вы запускаете свою процедуру через ADO. Наверное, ещё и через сеть?

При чем тут ADO с сетью?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681192
Константин Лисянский
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
При чем тут ADO с сетью?

Мне показалось, что время, которое требуется на запуск ХП по сети может добавить значительно ко времени её выполнения.
Просто, предположение.


С уважением,
Константин Лисянский
http://lissianski.narod.ru
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681245
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
f_w_pP.S. А шуточки про танки и подводные лодки - это отнезнания или от "недостатков" характера?
Это от здорового чувства юмора, которое просыпается каждый раз, когда упоминают систему управления артстрельбой, перезагружающуюся от своих же собственных выстрелов
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681345
Фотография eNose
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
[не активирован]
[не одобрен]
Лох Позорный f_w_pP.S. А шуточки про танки и подводные лодки - это отнезнания или от "недостатков" характера?
Это от здорового чувства юмора, которое просыпается каждый раз, когда упоминают систему управления артстрельбой, перезагружающуюся от своих же собственных выстрелов
ЛП, ничего смешного: когда IB делали (не помню кто, по заказу военного чего-та там в юсе), ДискОнЧип еще не изобрели.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681366
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 eNose
Дабы оффтоп не плодить - запусти в этом разделе форума поиск по слову "Абрамсь"
Оно тебя приведет к подробному обсуждению
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32681749
Фотография eNose
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
[не активирован]
[не одобрен]
Лох Позорный2 eNose
Дабы оффтоп не плодить - запусти в этом разделе форума поиск по слову "Абрамсь"
Оно тебя приведет к подробному обсуждению
Я его видел :-)
И про кнопку РЕСЕТ на пушке знаю
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32682417
f_w_p
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
eNoseЛП, ничего смешного: когда IB делали (не помню кто, по заказу военного чего-та там в юсе), ДискОнЧип еще не изобрели.
Да ты обрати внимание, что шуточки-прибауточки про танк начались, хотя о нем ничего не упоминали вовсе. Вот мне и интересно какая связь между типом данных, введенным в СУБД именно для обработки экспериментальных данных и легендой об "Абрамсе"?
Был IB на танках или нет - недоказуемо. А тип данных есть. Применяется. Тем ни менее сразу шуточки. Поэтому насчет здорового чувства юмора сомнительно.
P.S. Кстати, интересная деталь. На форуме IB/FB подобные задачи обсуждаются и довольно часто, а на остальных все больше склады, бухгалтерии и т.п. К чему бы это?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32682476
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 f_w_p
Обращаю внимание тех кто в танке - шуточки про танк начались после того, как был упомянут самолет. Летающий вертикально и горизонтально.

P.S. Кстати, интересная деталь. На форуме IB/FB подобные задачи обсуждаются и довольно часто, а на остальных все больше склады, бухгалтерии и т.п.
Что обсуждается на форуме IB/FB? Танки и самолеты??? Ну бог в помощь.

З.Ы. Запустил в форуме IB поиск по словам "танк" и "самолет". Опять нашел " Пример разрабоки базы данных для автоматизации ведения огня танком Абрамс. " - 1 штук, и " Легенда гласит, что массивы были введены в IB по просьбе сотрудников фирмы Боинг. " - 1 штук.
К чему бы это?
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32682492
alex_k
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Лох ПозорныйОбращаю внимание тех кто в танке - шуточки про танк начались после того, как был упомянут самолет. Летающий вертикально и горизонтально.
поздравляю тебя соврамши.
про "летающий вертикально и горизонтально" самолет ты упомянул после того как ты же упомянул танк "абрамсь". шуточками это трудно назвать, регина дубовицкая отдыхает, но всеже... как то это действительно нездорОво.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32682515
Фотография Лох Позорный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Да, действительно, не был самолет упомянут. Были упомянуты летчики.
Прошу прощения, самолет я выдумал сам. Летчики летали на танке.

ухожу, ухожу, ухожу.
пусть фанаты IB хоть на самокаты его ставят.
...
Рейтинг: 0 / 0
Запись 10К полей посекундно - какая БД справиться?
    #32683058
f_w_p
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Лох ПозорныйДа, действительно, не был самолет упомянут. Были упомянуты летчики.Прошу прощения, самолет я выдумал сам. Летчики летали на танке.
ухожу, ухожу, ухожу. пусть фанаты IB хоть на самокаты его ставят.
А по-моему летчеком является сам ЛП. Исповедует принцип - "Прилетел, наср...л и улетел". А по существу задачи ничего и не сказал.
...
Рейтинг: 0 / 0
48 сообщений из 48, показаны все 2 страниц
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Запись 10К полей посекундно - какая БД справиться?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]