|
|
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
kdv AAronпотому что разный опыт. одно дело крутить firebird на рабочей станции, другое - Oracle/DB2/SQL Server на машине за 500К+ вечнозеленых. если это намек на чужой опыт, то не надо грязи. К тому же, тут FB никто не предлагал. человеку пытаются объяснить, что 1. для 50к сек как минимум нужны соответствующие диски (железо) 2. для обработки данных такого объема нужна соответствующая, и возможно специфическая СУБД. GoodkatВообщем, после долгих экспериментов оказалось, что SQLite все-таки может давать такую скорость вы лучше подумайте или объясните, что вы с накопленными данными будете делать. Залить-то можно, вопрос в том, зачем оно нужно, залитое. Например, если посчитать среднее за день, то запросу придется перелопачивать 80 гиг. Сколько времени это будет делать SQLLite? Куда вы будете девать накопленные данные через год, которых накопится под 30 терабайт? Я не говорю, что систему под такую задачу нельзя построить. Можно. Только если ее строить "в лоб", с такими объемами она работать не будет. Разумеется все данные не будут лежать в одной базе - будет разбиение на файлы по 100-500 Мб. Перед непосредственным SQL запросом на чтение нужные файлы отбираются по дополнительной информации (есть промежуточный сервер доступа). По поводу общего объема - вероятно все-таки скорость в 40К в сек не постоянна (но все-таки значительно больше того времени, когда можно было бы обойтись только буферизацией). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 16:32 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
barrabas GoodkatВообщем, после долгих экспериментов оказалось, что SQLite все-таки может давать такую скорость, однако, далеко не с каждой библиотекой доступа. так она вроде блокирует целиком таблицу, если ты будешь один перманентно только писать туда то фиг с ней, а если еще в это время и читать то ёк Да есть такая гадость, но особенность задачи такая, что запросов на чтение очень мало и они не особо критичны по времени исполнения (в разумных пределах), тем более что, как правило, запросы будут к более старым данным, т.е. к базам уже закрытым на запись. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 16:37 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
VoDA kdvне давайте автору топика ложных надежд. скорость вставки - это малая часть задачи. Да, конечно, с такой скоростью вставки справятся большинство серверов. И SQLLite, и MySQL, и Firebird, и PostgreSQL. Весь вопрос в том, что будет когда через месяц в этой системе будет накоплено 2.5 терабайт данных. А также в том, что еще кроме вставки предполагается делать с данными (в том числе во время вставки). Думаю, никто не будет спорить, что упомянутые мной здесь 4 сервера не способны нормально работать с такими объемами. То есть, залить такой объем в них наверняка можно, но вот дальше...и MySQL, и PostgreSQL - работать смогут (по заявлениям с сайтов производителей ))) ) А что такое нормально - это еще вопрос. ИМХО с любой БД больше 10 Gb нужно уметь правильно готовить. А вот из MySQL я больше 4000 в сек выжать не смог :( Из Firebird и того меньше. Может кто подскажет как? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 16:40 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
GoodkatА вот из MySQL я больше 4000 в сек выжать не смог :( Из Firebird и того меньше. Может кто подскажет как?В профильных форумах может кто и подскажет ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 16:52 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
если вам нафиг не нужен функционал БД, используете для промежуточного хранения файлы. Можно сохранять данные даже в "удобоваримом" формате. А затем заливайте их через BULK большими блоками. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 17:26 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
GoodkatА вот из MySQL я больше 4000 в сек выжать не смог :( Из Firebird и того меньше. Может кто подскажет как?А может просто файлы для первичного сохранения информации. Когда идет поток и нужно успеть сохранить все. Может даже в несколько файлов физически лежащих на разных винтах. А уже после прохождения фазы активной записи (отключении базы по вашим словам) - забрасывать это в СУБД для дальнейшего анализа. Если есть возможность - стоит подготовить данные чтобы можно было через спец средства заливать их в СУБД. но это СУБД зависимо и нужно разбираться по месте ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 26.02.2008, 21:29 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
GoodkatВообщем, после долгих экспериментов оказалось, что SQLite все-таки может давать такую скорость, однако, далеко не с каждой библиотекой доступа. Работаю с sqlite на тикле, как-то не заморачивался на сей счет, но на ноуте 30 000 записей в секунду в одной транзакции даже при полной синхронизации пишет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.03.2008, 20:16 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
А как на счет быстрого удаления. Какой алгоритм самого быстрого удаления дубликатов??? Именно быстрого ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2008, 17:25 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
Ivan DurakА как на счет быстрого удаления. Какой алгоритм самого быстрого удаления дубликатов??? Именно быстрого В sqlite при вставке можно в качестве алгоритма разрешения конфликтов указать удаление предыдущей записи. Таким образом, дубликатов гарантированно не будет, как не будет и ошибки при вставке. Если же вас интересует сам алгоритм, смотрите исходники. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.03.2008, 20:41 |
|
||
|
Быстрая запись
|
|||
|---|---|---|---|
|
#18+
MBG Ivan DurakА как на счет быстрого удаления. Какой алгоритм самого быстрого удаления дубликатов??? Именно быстрого В sqlite при вставке можно в качестве алгоритма разрешения конфликтов указать удаление предыдущей записи. Таким образом, дубликатов гарантированно не будет, как не будет и ошибки при вставке. Если же вас интересует сам алгоритм, смотрите исходники. Мне нужны не полные дубликаты удалять, а по определенным полям, и потом не в sqllite а в MSSQL2005 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.03.2008, 10:30 |
|
||
|
|

start [/forum/topic.php?fid=35&gotonew=1&tid=1553151]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
51ms |
get topic data: |
10ms |
get first new msg: |
53ms |
get forum data: |
2ms |
get page messages: |
51ms |
get tp. blocked users: |
1ms |
| others: | 10ms |
| total: | 210ms |

| 0 / 0 |
