|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Добрый день! Имеется бд размером порядка 50 гигов, т.е. строки исчисляются миллионами. Естественно, обычный импорт в тот же excel формат выдает out of memory. Цель: не нагружая базу экспортировать все строки. Вычитал, что можно использовать TIBSQL (IBX) или pFIBQuery (FIBPlus), однако я понятия не имею что это и как это "включить". Так же вычитал, что можно увеличить лимит памяти, однако так же не имею понятия про это. Выборку делать боюсь, т.к. бд может "задуматься"... Помогите,пожалуйста! ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 11:19 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Дополню, сервер на firebird 2.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 11:55 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Привет, nax83. Можно попробовать частями Код: plsql 1.
С уважением, Polesov. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:07 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
PolesovПривет, nax83. Можно попробовать частями Код: plsql 1.
С уважением, Polesov. можно уточнить? если я делаю выборку по полной - как мне добавить Ваши строки к моей? например select DISTINCT * from MYBASE where MODEL like '%model%' ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:09 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Опять же-выборки делать боюсь глобальные, т.к. база может подвиснуть, а это для нее критично... - насколько Ваш способ частями безопасен? и на сколько частей разбивать.... на 30 частей разбивать бессмысленно... Имеется ли информация насчет способов экспорта безвредных? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:16 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83, RTFM Код: plsql 1. 2. 3.
выберет 1000 записей, начиная с 1001 с учетом сортировки (по первичному ключу, например) следующая порция будет first(1000) skip(2000) и т.д. Параметры для first и skip подберите сами, исходя из структуры таблицы и количества записей. Количество повторений с различным значением skip будет равно как минимум count(*) / [параметр skip] + 1. Как-то так... С уважением, Polesov. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:27 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
IBExpert выгружает в Excel древнего формата. В файл вместится только 65536 строк. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:38 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83Цель: не нагружая базу экспортировать все строки. Экспортировать куда? Используй http://fbexport.sourceforge.net/ Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 12:43 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Экспортировать хоть в текстовик... без разницы куда, лишь бы все поместилось... Может знает кто вкратце способы без sql запроса ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 15:54 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83Может знает кто вкратце способы без sql запроса Ты не поверишь, но SQL запрос это единственный способ общения с SQL сервером. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 16:02 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Так просто захожу в таблицу базы и выбираю экспорт... просто он во время импорта в xml упирается в 65к строк, а если в текстовик-просто виснет и в файл ничего не сохраняется, вот я о чем. вычитал что есть какой-то способ,но какой-без понятия... Polesov, select first(1000) skip(1000) * from MY_TABLE order by PK_ID немного не понял... что за order by PK_ID? т.е. в моем случае будет при выборке в 50 000 строк за заход: select first(50000) skip(0) * from MYBASE where MODEL like '%model%' потом select first(50000) skip(50001) * from MYBASE where MODEL like '%model%' и т.д. ? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 18:44 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83вычитал что есть какой-то способ,но какой-без понятия... Способ простой: выкинуть FBExpert, использовать FBExport. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 18:46 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83Экспортировать хоть в текстовик... без разницы куда, лишь бы все поместилось... Может знает кто вкратце способы без sql запроса Чем тебе экспорт в csv не нравится? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 18:46 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Dimitry Sibiryakovвыкинуть FBExpert, использовать FBExport. Пардон, "выкинуть IBExpert", конечно же. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 19:19 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Dimitry Sibiryakov, FBexpert сможет это сделать без вреда базе одним махом? Gallemar, не пробовал... разве в csv не будет out of memory при импорте? Пользовался только ibexpert'ом да и то без какого либо фанатизма. Буду очень благодарен, если все-же выявите самое верное решение, без танцев с бубном. Боюсь сделать хуже... ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 19:46 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83FBexpert сможет это сделать без вреда базе одним махом? Да. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 19:50 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Dimitry Sibiryakov, Прошу уточнить как это организовать. Быть может, есть какая-то инструкция? Если не сложно потратить пару минут на описание-с меня большущее спасибо. Погуглил-особо ничего не показало толково объясняющее.... ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 20:26 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Я так понял это для linux.... есть для windows аналог? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 20:41 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Спс! прочитал инструкцию. Получается, если моя база лежит на 192.168.5.20 в \dbases\main\BD.FDB и я хочу сохранить все таблицу INFO в файл 111.csv я прописываю через командную строку такую команду: fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO" все верно? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 21:02 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
как правильно добавить чекпоинт и коммит? (полагаю, это снизит нагрузку на базу???) -C # = Checkpoint at # rows [1000] -M Commit at each checkpoint [off] думаю так fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO" -C 10000 -M on Верно ли я написал? 111.csv сохранится на моем компе в одной папке с fbexport.exe ? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 21:20 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83(полагаю, это снизит нагрузку на базу???) Ты неправильно понимаешь. Простой select никакой нагрузки на базу не создаёт. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 21:23 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
Dimitry Sibiryakov, Разве? Всегда считал, что select сразу вешает транзакцию,пока не выполнится до конца, у меня база висла в этот период! Так какие функции я должен включить в свой запрос FBImport'а ? Подскажите как оптимизировать экспорт таблицы бд,занимающей порядка 50 гб.... ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 21:31 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
nax83select сразу вешает транзакцию,пока не выполнится до конца, у меня база висла в этот период! что это за база, которая виснет от старта одной транзакции? nax83Так какие функции я должен включить в свой запрос FBImport'а ? опять перепутал FBExport и FBImport? nax83Подскажите как оптимизировать экспорт таблицы бд,занимающей порядка 50 гб.... для экспорта в csv никакие "чекпойнты" не нужны. это только для импорта. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 22:08 |
|
IBexpert проблема импорта
|
|||
---|---|---|---|
#18+
то-есть я просто выполняю из командной строки fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO" и у меня готовый csv файлик, с предполагаемым размером в несколько гигов?) ... |
|||
:
Нравится:
Не нравится:
|
|||
30.05.2015, 22:11 |
|
|
start [/forum/topic.php?fid=40&fpage=76&tid=1562811]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
31ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
58ms |
get tp. blocked users: |
2ms |
others: | 14ms |
total: | 148ms |
0 / 0 |