powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / IBexpert проблема импорта
25 сообщений из 44, страница 1 из 2
IBexpert проблема импорта
    #38972297
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Добрый день!
Имеется бд размером порядка 50 гигов, т.е. строки исчисляются миллионами.
Естественно, обычный импорт в тот же excel формат выдает out of memory.

Цель:
не нагружая базу экспортировать все строки.

Вычитал, что можно использовать TIBSQL (IBX) или pFIBQuery (FIBPlus), однако я понятия не имею что это и как это "включить".
Так же вычитал, что можно увеличить лимит памяти, однако так же не имею понятия про это.
Выборку делать боюсь, т.к. бд может "задуматься"...

Помогите,пожалуйста!
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972309
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Дополню, сервер на firebird 2.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972312
Polesov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Привет, nax83.

Можно попробовать частями

Код: plsql
1.
select... first... skip... order by...



С уважением, Polesov.
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972313
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
PolesovПривет, nax83.

Можно попробовать частями

Код: plsql
1.
select... first... skip... order by...



С уважением, Polesov.

можно уточнить?
если я делаю выборку по полной - как мне добавить Ваши строки к моей?
например select DISTINCT * from MYBASE where MODEL like '%model%'
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972315
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Опять же-выборки делать боюсь глобальные, т.к. база может подвиснуть, а это для нее критично... - насколько Ваш способ частями безопасен? и на сколько частей разбивать.... на 30 частей разбивать бессмысленно...

Имеется ли информация насчет способов экспорта безвредных?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972321
Polesov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83, RTFM

Код: plsql
1.
2.
3.
select first(1000) skip(1000) *
  from MY_TABLE
 order by PK_ID

выберет 1000 записей, начиная с 1001 с учетом сортировки (по первичному ключу, например)
следующая порция будет first(1000) skip(2000) и т.д.

Параметры для first и skip подберите сами, исходя из структуры таблицы и количества записей. Количество повторений с различным значением skip будет равно как минимум count(*) / [параметр skip] + 1. Как-то так...

С уважением, Polesov.
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972332
Фотография CyberMax
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
IBExpert выгружает в Excel древнего формата. В файл вместится только 65536 строк.
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972334
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83Цель:
не нагружая базу экспортировать все строки.
Экспортировать куда?

Используй http://fbexport.sourceforge.net/
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972405
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Экспортировать хоть в текстовик... без разницы куда, лишь бы все поместилось...

Может знает кто вкратце способы без sql запроса
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972409
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83Может знает кто вкратце способы без sql запроса

Ты не поверишь, но SQL запрос это единственный способ общения с SQL сервером.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972448
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Так просто захожу в таблицу базы и выбираю экспорт... просто он во время импорта в xml упирается в 65к строк, а если в текстовик-просто виснет и в файл ничего не сохраняется, вот я о чем. вычитал что есть какой-то способ,но какой-без понятия...

Polesov,
select first(1000) skip(1000) *
from MY_TABLE
order by PK_ID

немного не понял...
что за order by PK_ID?

т.е. в моем случае будет при выборке в 50 000 строк за заход:
select first(50000) skip(0) * from MYBASE where MODEL like '%model%'

потом

select first(50000) skip(50001) * from MYBASE where MODEL like '%model%'
и т.д. ?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972449
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83вычитал что есть какой-то способ,но какой-без понятия...
Способ простой: выкинуть FBExpert, использовать FBExport.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972450
Фотография Gallemar
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83Экспортировать хоть в текстовик... без разницы куда, лишь бы все поместилось...

Может знает кто вкратце способы без sql запроса
Чем тебе экспорт в csv не нравится?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972457
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakovвыкинуть FBExpert, использовать FBExport.
Пардон, "выкинуть IBExpert", конечно же.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972465
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Dimitry Sibiryakov,
FBexpert сможет это сделать без вреда базе одним махом?


Gallemar,
не пробовал... разве в csv не будет out of memory при импорте?

Пользовался только ibexpert'ом да и то без какого либо фанатизма. Буду очень благодарен, если все-же выявите самое верное решение, без танцев с бубном. Боюсь сделать хуже...
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972469
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83FBexpert сможет это сделать без вреда базе одним махом?
Да.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972476
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Dimitry Sibiryakov,
Прошу уточнить как это организовать. Быть может, есть какая-то инструкция?
Если не сложно потратить пару минут на описание-с меня большущее спасибо. Погуглил-особо ничего не показало толково объясняющее....
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972480
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я так понял это для linux.... есть для windows аналог?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972482
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83,

fbexpOrt

http://fbexport.sourceforge.net/

runs on Windows and Linux
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972487
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Спс! прочитал инструкцию.
Получается, если моя база лежит на 192.168.5.20 в \dbases\main\BD.FDB и я хочу сохранить все таблицу INFO в файл 111.csv

я прописываю через командную строку такую команду:

fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO"

все верно?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972497
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
как правильно добавить чекпоинт и коммит? (полагаю, это снизит нагрузку на базу???)

-C # = Checkpoint at # rows [1000]
-M Commit at each checkpoint [off]


думаю так
fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO" -C 10000 -M on
Верно ли я написал? 111.csv сохранится на моем компе в одной папке с fbexport.exe ?
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972498
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83(полагаю, это снизит нагрузку на базу???)
Ты неправильно понимаешь. Простой select никакой нагрузки на базу не создаёт.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972501
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Dimitry Sibiryakov,
Разве? Всегда считал, что select сразу вешает транзакцию,пока не выполнится до конца, у меня база висла в этот период!

Так какие функции я должен включить в свой запрос FBImport'а ?
Подскажите как оптимизировать экспорт таблицы бд,занимающей порядка 50 гб....
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972506
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
nax83select сразу вешает транзакцию,пока не выполнится до конца, у меня база висла в этот период!
что это за база, которая виснет от старта одной транзакции?

nax83Так какие функции я должен включить в свой запрос FBImport'а ?


опять перепутал FBExport и FBImport?

nax83Подскажите как оптимизировать экспорт таблицы бд,занимающей порядка 50 гб....
для экспорта в csv никакие "чекпойнты" не нужны. это только для импорта.
...
Рейтинг: 0 / 0
IBexpert проблема импорта
    #38972507
nax83
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
то-есть я просто выполняю из командной строки
fbexport -S -H 192.168.5.20 -D \home\dbases\BD.FDB -U sysdba -P masterkey -F 111.csv -Q "SELECT * FROM INFO"
и у меня готовый csv файлик, с предполагаемым размером в несколько гигов?)
...
Рейтинг: 0 / 0
25 сообщений из 44, страница 1 из 2
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / IBexpert проблема импорта
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]