|
ora2pg вопросы по загрузке данных
|
|||
---|---|---|---|
#18+
Добрый день всем ora2pg 20 Настроена через докер ( тут я слаб - помогли умные люди - запускаю черзе git bash примерно так : docker-compose ${override} run ora2pg -d -t COPY --pg_dsn ${PG_DSN} --pg_user ${PG_USER} --pg_pwd ${PG_PWD} ) Source : Oracle Database 12c Enterprise Edition Release 12.2.0.1.0 - 64bit Production мигрируем в Postrges Azure PostgreSQL 10.11, compiled by Visual C++ build 1800, 64-bit (дальше будет 11. версия ) Пока не трогаем пакеты - там будет свистопляска это ясно Чисто данные Тестриую экспорт небольшой схемы без мат.вью (тоже не ясно пока как) Создал DDL таблиц (убрал лишние индексы оставил только PK) Убрал FK в отедльный скприт (чтобы после загрузки данных применит ) SELECT COUNT(*) from t_delivery_log ; -- 8 806 669 там 10 варчар полей - даже Clob нет. 2021-01-14 16:57:56] DEBUG: Formatting bulk of 10000 data (real: 10000 rows) for PostgreSQL. [2021-01-14 16:57:56] DEBUG: Creating output for 10000 tuples [2021-01-14 16:57:56] DEBUG: Sending COPY bulk output directly to PostgreSQL backend [2021-01-14 16:57:57] Extracted records from table T_DELIVERY_LOG: total_records = 3330000 (avg: 2601 recs/sec) [2021-01-14 16:57:57] DEBUG: number of rows 3340000 extracted from table T_DELIVERY_LOG и вот ВПН коннект рвется и все слетает DBD::Oracle::db disconnect failed: ORA-03113: end-of-file on communication channel Process ID: 46502 Session ID: 214 Serial number: 41226 (DBD ERROR: OCISessionEnd) at /usr/local/lib/perl5/site_perl/5.30.0/Ora2Pg.pm line 13678. Aborting export... и что мы имеем - на середине процесса слетело - часть есть, часть нет. В ora2pg есть свитч -a ALLOW догружать споисок таблиц #ALLOW TABLE_TEST 1?) Правильно я понимаю что единств. способ догрузить транкейтнув таргет. таблицы (сравнив каунты сорса и таргета ) и задав спискок нужных таблиц через ключ -a или в конфиге ora2pg. 2?) 8 806 669 грузиться у меня уже больше получаса и это очень ГРУСТНО в других схемах там десятки миллионов (а может и сотни) да еще с CLOB Если кто грузил большие объемы данные может подскажите как ускорить процесс. PS я понbмаю что можно сей процесс сделать с помощью сторонних ETL тулов но это крайний случай в силу особенностей организации тут все секурно и поставить какой-то етл тул (pentaho) можно но сложно хотлеось бы выкрутиться через ora2pg ... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2021, 20:12 |
|
|
start [/forum/topic.php?fid=53&fpage=17&tid=1994271]: |
0ms |
get settings: |
9ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
43ms |
get topic data: |
13ms |
get forum data: |
2ms |
get page messages: |
33ms |
get tp. blocked users: |
2ms |
others: | 11ms |
total: | 134ms |
0 / 0 |