powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / ora2pg вопросы по загрузке данных
1 сообщений из 1, страница 1 из 1
ora2pg вопросы по загрузке данных
    #40035942
Гулин Федор
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Добрый день всем
ora2pg 20
Настроена через докер ( тут я слаб - помогли умные люди -
запускаю черзе git bash примерно так :
docker-compose ${override} run ora2pg -d -t COPY --pg_dsn ${PG_DSN} --pg_user ${PG_USER} --pg_pwd ${PG_PWD}
)
Source :
Oracle Database 12c Enterprise Edition Release 12.2.0.1.0 - 64bit Production

мигрируем в Postrges Azure
PostgreSQL 10.11, compiled by Visual C++ build 1800, 64-bit
(дальше будет 11. версия )

Пока не трогаем пакеты - там будет свистопляска это ясно
Чисто данные
Тестриую экспорт небольшой схемы без мат.вью (тоже не ясно пока как)
Создал DDL таблиц
(убрал лишние индексы оставил только PK)
Убрал FK в отедльный скприт (чтобы после загрузки данных применит )

SELECT COUNT(*) from t_delivery_log ; -- 8 806 669
там 10 варчар полей - даже Clob нет.

2021-01-14 16:57:56] DEBUG: Formatting bulk of 10000 data (real: 10000 rows) for PostgreSQL.
[2021-01-14 16:57:56] DEBUG: Creating output for 10000 tuples
[2021-01-14 16:57:56] DEBUG: Sending COPY bulk output directly to PostgreSQL backend
[2021-01-14 16:57:57] Extracted records from table T_DELIVERY_LOG: total_records = 3330000 (avg: 2601 recs/sec)
[2021-01-14 16:57:57] DEBUG: number of rows 3340000 extracted from table T_DELIVERY_LOG

и вот ВПН коннект рвется и все слетает
DBD::Oracle::db disconnect failed: ORA-03113: end-of-file on communication channel
Process ID: 46502
Session ID: 214 Serial number: 41226 (DBD ERROR: OCISessionEnd) at /usr/local/lib/perl5/site_perl/5.30.0/Ora2Pg.pm line 13678.
Aborting export...

и что мы имеем - на середине процесса слетело - часть есть, часть нет.

В ora2pg есть свитч -a ALLOW догружать споисок таблиц

#ALLOW TABLE_TEST

1?) Правильно я понимаю что единств. способ догрузить
транкейтнув таргет. таблицы (сравнив каунты сорса и таргета ) и задав спискок нужных таблиц через ключ -a или в конфиге ora2pg.

2?) 8 806 669 грузиться у меня уже больше получаса и это очень ГРУСТНО
в других схемах там десятки миллионов (а может и сотни) да еще с CLOB

Если кто грузил большие объемы данные
может подскажите как ускорить процесс.

PS я понbмаю что можно сей процесс сделать с помощью сторонних ETL тулов
но это крайний случай
в силу особенностей организации тут все секурно и поставить какой-то етл тул (pentaho)
можно но сложно хотлеось бы выкрутиться через ora2pg
...
Рейтинг: 0 / 0
1 сообщений из 1, страница 1 из 1
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / ora2pg вопросы по загрузке данных
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]