Гость
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / Экспорт данных из Oracle в Sybase / 18 сообщений из 18, страница 1 из 1
29.11.2011, 11:39
    #37549488
LexMinsk
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
Всем привет.
Имеется:

Код: plaintext
1.
2.
 - Sybase Adaptive Server Enterprise/ 12 . 5 . 3 /EBF  13337  ESD# 7 /P/ia64/HP-UX B. 11 . 23 /ase1253/ 1951 / 64 -bit/OPT/Fri Mar  24   00 : 47 : 27   2006 
 - Oracle Database 11g Enterprise Edition Release  11 . 2 . 0 . 1 . 0  - 64bit Production

Необходимо перекачать (просто перекачать, репликации обновления не рассматриваю) данные из Oracle в Sybase. Порядка 500 Гб. Максимум за сутки.

Как это сделать подскажите?

В руководстве ORACLE TO SYBASE ASE MIGRATION GUIDE описаны следующие способы:
- Unload Oracle data into ASCII-formatted flat files, and load these files into ASE with the Sybase
"bcp" utility. Однако, Oracle выгружает данные в текстовый файл очень медленно.

- Use Sybase Replication Server Heterogeneous Edition (RSHE) for Oracle.
Sybase Replication Server captures database transactions in Oracle and applies these to ASE, thus keeping the
ASE database continuously up-to-date. In addition, Replication Server can also initially copy the full contents
of the Oracle tables into ASE, in order to initialize the data replication ("materialization of the replication
system"). Про это я воообще ничего не знаю, т.к. работаю с Oracle. Подойдет ли мне этот метод и есть ли где описание, как работать с RSHE.
...
Рейтинг: 0 / 0
29.11.2011, 12:13
    #37549574
LexMinsk
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
Либо использовать прокси таблицы? Как они по скорости перекачки?
...
Рейтинг: 0 / 0
29.11.2011, 21:32
    #37550917
ASCRUS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
А структуры баз одинаковые ? Нужны ли проверки целостности, валидность данных или нет ? Если структуры одинаковые и проверки не нужны, то наверное все таки самый быстрый способ через текстовые файлы (Bulk Load). Если структуры не одинаковые или проверки нужны, то задача усложняется. Я бы лично такую задачу реализовал через ETL инструменты, но для этого надо немного знать сам один из ETL продуктов, ну и иметь его инсталляцию естественно.

P.S. Прокси не пойдут. Как Вы себе представляете формирование запроса получения данных на Oracle на таблицу с большим кол-вом данных и запихивание ее в одной транзакции в ASE ? А если даже бить на порции запросами, то производительность тоже не на высоте будет. Ну и плюс если не так что то пойдет, текстовые файлы можно перегрузить с того момента, где был затык, а вот запросами это опять время на получение самих данных с базы источника.
...
Рейтинг: 0 / 0
29.11.2011, 21:36
    #37550929
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
LexMinskВ руководстве ORACLE TO SYBASE ASE MIGRATION GUIDE описаны следующие способы:
- Unload Oracle data into ASCII-formatted flat files, and load these files into ASE with the Sybase
"bcp" utility. Однако, Oracle выгружает данные в текстовый файл очень медленно. В первую очередь я бы попробовал этот вариант. Впрочем, я очень мало работаю с ораклом.

LexMinsk - Use Sybase Replication Server Heterogeneous Edition (RSHE) for Oracle.
...
Про это я воообще ничего не знаю, т.к. работаю с Oracle. Подойдет ли мне этот метод и есть ли где описание, как работать с RSHE.В принципе подойдет, но это уже полноценная репликация. Один раз настроить и оно будет синхронизировать базы годами. Для разовой перекачки данных это из пушки по воробьям.

Есть еще одна утилита которая могла бы помочь - BusinessObjects Data Integrator. Довольно удобная, почти wysiwyg, система. Теоретически это полноценная ETL. По сравнению с Replication Server - убожество. Но для разовых перекачек, особенно если надо сделать простое один-к-одному с минимальной трансляцией - самое то.
...
Рейтинг: 0 / 0
29.11.2011, 23:59
    #37551060
Ggg_old
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
авторОднако, Oracle выгружает данные в текстовый файл очень медленно.
Я с ораклом неработал никогда, но вот эта цитата немного выглядит странно. Надо бы разораться, ибо эта операция должна быть наоборот - самой быстрой у любой субд.
...
Рейтинг: 0 / 0
16.12.2011, 17:23
    #37580262
Alex_496
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
Из Оракла экспорт в текстовые файлы с полями фиксированной ширины, а затем импорт в Sybase из текстовых файлов

Я так из Оракле в Оракле переносил - максимально быстро
...
Рейтинг: 0 / 0
28.12.2011, 21:30
    #37598014
xymbo
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
White Owl,

А чем Replication Server так хорош? Что за продукт, можете подсказать?
...
Рейтинг: 0 / 0
28.12.2011, 22:36
    #37598088
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
xymboWhite Owl,

А чем Replication Server так хорош? Что за продукт, можете подсказать?
http://g.zeos.in/?q=Replication%20Server
...
Рейтинг: 0 / 0
29.12.2011, 10:48
    #37598592
xymbo
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
White OwlxymboWhite Owl,

А чем Replication Server так хорош? Что за продукт, можете подсказать?
http://g.zeos.in/?q=Replication%20Server

Очень помогло

Вы c BO DI плотно работали? И все же, Replication Server это полноценный ETL-инструмент? :)
...
Рейтинг: 0 / 0
29.12.2011, 11:24
    #37598668
Dim2000
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
29.12.2011 11:48, xymbo пишет:

> Replication Server это полноценный ETL-инструмент? :)

Не смешно.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
29.12.2011, 22:21
    #37599707
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
xymboВы c BO DI плотно работали? И все же, Replication Server это полноценный ETL-инструмент? :)Да, юноша.
И RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке.
Те кто использовал обе системы могут их сравнивать и высказывать свои личные мнения. Высказывание этого мнения подразумевает что человек имеет опыт работы с обеими системами. Иначе у него не было бы этого мнения.
Мое личное мнение: RS намного удобнее и надежнее DI. У DI намного ниже порог вхождения, но RS намного быстрее работает и в итоге он намного удобнее, особенно для людей привыкших к скриптам.
Ты можешь иметь свое собственное мнение, противоположное моему и можешь его высказывать. Но пожалуйста, делай это не в форме "а за козла ответишь", а в более конструктивном виде.
Модератор: Все посты с наездами удалены
...
Рейтинг: 0 / 0
30.12.2011, 12:18
    #37600151
ASCRUS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
White OwlИ RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке.
Те кто использовал обе системы могут их сравнивать и высказывать свои личные мнения. Высказывание этого мнения подразумевает что человек имеет опыт работы с обеими системами. Иначе у него не было бы этого мнения.
Мое личное мнение: RS намного удобнее и надежнее DI. У DI намного ниже порог вхождения, но RS намного быстрее работает и в итоге он намного удобнее, особенно для людей привыкших к скриптам.
Replication Server вообще ничего близкого к ETL не имеет. Где там поддержка различных механизмов трансформации данных, где маппирование, где поддержка SCD измерений, поддержка lookup, поддержка CDC промышленных БД и т.д. и т.п. ? ETL это намного больше, чем копировалка данных с поддержкой скриптов, а RS вообще из другой оперы и то, что из него можно сделать копировалку данных не означает, что он стал ETL. Ну с натягом можно назвать ELT, но никак не ETL :)

Всех с Наступающим Новым Годом!
...
Рейтинг: 0 / 0
30.12.2011, 19:03
    #37600562
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
ASCRUSWhite OwlИ RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке.
Replication Server вообще ничего близкого к ETL не имеет.Он решает ETL задачи? Да. Все? Да. Что еще нужно?

ASCRUSETL это намного больше, чем копировалка данных с поддержкой скриптовПрости, но ETL это только копировалка с некоторой трансформацией копируемых данных. Помнишь как ETL расшифровывается?
В конце концов, ETL это вообще процесс а не программа. Если некий программный продукт предназначен для копирования данных с трансформацией - я называю этот продукт ETL'ом.

ASCRUSа RS вообще из другой оперы и то, что из него можно сделать копировалку данных не означает, что он стал ETL. Ну с натягом можно назвать ELT, но никак не ETL :)Ну если только рассуждать так что RS умеет намного больше чем просто выгружать-трансформировать-загружать, и собственно ETL это только малая часть всех умений RS - то тогда, да RS это не ETL.
Так же как орел не птица а самосвал не машина.
...
Рейтинг: 0 / 0
30.12.2011, 19:40
    #37600592
ASCRUS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
White OwlОн решает ETL задачи?
Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин.
...
Рейтинг: 0 / 0
30.12.2011, 20:25
    #37600623
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
ASCRUSWhite OwlОн решает ETL задачи?
Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин.Я вкладываю дословный - Extract-Transform-Load, а ты какой?
...
Рейтинг: 0 / 0
30.12.2011, 23:16
    #37600692
ASCRUS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
White OwlASCRUSпропущено...

Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин.Я вкладываю дословный - Extract-Transform-Load, а ты какой?
Extract - основная задача с любого источника достать информацию любого формата. Под любым источником можно понимать действительно любой, не обязательно РСУБД или файл. Это может быть FTP, поток, веб сервис, LDAP, ERP система, OLAP сервер, MUPS ... что угодно. Так же любым форматом данных не обязательно должен быть формат двумерных данных. Это может быть собственный формат, многомерный куб, XML, формат обмена данными существующих систем и т.д. Так же в задачи Extract входит управление данными источника, это копирование, перемещение, удаление данных, архивирование. Так же важной задачей в данном процессе является поддержка захвата изменений данных (CDC) с источников, что позволяет снизить нагрузки на источник данных при получении данных с него. Так же дополнительной задачей является проверка форматов и наполнения загружаемых данных, с обработкой обнаруженных ошибок.

Transformation - задача преобразовать данные в нужную форму. Это может быть слияние или разделение данных, вычитание, агрегация, сортировка, фильтрация и т.д. Важной отличительной особенностью средств ETL является то, что полностью вся трансформация данных выполняется самим продуктом ETL, без привлечения источников или приемников данных. Это гарантирует высокую скорость трансформации данных и позволяет не нагружать источники и приемники дополнительной работой. К слову сказать, если полученные данные прогружаются на какой то сервер (так называемая стэйджинговая область) и их обработка происходит там путем посыла запросов на сервер, это уже называется ELT (Extract Loading Transforming). Такой подход так же применяется, но ETL назвать его нельзя.

Loading - задача в любой приемник записать информацию нужного формата. Здесь полная аналогия с источником, приемник и формат могут быть разнообразными и не обязательно это РСУБД. Здесь важным моментом является поддержка высокоскоростных интерфейсов приемников по загрузке данных одним блоком, поддержка загрузки записей пакетами, обработка ошибок загрузки записей в приемник. Так же, когда используется в качестве приемника ХД, дополнительно на процесс накладываются требования обеспечить ведение во времени изменений измерений (SCD), ведение синтетических ключей для измерений и фактов, установка синтетических ключей измерений в факты по натуральным (lookup).

Соответственно, если взять к примеру задачу , где нужно по фтп получать события в виде файлов, вытаскивать их и попутно вести архив обработанных файлов, одновременно с РСУБД тащить справочники, с Excel и веб сервисов подгружать дополнительные сведения, все это денормализовывать в звезду и записывать в DWH - это чисто ETL задача, причем достаточно примитивная и любой нормальный продукт ETL должен ее позволить сделать с полпинка без написания каких либо скриптов, не используя в работе процессов никаких РСУБД или сторонних продуктов - собрал данные с источников, обработал на своем инстансе, результат в ХД залил через bulk load. Если все это RS делает ... ну что же, снимаю шляпу и дальше не спорю.
...
Рейтинг: 0 / 0
30.12.2011, 23:47
    #37600705
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
ASCRUSWhite Owlпропущено...
Я вкладываю дословный - Extract-Transform-Load, а ты какой? ну что же, снимаю шляпу и дальше не спорю.
RS изначально задумывался для этого: http://www.sybase.com/files/Data_Sheets/Replication-Server-DS.pdf
По форматам источников-приемников: из коробки RS может напрямую работать с MS SQL, Oracle и DB2, остальное через ODBC.
А физически он тогда действительно не ETL а ELT. RS использует собственный локальный ASE сервер для трансформации данных перед отсылкой в базу приемник (а так же для бекапа и вообще всеобщей синхронизации конечно).
Так что ладно, запинал ты меня, сдаюсь: ELT он, а не ETL.
...
Рейтинг: 0 / 0
31.12.2011, 00:08
    #37600716
ASCRUS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Экспорт данных из Oracle в Sybase
:) Ладно, бог с ним с этими терминами. На самом деле ELT часто хватает выше крыши ;)
...
Рейтинг: 0 / 0
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / Экспорт данных из Oracle в Sybase / 18 сообщений из 18, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]