|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
Всем привет. Имеется: Код: plaintext 1. 2.
Необходимо перекачать (просто перекачать, репликации обновления не рассматриваю) данные из Oracle в Sybase. Порядка 500 Гб. Максимум за сутки. Как это сделать подскажите? В руководстве ORACLE TO SYBASE ASE MIGRATION GUIDE описаны следующие способы: - Unload Oracle data into ASCII-formatted flat files, and load these files into ASE with the Sybase "bcp" utility. Однако, Oracle выгружает данные в текстовый файл очень медленно. - Use Sybase Replication Server Heterogeneous Edition (RSHE) for Oracle. Sybase Replication Server captures database transactions in Oracle and applies these to ASE, thus keeping the ASE database continuously up-to-date. In addition, Replication Server can also initially copy the full contents of the Oracle tables into ASE, in order to initialize the data replication ("materialization of the replication system"). Про это я воообще ничего не знаю, т.к. работаю с Oracle. Подойдет ли мне этот метод и есть ли где описание, как работать с RSHE. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.11.2011, 11:39 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
Либо использовать прокси таблицы? Как они по скорости перекачки? ... |
|||
:
Нравится:
Не нравится:
|
|||
29.11.2011, 12:13 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
А структуры баз одинаковые ? Нужны ли проверки целостности, валидность данных или нет ? Если структуры одинаковые и проверки не нужны, то наверное все таки самый быстрый способ через текстовые файлы (Bulk Load). Если структуры не одинаковые или проверки нужны, то задача усложняется. Я бы лично такую задачу реализовал через ETL инструменты, но для этого надо немного знать сам один из ETL продуктов, ну и иметь его инсталляцию естественно. P.S. Прокси не пойдут. Как Вы себе представляете формирование запроса получения данных на Oracle на таблицу с большим кол-вом данных и запихивание ее в одной транзакции в ASE ? А если даже бить на порции запросами, то производительность тоже не на высоте будет. Ну и плюс если не так что то пойдет, текстовые файлы можно перегрузить с того момента, где был затык, а вот запросами это опять время на получение самих данных с базы источника. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.11.2011, 21:32 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
LexMinskВ руководстве ORACLE TO SYBASE ASE MIGRATION GUIDE описаны следующие способы: - Unload Oracle data into ASCII-formatted flat files, and load these files into ASE with the Sybase "bcp" utility. Однако, Oracle выгружает данные в текстовый файл очень медленно. В первую очередь я бы попробовал этот вариант. Впрочем, я очень мало работаю с ораклом. LexMinsk - Use Sybase Replication Server Heterogeneous Edition (RSHE) for Oracle. ... Про это я воообще ничего не знаю, т.к. работаю с Oracle. Подойдет ли мне этот метод и есть ли где описание, как работать с RSHE.В принципе подойдет, но это уже полноценная репликация. Один раз настроить и оно будет синхронизировать базы годами. Для разовой перекачки данных это из пушки по воробьям. Есть еще одна утилита которая могла бы помочь - BusinessObjects Data Integrator. Довольно удобная, почти wysiwyg, система. Теоретически это полноценная ETL. По сравнению с Replication Server - убожество. Но для разовых перекачек, особенно если надо сделать простое один-к-одному с минимальной трансляцией - самое то. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.11.2011, 21:36 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
авторОднако, Oracle выгружает данные в текстовый файл очень медленно. Я с ораклом неработал никогда, но вот эта цитата немного выглядит странно. Надо бы разораться, ибо эта операция должна быть наоборот - самой быстрой у любой субд. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.11.2011, 23:59 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
Из Оракла экспорт в текстовые файлы с полями фиксированной ширины, а затем импорт в Sybase из текстовых файлов Я так из Оракле в Оракле переносил - максимально быстро ... |
|||
:
Нравится:
Не нравится:
|
|||
16.12.2011, 17:23 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
White Owl, А чем Replication Server так хорош? Что за продукт, можете подсказать? ... |
|||
:
Нравится:
Не нравится:
|
|||
28.12.2011, 21:30 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
xymboWhite Owl, А чем Replication Server так хорош? Что за продукт, можете подсказать? http://g.zeos.in/?q=Replication%20Server ... |
|||
:
Нравится:
Не нравится:
|
|||
28.12.2011, 22:36 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
White OwlxymboWhite Owl, А чем Replication Server так хорош? Что за продукт, можете подсказать? http://g.zeos.in/?q=Replication%20Server Очень помогло Вы c BO DI плотно работали? И все же, Replication Server это полноценный ETL-инструмент? :) ... |
|||
:
Нравится:
Не нравится:
|
|||
29.12.2011, 10:48 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
29.12.2011 11:48, xymbo пишет: > Replication Server это полноценный ETL-инструмент? :) Не смешно. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
29.12.2011, 11:24 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
xymboВы c BO DI плотно работали? И все же, Replication Server это полноценный ETL-инструмент? :)Да, юноша. И RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке. Те кто использовал обе системы могут их сравнивать и высказывать свои личные мнения. Высказывание этого мнения подразумевает что человек имеет опыт работы с обеими системами. Иначе у него не было бы этого мнения. Мое личное мнение: RS намного удобнее и надежнее DI. У DI намного ниже порог вхождения, но RS намного быстрее работает и в итоге он намного удобнее, особенно для людей привыкших к скриптам. Ты можешь иметь свое собственное мнение, противоположное моему и можешь его высказывать. Но пожалуйста, делай это не в форме "а за козла ответишь", а в более конструктивном виде. Модератор: Все посты с наездами удалены ... |
|||
:
Нравится:
Не нравится:
|
|||
29.12.2011, 22:21 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
White OwlИ RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке. Те кто использовал обе системы могут их сравнивать и высказывать свои личные мнения. Высказывание этого мнения подразумевает что человек имеет опыт работы с обеими системами. Иначе у него не было бы этого мнения. Мое личное мнение: RS намного удобнее и надежнее DI. У DI намного ниже порог вхождения, но RS намного быстрее работает и в итоге он намного удобнее, особенно для людей привыкших к скриптам. Replication Server вообще ничего близкого к ETL не имеет. Где там поддержка различных механизмов трансформации данных, где маппирование, где поддержка SCD измерений, поддержка lookup, поддержка CDC промышленных БД и т.д. и т.п. ? ETL это намного больше, чем копировалка данных с поддержкой скриптов, а RS вообще из другой оперы и то, что из него можно сделать копировалку данных не означает, что он стал ETL. Ну с натягом можно назвать ELT, но никак не ETL :) Всех с Наступающим Новым Годом! ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 12:18 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
ASCRUSWhite OwlИ RS и DI это две полноценные ETL системы. Решающие одинаковые задачи и впрямую конкурирующие на рынке. Replication Server вообще ничего близкого к ETL не имеет.Он решает ETL задачи? Да. Все? Да. Что еще нужно? ASCRUSETL это намного больше, чем копировалка данных с поддержкой скриптовПрости, но ETL это только копировалка с некоторой трансформацией копируемых данных. Помнишь как ETL расшифровывается? В конце концов, ETL это вообще процесс а не программа. Если некий программный продукт предназначен для копирования данных с трансформацией - я называю этот продукт ETL'ом. ASCRUSа RS вообще из другой оперы и то, что из него можно сделать копировалку данных не означает, что он стал ETL. Ну с натягом можно назвать ELT, но никак не ETL :)Ну если только рассуждать так что RS умеет намного больше чем просто выгружать-трансформировать-загружать, и собственно ETL это только малая часть всех умений RS - то тогда, да RS это не ETL. Так же как орел не птица а самосвал не машина. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 19:03 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
White OwlОн решает ETL задачи? Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 19:40 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
ASCRUSWhite OwlОн решает ETL задачи? Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин.Я вкладываю дословный - Extract-Transform-Load, а ты какой? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 20:25 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
White OwlASCRUSпропущено... Вот как раз ключевый момент, чтобы не спорить - термин "ETL задачи". Судя по всему я и ты вкладываем разный смысл в этот термин.Я вкладываю дословный - Extract-Transform-Load, а ты какой? Extract - основная задача с любого источника достать информацию любого формата. Под любым источником можно понимать действительно любой, не обязательно РСУБД или файл. Это может быть FTP, поток, веб сервис, LDAP, ERP система, OLAP сервер, MUPS ... что угодно. Так же любым форматом данных не обязательно должен быть формат двумерных данных. Это может быть собственный формат, многомерный куб, XML, формат обмена данными существующих систем и т.д. Так же в задачи Extract входит управление данными источника, это копирование, перемещение, удаление данных, архивирование. Так же важной задачей в данном процессе является поддержка захвата изменений данных (CDC) с источников, что позволяет снизить нагрузки на источник данных при получении данных с него. Так же дополнительной задачей является проверка форматов и наполнения загружаемых данных, с обработкой обнаруженных ошибок. Transformation - задача преобразовать данные в нужную форму. Это может быть слияние или разделение данных, вычитание, агрегация, сортировка, фильтрация и т.д. Важной отличительной особенностью средств ETL является то, что полностью вся трансформация данных выполняется самим продуктом ETL, без привлечения источников или приемников данных. Это гарантирует высокую скорость трансформации данных и позволяет не нагружать источники и приемники дополнительной работой. К слову сказать, если полученные данные прогружаются на какой то сервер (так называемая стэйджинговая область) и их обработка происходит там путем посыла запросов на сервер, это уже называется ELT (Extract Loading Transforming). Такой подход так же применяется, но ETL назвать его нельзя. Loading - задача в любой приемник записать информацию нужного формата. Здесь полная аналогия с источником, приемник и формат могут быть разнообразными и не обязательно это РСУБД. Здесь важным моментом является поддержка высокоскоростных интерфейсов приемников по загрузке данных одним блоком, поддержка загрузки записей пакетами, обработка ошибок загрузки записей в приемник. Так же, когда используется в качестве приемника ХД, дополнительно на процесс накладываются требования обеспечить ведение во времени изменений измерений (SCD), ведение синтетических ключей для измерений и фактов, установка синтетических ключей измерений в факты по натуральным (lookup). Соответственно, если взять к примеру задачу , где нужно по фтп получать события в виде файлов, вытаскивать их и попутно вести архив обработанных файлов, одновременно с РСУБД тащить справочники, с Excel и веб сервисов подгружать дополнительные сведения, все это денормализовывать в звезду и записывать в DWH - это чисто ETL задача, причем достаточно примитивная и любой нормальный продукт ETL должен ее позволить сделать с полпинка без написания каких либо скриптов, не используя в работе процессов никаких РСУБД или сторонних продуктов - собрал данные с источников, обработал на своем инстансе, результат в ХД залил через bulk load. Если все это RS делает ... ну что же, снимаю шляпу и дальше не спорю. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 23:16 |
|
Экспорт данных из Oracle в Sybase
|
|||
---|---|---|---|
#18+
ASCRUSWhite Owlпропущено... Я вкладываю дословный - Extract-Transform-Load, а ты какой? ну что же, снимаю шляпу и дальше не спорю. RS изначально задумывался для этого: http://www.sybase.com/files/Data_Sheets/Replication-Server-DS.pdf По форматам источников-приемников: из коробки RS может напрямую работать с MS SQL, Oracle и DB2, остальное через ODBC. А физически он тогда действительно не ETL а ELT. RS использует собственный локальный ASE сервер для трансформации данных перед отсылкой в базу приемник (а так же для бекапа и вообще всеобщей синхронизации конечно). Так что ладно, запинал ты меня, сдаюсь: ELT он, а не ETL. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.12.2011, 23:47 |
|
|
start [/forum/topic.php?fid=55&msg=37550929&tid=2010194]: |
0ms |
get settings: |
9ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
161ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
58ms |
get tp. blocked users: |
2ms |
others: | 12ms |
total: | 280ms |
0 / 0 |