Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / DataStage. Есть ли такой функционал? / 8 сообщений из 8, страница 1 из 1
03.04.2013, 15:39
    #38211371
vadipok
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?


Добрый день коллеги!

Подскажите есть ли такая возможность, чтобы данные не передавались в Stage MAN_MACRORATESVALUES(см. вложенный файл), до тех пор, пока не выполнится запись в Stage InsertDataBlock.
А то иногда не успевает записаться и происходит ошибка ссылочных ключей.
Мы эту проблему решаем с помощью DataSet-ов и инсерт переносим в другй Джоб, а дальше с помощью последовательных джобов заливаем.

Есть другой способ?
...
Рейтинг: 0 / 0
03.04.2013, 16:08
    #38211454
Hunterik
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
Приветствую.

Другой(ие) способ(ы) есть, но придётся поправить задание.

Connector-ы могут потреблять несколько входных линков, при этом порядок входных линков определяет порядок вставки, там есть возможнось поиграться с транзакционностью и порядком, но это уже мелочи.
Смотреть тут .
Требование, вроде бы, есть одно - несколько входных линков коннектора должны выходить из предварительно поставленного трансформера, не помню откуда оно мне запало, возможно только при определённых условиях нужно...
Разберётесь...
А вообще, бывает полезно данные приземлять на диск после большой и сложной обработки, во-первых - бывает, что такая разбивка даёт большую производительность (!), во-вторых, если грохнется заливка в базу - проще будет толкнуть повторную заливку из уже подготовленного набора данных, нежели толкать всю обработку...
...
Рейтинг: 0 / 0
03.04.2013, 16:10
    #38211456
Hunterik
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
Да и снимите вы уже констрейнты.... =)
...
Рейтинг: 0 / 0
03.04.2013, 16:16
    #38211480
vadipok
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
Hunterik,

Спасибо, понял куда копать.
...
Рейтинг: 0 / 0
03.04.2013, 16:18
    #38211485
vadipok
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
HunterikДа и снимите вы уже констрейнты.... =)

Отлично!! Как я до этого не додумался. )))
Пойду обрадую начальника, скажу нашел решение проблемы. )))
...
Рейтинг: 0 / 0
03.04.2013, 16:20
    #38211490
Hunterik
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
Ещё по куску вашего задания:
1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать...
Констрейнтами и условиями внутри трансформера определить логику обработки.
2. У вас стоит дедубликатор RemoveDuplicID...
Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе.
С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию.

Сходили бы на базовые курсы. =)
...
Рейтинг: 0 / 0
03.04.2013, 16:24
    #38211500
Hunterik
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
vadipok Отлично!! Как я до этого не додумался. )))
Пойду обрадую начальника, скажу нашел решение проблемы. )))
Эм... вы только на себя возьмите обязанности по соблюдению целостности...
А то такого можете нагрузить. =)
...
Рейтинг: 0 / 0
03.04.2013, 16:25
    #38211503
vadipok
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DataStage. Есть ли такой функционал?
HunterikЕщё по куску вашего задания:
1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать...
Констрейнтами и условиями внутри трансформера определить логику обработки.
2. У вас стоит дедубликатор RemoveDuplicID...
Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе.
С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию.

Сходили бы на базовые курсы. =)

Этот джоб будут запускать раз в месяц, поэтому удар сделали на понятность, а не на производительность.
И строк врят ли будет больше чем есть. Но все равно спасибо за совет.
...
Рейтинг: 0 / 0
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / DataStage. Есть ли такой функционал? / 8 сообщений из 8, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]