powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / DataStage. Есть ли такой функционал?
8 сообщений из 8, страница 1 из 1
DataStage. Есть ли такой функционал?
    #38211371
vadipok
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник


Добрый день коллеги!

Подскажите есть ли такая возможность, чтобы данные не передавались в Stage MAN_MACRORATESVALUES(см. вложенный файл), до тех пор, пока не выполнится запись в Stage InsertDataBlock.
А то иногда не успевает записаться и происходит ошибка ссылочных ключей.
Мы эту проблему решаем с помощью DataSet-ов и инсерт переносим в другй Джоб, а дальше с помощью последовательных джобов заливаем.

Есть другой способ?
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211454
Фотография Hunterik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Приветствую.

Другой(ие) способ(ы) есть, но придётся поправить задание.

Connector-ы могут потреблять несколько входных линков, при этом порядок входных линков определяет порядок вставки, там есть возможнось поиграться с транзакционностью и порядком, но это уже мелочи.
Смотреть тут .
Требование, вроде бы, есть одно - несколько входных линков коннектора должны выходить из предварительно поставленного трансформера, не помню откуда оно мне запало, возможно только при определённых условиях нужно...
Разберётесь...
А вообще, бывает полезно данные приземлять на диск после большой и сложной обработки, во-первых - бывает, что такая разбивка даёт большую производительность (!), во-вторых, если грохнется заливка в базу - проще будет толкнуть повторную заливку из уже подготовленного набора данных, нежели толкать всю обработку...
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211456
Фотография Hunterik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Да и снимите вы уже констрейнты.... =)
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211480
vadipok
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hunterik,

Спасибо, понял куда копать.
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211485
vadipok
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HunterikДа и снимите вы уже констрейнты.... =)

Отлично!! Как я до этого не додумался. )))
Пойду обрадую начальника, скажу нашел решение проблемы. )))
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211490
Фотография Hunterik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ещё по куску вашего задания:
1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать...
Констрейнтами и условиями внутри трансформера определить логику обработки.
2. У вас стоит дедубликатор RemoveDuplicID...
Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе.
С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию.

Сходили бы на базовые курсы. =)
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211500
Фотография Hunterik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
vadipok Отлично!! Как я до этого не додумался. )))
Пойду обрадую начальника, скажу нашел решение проблемы. )))
Эм... вы только на себя возьмите обязанности по соблюдению целостности...
А то такого можете нагрузить. =)
...
Рейтинг: 0 / 0
DataStage. Есть ли такой функционал?
    #38211503
vadipok
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HunterikЕщё по куску вашего задания:
1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать...
Констрейнтами и условиями внутри трансформера определить логику обработки.
2. У вас стоит дедубликатор RemoveDuplicID...
Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе.
С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию.

Сходили бы на базовые курсы. =)

Этот джоб будут запускать раз в месяц, поэтому удар сделали на понятность, а не на производительность.
И строк врят ли будет больше чем есть. Но все равно спасибо за совет.
...
Рейтинг: 0 / 0
8 сообщений из 8, страница 1 из 1
Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / DataStage. Есть ли такой функционал?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]