Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности

Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
03.04.2013, 15:39
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
Добрый день коллеги! Подскажите есть ли такая возможность, чтобы данные не передавались в Stage MAN_MACRORATESVALUES(см. вложенный файл), до тех пор, пока не выполнится запись в Stage InsertDataBlock. А то иногда не успевает записаться и происходит ошибка ссылочных ключей. Мы эту проблему решаем с помощью DataSet-ов и инсерт переносим в другй Джоб, а дальше с помощью последовательных джобов заливаем. Есть другой способ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:08
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
Приветствую. Другой(ие) способ(ы) есть, но придётся поправить задание. Connector-ы могут потреблять несколько входных линков, при этом порядок входных линков определяет порядок вставки, там есть возможнось поиграться с транзакционностью и порядком, но это уже мелочи. Смотреть тут . Требование, вроде бы, есть одно - несколько входных линков коннектора должны выходить из предварительно поставленного трансформера, не помню откуда оно мне запало, возможно только при определённых условиях нужно... Разберётесь... А вообще, бывает полезно данные приземлять на диск после большой и сложной обработки, во-первых - бывает, что такая разбивка даёт большую производительность (!), во-вторых, если грохнется заливка в базу - проще будет толкнуть повторную заливку из уже подготовленного набора данных, нежели толкать всю обработку... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:10
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
Да и снимите вы уже констрейнты.... =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:16
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
Hunterik, Спасибо, понял куда копать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:18
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
HunterikДа и снимите вы уже констрейнты.... =) Отлично!! Как я до этого не додумался. ))) Пойду обрадую начальника, скажу нашел решение проблемы. ))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:20
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
Ещё по куску вашего задания: 1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать... Констрейнтами и условиями внутри трансформера определить логику обработки. 2. У вас стоит дедубликатор RemoveDuplicID... Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе. С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию. Сходили бы на базовые курсы. =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:24
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
vadipok Отлично!! Как я до этого не додумался. ))) Пойду обрадую начальника, скажу нашел решение проблемы. ))) Эм... вы только на себя возьмите обязанности по соблюдению целостности... А то такого можете нагрузить. =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
03.04.2013, 16:25
|
|||
|---|---|---|---|
DataStage. Есть ли такой функционал? |
|||
|
#18+
HunterikЕщё по куску вашего задания: 1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать... Констрейнтами и условиями внутри трансформера определить логику обработки. 2. У вас стоит дедубликатор RemoveDuplicID... Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе. С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию. Сходили бы на базовые курсы. =) Этот джоб будут запускать раз в месяц, поэтому удар сделали на понятность, а не на производительность. И строк врят ли будет больше чем есть. Но все равно спасибо за совет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|

start [/forum/topic.php?fid=43&tablet=1&tid=1601472]: |
0ms |
get settings: |
9ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
36ms |
get topic data: |
12ms |
get forum data: |
2ms |
get page messages: |
44ms |
get tp. blocked users: |
2ms |
| others: | 281ms |
| total: | 404ms |

| 0 / 0 |
