Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
Добрый день коллеги! Подскажите есть ли такая возможность, чтобы данные не передавались в Stage MAN_MACRORATESVALUES(см. вложенный файл), до тех пор, пока не выполнится запись в Stage InsertDataBlock. А то иногда не успевает записаться и происходит ошибка ссылочных ключей. Мы эту проблему решаем с помощью DataSet-ов и инсерт переносим в другй Джоб, а дальше с помощью последовательных джобов заливаем. Есть другой способ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 15:39 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
Приветствую. Другой(ие) способ(ы) есть, но придётся поправить задание. Connector-ы могут потреблять несколько входных линков, при этом порядок входных линков определяет порядок вставки, там есть возможнось поиграться с транзакционностью и порядком, но это уже мелочи. Смотреть тут . Требование, вроде бы, есть одно - несколько входных линков коннектора должны выходить из предварительно поставленного трансформера, не помню откуда оно мне запало, возможно только при определённых условиях нужно... Разберётесь... А вообще, бывает полезно данные приземлять на диск после большой и сложной обработки, во-первых - бывает, что такая разбивка даёт большую производительность (!), во-вторых, если грохнется заливка в базу - проще будет толкнуть повторную заливку из уже подготовленного набора данных, нежели толкать всю обработку... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:08 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
Да и снимите вы уже констрейнты.... =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:10 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
Hunterik, Спасибо, понял куда копать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:16 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
HunterikДа и снимите вы уже констрейнты.... =) Отлично!! Как я до этого не додумался. ))) Пойду обрадую начальника, скажу нашел решение проблемы. ))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:18 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
Ещё по куску вашего задания: 1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать... Констрейнтами и условиями внутри трансформера определить логику обработки. 2. У вас стоит дедубликатор RemoveDuplicID... Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе. С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию. Сходили бы на базовые курсы. =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:20 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
vadipok Отлично!! Как я до этого не додумался. ))) Пойду обрадую начальника, скажу нашел решение проблемы. ))) Эм... вы только на себя возьмите обязанности по соблюдению целостности... А то такого можете нагрузить. =) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:24 |
|
||
|
DataStage. Есть ли такой функционал?
|
|||
|---|---|---|---|
|
#18+
HunterikЕщё по куску вашего задания: 1. Мне кажется, что было бы лучше три трансформера и фаннел заменить одним трансформером, а может, и копи элемент убрать... Констрейнтами и условиями внутри трансформера определить логику обработки. 2. У вас стоит дедубликатор RemoveDuplicID... Дедубликаторы требуют отсортированного входного потока, если вы не сортируете входной поток, сортировка с 20Мб размером памяти будет вставлена за вас, см. $APT_DUMP_SCORE переменную и вещи типа tsort inserted в логе. С другой стороны, элемент Sort позволяет не только дедуплицировать поток (Allow Duplicates = false), но и управлять памятью, отводимой под данный процесс (Restrict Memory Usage = ...) на партицию. Сходили бы на базовые курсы. =) Этот джоб будут запускать раз в месяц, поэтому удар сделали на понятность, а не на производительность. И строк врят ли будет больше чем есть. Но все равно спасибо за совет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.04.2013, 16:25 |
|
||
|
|

start [/forum/topic.php?fid=43&fpage=35&tid=1601472]: |
0ms |
get settings: |
11ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
38ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
48ms |
get tp. blocked users: |
1ms |
| others: | 271ms |
| total: | 403ms |

| 0 / 0 |
