Проверка возможна запуском большого количества заданий... =)
Сделать проще всего реализовав циклический старт заданий БЕЗ ожидания завершения (рутинку надо написать простейшую для этого).

Есть ряд параметров, которые влияют на количество заданий (для Linux):
1. См.настройка ядра Linux по семафорам и прочему в документации DS...
2. Количество процессов от имени опр.пользователя (dsadm скажем): ulimit -u
3. Количество файлов, которые может открыть один процесс: ulimit -n
4. GLTABSZ, RLTABSZ, MAXRLOCKS (несмотря на упоминание MFILES по ссылке ниже, лучше его НЕ трогать - не применим для современных систем, больше 500 не встречал, T30FILE описан отдельно)
https://www.ibm.com/support/pages/use-tunable-parameters-uvconfig-file
Наибольшие практические значения GLTABSZ, RLTABSZ, MAXRLOCKS соответственно: 150, 600, 599
5. T30FILE (чтобы начать крутить этот параметр вы должны получить соотв.ошибку, НЕ ранее. Наибольшее значение на практике у меня было 2048)
https://www.ibm.com/support/pages/infosphere-datastage-how-calculate-value-t30file-parameter-uvconfig
6. Тип файла UV.ACCOUNT в каталоге DSEngine (по умолчанию Type 2, но иногда требуется конвертация к Type 30 - dynamic).

Я так понимаю, вы хотите запускать параллельномножество копий одного и того же мелкого задания в несколько экземпляров (мультиинстанционные)? Видимо, для какого-то самописного контроля. И сколько вам нужно? =)

AVRomanenko,
пока ошибки из лога нет, сказать трудно, на что можно посмотреть.
Общее направление я вам дал, как правило проблемы начинаются с системных настроек, хотя всем сразу хочется запустить руки в потрошка DS.
Если запускаете много всего и уходите за пределы оперативки, то при чём тут DataStage?
Запускайте nmon со сбросом в файл 30-и секундными интервалами, пототм анализируйте проблемный период:
NMON Analyzer

AVRomanenko,
можете ещё простой скрипт сделать для вызова вот этих двух команд из-под dsadm (dsenv засурсить не забудьте) для сброса вывода в файл с 30-60 секундным интервалом:
$DSHOME/bin/smat -d < /dev/null
$DSHOME/bin/smat -r < /dev/null

По-моему, вместе можно, но у меня сейчас стенд не под рукой ($DSHOME/bin/smat -dr), d - hash файлы открытые, к - блокировки на движке.
И какая у вас версия?