Amiri,
Во-первых, для BPM рекомендуется минимальный размер кучи равный максимальному.
Во-вторых, хочу вас поздравить, вы нашли себе проблему, поскольку на 4 гб BPM работать нормально не будет, да еще на Винде. Рассчитывайте на 6, а лучше 8 с отдельной базой данных. Для сервера приложений и БД на одном сервере - от 12 ГБ.
В-третьих, когда запустите BPM на нормальном сервере, включите verbosegc на JVM, снимите статистику GC, пропустите ее через GC Analyzer (или как он там называется в IBM Support Assistant Workbench). Вам будет более-менее понятно, какой размер кучи нужен.
По опыту, несильно нагруженный сервер BPM использует хип 2-4 GB. А на прод-как получится.