Герой дняНачальник настаивает, что программно вызвать невозможно, однако в админке Hazelcast сервера есть кнопка Run GC, по которой память очищается, то есть HEAP уменьшается.
Вот график до
Вызывать возможно. Гараний что GC запустится и тем более сделает то что вы хотите - нет. Там ещё масса деталей зависит от версии Java. Можно ключом запретить System.gc() вызывать сборку. В какой-то версии System.gc() можно было научить подчищать в PermGen Space. В следующей версии всё поменялось.

Отсюда выводы. Реализовывать логику завязаную на вызов сборки не стоит. Но мониторить и запускать сборку на тестовых серверах вполне себе можно.