hlopotunВ результате на массовых операциях число постоянно открытых транзакций сильно увеличивается. Я так понимаю это может привести в итоге к истощению памяти и замедлению выборки и сохранения данных.
нет, нет, да.
Потому что версионность. Транзакция с commitretaining длится долго, в результате все версии в БД не превращаются в мусор, мусор не убирается, база пухнет, тормоза растут.
Про вред commitretaining написано тут
http://www.ibase.ru/ibx/
и тут
http://www.ibase.ru/ibtrans/
(искать по слову retain)

Про версионность и сборку мусора тут
http://www.ibase.ru/mga/
http://www.ibase.ru/garbage/
http://www.ibase.ru/sweep/

hlopotunКак лучше всего бороться с этим мусором
пока какая-то транзакция активна, версии, которые ей могут понадобиться (если начнет их читать) не считаются "мусором".
Поэтому sweep запускать бесполезно.
hlopotunrollback всех открытых транзакций в момент завершения программы?
как бы ни завершались транзакции после закрытия программы, они завершаются. С этого момента часть версий в БД можно считать мусором. Что и делают другие транзакции, читающие эти данные. И убирают мусор.

У вас неполные (как минимум) представления о версионности, мусоре в БД и сборке мусора. Советую почитать статьи, указанные выше.