Если делать ограничение на вставку по COUNT(*) в триггере,
то при многопользовательской работе возможны коллизии.
Нужно будет вставку производить в отдельной транзакции
isc_tpb_protected , с блокировкой всей таблицы целиком.
А это лишняя морока.
Если позволяет задача, то засандаль в таблицу эти свои 5 записей сам,
а в триггере BEFORE INSERT генерируй исключение (EXCEPTION).
И тогда никто в эту таблицу вообще ничего не запишет.
А если надо будет дописать, то можно временно деактивировать триггер,
а потом перевести его обратно в активное состояние.