Если ограничить - это удалять старые при вставке новых, то

Вариант 1: исключить вставку, заменив её на обновление самой старой записи.
Вариант 2: выполнять вставку процедурой, а не запросом, где контролировать количество записей и удалять самые старые при превышении.

Если ограничить - это запретить вставку более заданного количества, то

Вариант 1: выполнять вставку процедурой, а не запросом, где контролировать количество записей и не выполнять вставку при превышении.
Вариант 2: контролировать количество в триггере, при превышении генерировать ошибку.