Триггер может заблокировать вставку текущей записи, чтобы избежать дубликата, либо изменить её так, чтобы дублирование отсутствовало. Однако он не может внести изменения в другие, уже существующие, записи, если дубликаты уже существуют ("Следующим проходом триггера дубликат удалим" - фигвам), а также не "увидит" дублирования параллельных незафиксированных запросов/транзакций ("Триггер не спасет от вставки двух одинаковых значений в конкурентных сессиях").

Иными словами, в указанной постановке и с указанными ограничениями задача нерешаема.