DmGrА можно ли сделать так, чтобы при insert вставлялись только те данные которые проходят ограничение (т.е. новые, которых еще нет в tbl1), и я не получал ошибку.

Как сделать чтобы insert шел не одной транзакцией а кучей отдельных insert-ов

Может какая-нибудь настройка есть?так сделать нельзя, все выражения всегда выполняются в транзакции. но Вы не в ту сторону думаете :)
можно же выбрать только нужные записи, например так:
или написать хранимку в которой в цикле вставлять записи и обрабатывать unique exception