alexlucas007Я пытался в начале транзакции добавить LOCK TABLES table_name WRITE, и в конце UNLOCK TABLES, но у меня лочатся в итоге вообще все таблицы
Вы определитесь.
Либо Вы организуете указанный набор операций в рамках транзакции - тогда Вам никакие локи не требуются, но нужно правильно выбрать/настроить уровень изоляции.
Либо Вы никаких транзакций не организуете - вот тогда действительно нужно блокировать таблицу. Но учтите, что второй процесс в этом случае будет давать ошибку, в то время как в первом варианте - ожидать окончания первой транзакции, чтобы заблокировать ресурсы для второй (ну или резанётся по тайм-ауту).

Но ещё разумнее просто безусловно добавлять. Но структура таблицы должна содержать уникальный индекс по выражению, по которому Вы собственно проверяете необходимость добавления записи. Тогда при наличии записи будет отказ во вставке по причине нарушения уникальности, и запись не добавится - собственно желаемый результат.