некоторые запросы с использованием Join(использует ещё два запроса, которые работают по отдельности нормально) перестали работать
А поконкретнее, что значит "перестали работать" ? Выдается ошибка, тогда какая ?

наверника гдето изменились настройки у сервера, но где искать то
IMHO никакие настройки не могут повлиять на сам механизм работы JOIN. Можно конечно установить лимит на общее время выполнения запроса или "неправильно" связывать таблицы в JOIN-е, например, по символьным полям с разными collation.

И второе как сделать полный backUp сервера, чтобы потом перестваить на другую машину всебазы.

1. Сделать резервые копии всех баз, включая системные, и восстановить их на новом сервере
2. Скоприровать файлы баз данных(.mdf, .ndf) и журналов транзакций (.ldf) на новый сервер и присоединть.