А в чём проблема?

По порядку - проблему с "занятым" модемом пока опустим, ладно ;).
1. Вы соединяетесь с Инетом или с другим сервером - "филиалом"?
2. RRAS объявлен как "LAN and dial-demand routing"?
3. У Вас уже создан Routing Interface?
4. В свойствах интерфейса всё нормально?
5. В NAT вы поместили интерфейс? Он объявлен для доступа к Интету?
5.1 Если для доступа к "филиалу" - чуть по-другому.
6. Для интерфейса Вы создали Static Router?
Удачи!

Да, и ещё. Если Вы хотите dial-demand в инет - DNS сервер не должен быть корневым. Если к филиалу - в Static Router для интерфейса нужно прописать маршрут к сети филиала.
Удачи!

Ага, филиалы! Тогда несколько иначе.
Routing Interface - я имел в виду, создаваемый в оснастке RRAS. Честно говоря, не знал, что его можно создать визардом ;(.
NAT нужен обязательно - а как ещё сервер узнает, что нужно звонить, что обращение к адресу не в локальной сети?
Правда, я не понял - нет только автодозвона, или соединения? На всякий случай (если нет только автодозвона, то для Вас это безусловно, лирика):
Для связи между филиалами я делал так (на NT, на 2000 должно быть так же):
1. Разнести филиалы на разные подсети
2. В свойствах протокола выставить автоматическое получение IP и DNS, если они есть в обоих филиалах
2.1. В NT4 было необходимо сами IP адреса модемов выставлять вручную и ставить их в подсеть, отличающуюся от вызывающей и вызываемой. В Static routers сказать роутинг через эту 3-ю подсеть. М.б., в 2000 это и не нужно, не знаю (проср..ло наше предприятие филиал, так что попробовать не успел;)
3. В интерфесе скажите "Set dial-demand filters" и создайте фильтр
4. Посмотрите, что правильные записи о созданном интерфейсе есть на ветках IP Routing->General, Static Routers, Network Address Tranlation
5. Заведите юзеров в филиале и у себя для интерфейсов.
6. В филиале проделать ту же операцию (создать интерфейс и т.д.)
В целом всё должно заработать.
Удачи!

>NAT нужен для сокрытия реальных IP-адресов сети
Согласен, ляпнул...
Да и вспомнил сейчас, разносит модемы на 3-ю подсеть нужно было при соединении без RRAS, вроде. Так что, с RRAS должно пройти и так.
>сейчас нет автодозвона, так что проверить соединение пока сложно.
Правая кнопка мыши на интерфейсе->Connect.
Удачи!

> RRAS начинает с модемом общаться.
Посмотрите в оснастке RRAS состояние соединения. Если оно "Connecting", попробуте следующее:
1. Самое простое - удалить модем (внимательно удалить), перегрузиться, поставить.
2. Посмотреть - почему сервер решает, что нужно соединение. М.б., уже есть доверительные отношения между: а)доменами б)WINS в)DNS. IMHO, вначачаде нужно добиться соединениня, а затем настроить вервера.
Удачи!