А зачем это говорить IIS серверу, когда почтовый сервер может сам работать без IIS.

Вообще то такие вещи положено говорить сразу, а не потом.
Видимо путь до SMTP сервера закодирован жестко и вряд ли в этом случае врядли удаствя другой настроить. Но можно использовать как релей. Установить локальный сервер и использовать его как релей сервер (то есть пересылающий всю почту на другой, твой сервер), если конечно он сам не сможет работать как основной. Подсказать как не могу, у меня не инсталирован SMTP сервер. Но можно поискать в книгах по администрированию 2003 я в какой то видел и именно в таком режиме.

Попробовать можно, результат зависит от того как сделано у авторов, может они вообще работают без MX, а просто по адресу 127.0.0.1