Не важно какая операционная система установлена на сервере.
Важно какие протоколы связи поддерживаются запущенными на сервере демонами.

Если отвлечься от VB, чем ты сейчас можешь работать с сервером?
Через ftp не можешь, а через WinSCP можешь? Если "да" на оба вопроса, то проще всего будет вызывать самого winscp с ключом /console через VB'шный Shell().
Или выкачать PuTTY , и запускать его psftp клиента из VB тоже через Shell(). Лично я предпочитаю putty, потому что он полегче, но это уже дело вкуса.
Как dll ни тот, ни другой работать не будет.

Что за OS такая новая Lunux? Очередная уникальная сборка?