Все в норме. Поскольку psexec работает через pipes (которые можно посмотреть в Computer management->Open Files или в fsmgmt.msc), то при достижении определенной величины занятых каналов будет отказ в доступе. Закройте соотв. сессии на удаленной машине и попробуйте снова. Возможно, придется перезагрузить... Скорее всего, это следствие злоупотребления закрытием окна консоли до прекращения работы запущенной программы, если запуск производился без ключа -d (не ожидать завершения). Каналы, кстати, занимаются не только на сервере, но и на клиенте!
Консоль на удаленной машине откроется, но вы с клиента ее не увидите, кстати. И придется ждать, пока там ее не закроют, и будет это консоль с системными полномочиями.
Это же не телнет, а просто способ запустить команду на удаленной машине. При первом запуске производится коннект к ресурсу admin$, сброс туда службы psexec, затем ее инсталляция и запуск, затем передача ей команды и останов. Последующее - то же но без копирования и инсталляции. Все на RPC.