powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Windows [игнор отключен] [закрыт для гостей] / Как переписать миллион файлов?
18 сообщений из 18, страница 1 из 1
Как переписать миллион файлов?
    #35131446
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер под управлением Linux.

Если пытаться их переписать через дримвиевер то комп зависает на всю ночь на попытке определить какие файлы надо обновить.

Пытаюсь их сжать в tar, но AnyZip повис уже на несколько часов в попытке их пересчитать;-(

Чтоже делать?
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35131595
aleks2
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ftp.exe /?
+
батничек.

Оно?
----------------------------------
Ну еще FAR.exe имеет клиента FTP... и умеет копировать гопом.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35131743
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
думаю что нет, этоже самый простой консольный клиент

пофайлово на фтп закачать нереально, посколько перед каждый файлом фтп запросы шлет и получается 1 сек на файл что равно 12 суток = нереально.

вот бы нормальную утилиту чтобы в TAR сжать, или чтонибудь еще что можно в линуксе распоковать через консоль..
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35131999
Фотография 4d_monster
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
в линухе есть unrar и 7zip

IMHO, Mon$te®
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35132206
aleks2
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MProдумаю что нет, этоже самый простой консольный клиент

пофайлово на фтп закачать нереально, посколько перед каждый файлом фтп запросы шлет и получается 1 сек на файл что равно 12 суток = нереально.

вот бы нормальную утилиту чтобы в TAR сжать, или чтонибудь еще что можно в линуксе распоковать через консоль..

Ну да, и эт закачка обломится на 99.99%.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35132895
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
>эт закачка обломится на 99.99%.
и шо?
этож бубль гум (С)

Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133071
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
файлы все в одном каталоге или как-то структурированы?
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133418
Kirill Razuvaev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
>>Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер
>>под управлением Linux.
В свое время был известная задача о том, как максимально быстро передать
10Гб с одного края Америки на другой. И оказалось, что самое быстрое
записать все это на N компакт-дисков и перевезти грузовиком...

С уважением,
Кирилл Разуваев


Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133691
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Файлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133726
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MproФайлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.Своя прога тоже вряд ли поможет. Структурируйте по каталогам. Иначе тормозить будет любая прога. Во многих случаях время обработки таких каталогов растет квадратично относительно количества файлов в нем.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133793
Фотография OreL
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Kirill Razuvaev
>>Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер
>>под управлением Linux.
В свое время был известная задача о том, как максимально быстро передать
10Гб с одного края Америки на другой. И оказалось, что самое быстрое
записать все это на N компакт-дисков и перевезти грузовиком...

С уважением,
Кирилл Разуваев


Posted via ActualForum NNTP Server 1.4

+1
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133954
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Дело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.

OreL - вы кстати тоже ковырялись с этим вопросом в том году - как решили, залили файлы обратно в базу?
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35133973
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MProДело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.тем более - вам будет несложно ее поправить.

я когда-то пытался оперировать каталогом с 70000 файлов.
когда увидел, что хостинг только оглавление по FTP отдает около минуты - раскидал на 256 каталогов и сразу стало намного лучше.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35134031
Фотография Anatoly Podgoretsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MproФайлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.
Ты с ума сошел, даже простая работа с папкой занимает много времени.
Надо структировать по папкам.
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35134049
Фотография ..:COBECTb:..
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Код: plaintext
tar -czvf - disc1.iso | dd bs=1024k | ssh  192 . 168 . 0 . 1  "(cd /var/ftp/pub && tar -xzvf - )"

COBECTb™ защищена законом ؟؟؟ ©
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35135041
Фотография OreL
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MProДело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.

OreL - вы кстати тоже ковырялись с этим вопросом в том году - как решили, залили файлы обратно в базу?

Напомни в каком топике это было !
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35136171
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Orel - про текдок
...
Рейтинг: 0 / 0
Как переписать миллион файлов?
    #35136599
mpro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
написал свою прогу, все прекрасно пишет на ФТП и после записи каждого файла кидает его в соседнюю папку, чтобы при сбое записывать только новые файлы
...
Рейтинг: 0 / 0
18 сообщений из 18, страница 1 из 1
Форумы / Windows [игнор отключен] [закрыт для гостей] / Как переписать миллион файлов?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]