Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Windows [игнор отключен] [закрыт для гостей] / Как переписать миллион файлов? / 18 сообщений из 18, страница 1 из 1
14.02.2008, 00:52:01
    #35131446
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер под управлением Linux.

Если пытаться их переписать через дримвиевер то комп зависает на всю ночь на попытке определить какие файлы надо обновить.

Пытаюсь их сжать в tar, но AnyZip повис уже на несколько часов в попытке их пересчитать;-(

Чтоже делать?
...
Рейтинг: 0 / 0
14.02.2008, 07:26:07
    #35131595
aleks2
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
ftp.exe /?
+
батничек.

Оно?
----------------------------------
Ну еще FAR.exe имеет клиента FTP... и умеет копировать гопом.
...
Рейтинг: 0 / 0
14.02.2008, 09:43:39
    #35131743
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
думаю что нет, этоже самый простой консольный клиент

пофайлово на фтп закачать нереально, посколько перед каждый файлом фтп запросы шлет и получается 1 сек на файл что равно 12 суток = нереально.

вот бы нормальную утилиту чтобы в TAR сжать, или чтонибудь еще что можно в линуксе распоковать через консоль..
...
Рейтинг: 0 / 0
14.02.2008, 10:59:58
    #35131999
4d_monster
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
в линухе есть unrar и 7zip

IMHO, Mon$te®
...
Рейтинг: 0 / 0
14.02.2008, 11:53:28
    #35132206
aleks2
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
MProдумаю что нет, этоже самый простой консольный клиент

пофайлово на фтп закачать нереально, посколько перед каждый файлом фтп запросы шлет и получается 1 сек на файл что равно 12 суток = нереально.

вот бы нормальную утилиту чтобы в TAR сжать, или чтонибудь еще что можно в линуксе распоковать через консоль..

Ну да, и эт закачка обломится на 99.99%.
...
Рейтинг: 0 / 0
14.02.2008, 14:33:06
    #35132895
ScareCrow
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
>эт закачка обломится на 99.99%.
и шо?
этож бубль гум (С)

Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
14.02.2008, 15:07:36
    #35133071
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
файлы все в одном каталоге или как-то структурированы?
...
Рейтинг: 0 / 0
14.02.2008, 16:22:24
    #35133418
Kirill Razuvaev
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
>>Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер
>>под управлением Linux.
В свое время был известная задача о том, как максимально быстро передать
10Гб с одного края Америки на другой. И оказалось, что самое быстрое
записать все это на N компакт-дисков и перевезти грузовиком...

С уважением,
Кирилл Разуваев


Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
14.02.2008, 17:26:25
    #35133691
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Файлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.
...
Рейтинг: 0 / 0
14.02.2008, 17:38:20
    #35133726
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
MproФайлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.Своя прога тоже вряд ли поможет. Структурируйте по каталогам. Иначе тормозить будет любая прога. Во многих случаях время обработки таких каталогов растет квадратично относительно количества файлов в нем.
...
Рейтинг: 0 / 0
14.02.2008, 17:53:58
    #35133793
OreL
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Kirill Razuvaev
>>Есть миллион изображений размером 16Гб, надо их переписать на ФТП сервер
>>под управлением Linux.
В свое время был известная задача о том, как максимально быстро передать
10Гб с одного края Америки на другой. И оказалось, что самое быстрое
записать все это на N компакт-дисков и перевезти грузовиком...

С уважением,
Кирилл Разуваев


Posted via ActualForum NNTP Server 1.4

+1
...
Рейтинг: 0 / 0
14.02.2008, 18:52:35
    #35133954
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Дело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.

OreL - вы кстати тоже ковырялись с этим вопросом в том году - как решили, залили файлы обратно в базу?
...
Рейтинг: 0 / 0
14.02.2008, 19:04:01
    #35133973
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
MProДело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.тем более - вам будет несложно ее поправить.

я когда-то пытался оперировать каталогом с 70000 файлов.
когда увидел, что хостинг только оглавление по FTP отдает около минуты - раскидал на 256 каталогов и сразу стало намного лучше.
...
Рейтинг: 0 / 0
14.02.2008, 19:51:08
    #35134031
Anatoly Podgoretsky
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
MproФайлы в одном каталоге, потому и виснут все проги, вот и РАР тоже запис уже на полдня, подожду еще до утра.
Придется свою прогу писать чувствую.
Ты с ума сошел, даже простая работа с папкой занимает много времени.
Надо структировать по папкам.
...
Рейтинг: 0 / 0
14.02.2008, 20:05:05
    #35134049
..:COBECTb:..
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Код: plaintext
tar -czvf - disc1.iso | dd bs=1024k | ssh  192 . 168 . 0 . 1  "(cd /var/ftp/pub && tar -xzvf - )"

COBECTb™ защищена законом ؟؟؟ ©
...
Рейтинг: 0 / 0
15.02.2008, 14:07:48
    #35135041
OreL
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
MProДело в том что экспортировала эти файлы из БД тоже моя прога, и вполне так успешно.

OreL - вы кстати тоже ковырялись с этим вопросом в том году - как решили, залили файлы обратно в базу?

Напомни в каком топике это было !
...
Рейтинг: 0 / 0
15.02.2008, 18:35:28
    #35136171
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
Orel - про текдок
...
Рейтинг: 0 / 0
15.02.2008, 23:57:16
    #35136599
mpro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как переписать миллион файлов?
написал свою прогу, все прекрасно пишет на ФТП и после записи каждого файла кидает его в соседнюю папку, чтобы при сбое записывать только новые файлы
...
Рейтинг: 0 / 0
Форумы / Windows [игнор отключен] [закрыт для гостей] / Как переписать миллион файлов? / 18 сообщений из 18, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]