Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / PHP, Perl, Python [игнор отключен] [закрыт для гостей] / Как читать большой csv файл более 20 000 строк / 9 сообщений из 9, страница 1 из 1
28.06.2016, 11:54
    #39263601
Syrbek
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
Здравствуйте, из-за бюджетного хостинга не успевает крон обработать весь объемный csv файл.
Возможна ли по кускам или менее загрузкой обработать весь файл?
Буду рад любой подсказке. Спасибо.
...
Рейтинг: 0 / 0
28.06.2016, 12:22
    #39263639
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
От алгоритмов обработчика зависит. В общем случае, за каждый запуск правильно сделанного обработчика можно хоть по одной строке перемалывать.
Как вариант, прочитать файл и запихнуть его данные целиком в таблицу БД и там уже построчно обрабатывать.
...
Рейтинг: 0 / 0
28.06.2016, 13:29
    #39263757
r u
r u
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
Syrbek,

обрабатывать кусками. после каждой обработки записывать номер строки на которой остановились. и в след раз просто перематывать к ней. и после нее начинать обработку далее.

а можно заранее разбить файл на более мелкие. и их уже обрабатывать по очереди
...
Рейтинг: 0 / 0
28.06.2016, 15:52
    #39263967
Syrbek
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
Спасибо, всем. Сменили тариф на хостинге. Жадный хостинг не давал такие возможности( Решила аренда VDS
...
Рейтинг: 0 / 0
28.06.2016, 16:08
    #39263982
volodin661
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
всего-то 20 000 строк ?!?
умирающий комар чихнул.

и что же представляет из себя скрипт,
который насилует бюджетный хостинг обработкой csv-файла в 20000 строк,
любопытно?
...
Рейтинг: 0 / 0
28.06.2016, 17:49
    #39264082
Syrbek
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
volodin661всего-то 20 000 строк ?!?
умирающий комар чихнул.

и что же представляет из себя скрипт,
который насилует бюджетный хостинг обработкой csv-файла в 20000 строк,
любопытно?
Даже обычный пример РНР не до конца не дошел. Достигает лимит CPU на хостинге и вырубается молча, останавливается страница обработки.
Пробовал класть файл в MySQL тоже не разрешает хостинг.
А так буду рад полезным советам на будущее)
...
Рейтинг: 0 / 0
29.06.2016, 11:23
    #39264514
vkle
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
Syrbek,

"Класть файл в MySQL" можно не только через LOAD_DATA. Скрипт в несколько строк с этим вполне справляется. Однако, если на хостинге имеется банальная проблема с чтением файла, это уже под вопросом... Что за хостинг и какой тариф?
...
Рейтинг: 0 / 0
30.09.2016, 01:38
    #39318247
Syrbek
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
vkleSyrbek,
"Что за хостинг и какой тариф?
Хостинг timeweb тариф Year+
Может надо разбить файл по 600 или 500 строк и по очереди залить?
Может такой скрипт организовать раз уж процессы малы на хостинге?
...
Рейтинг: 0 / 0
03.10.2016, 12:42
    #39319551
alex564657498765453
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как читать большой csv файл более 20 000 строк
так если задача стоит не грузить сильно процессор, так не грузить. вставлять делей через каждые Н строк.
...
Рейтинг: 0 / 0
Форумы / PHP, Perl, Python [игнор отключен] [закрыт для гостей] / Как читать большой csv файл более 20 000 строк / 9 сообщений из 9, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]