|
Импорт данных в JSON формате из файла
|
|||
---|---|---|---|
#18+
Здравствуйте, имеется файл который содержит данные в JSON формате, его размер около 200 гигабайт. Данные имеют следующий формат: Код: html 1.
Мне необходимо импортировать значения из "host" ключа в базу, в колонку host. Опыта у меня не много, и пока что поиск привел только к разным костылям. Например, испорт всего файла в колонку, а затем уже его парсинг ( https://info.crunchydata.com/blog/fast-csv-and-json-ingestion-in-postgresql-with-copy) - что мне кажется не совсем корректно. Даже не знаю сколько это может занять времени для такого большего файла. Прошу подсказать как более грамотно реализовать импорт данных из файлв в JSON формате. Буду рад примерам, это очень мне поможет, спасибо. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.07.2020, 23:10 |
|
Импорт данных в JSON формате из файла
|
|||
---|---|---|---|
#18+
Похоже что PostgreSQL не имеет функции импорта необработанных данных JSON непосредственно из файла. Но я конечно могу ошибаться. Прошу помощи, ведь наверняка кто-то еще сталкивался с подобным. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.07.2020, 23:40 |
|
Импорт данных в JSON формате из файла
|
|||
---|---|---|---|
#18+
Alex_Don Похоже что PostgreSQL не имеет функции импорта необработанных данных JSON непосредственно из файла. Но я конечно могу ошибаться. Прошу помощи, ведь наверняка кто-то еще сталкивался с подобным. ETL это вообще не задача базы... для этого нужно свои тулзы писать или использовать готовые ETL решения с поддержкой postgresql. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2020, 09:43 |
|
Импорт данных в JSON формате из файла
|
|||
---|---|---|---|
#18+
Maxim Boguk, Спасибо за ответ. авторETL это вообще не задача базы... Хм, как то не пришел к этой мысли сам. Как быть в моей ситуации, может быть мне стоит тогда JSON конвентировать в CVS, и уже его импортировать? Тут с CVS форматом не должно быть никаких проблем. Просто из-за отсутствия опыта не могу наиболее корректно решить эту задачу. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2020, 13:11 |
|
Импорт данных в JSON формате из файла
|
|||
---|---|---|---|
#18+
Alex_Don Maxim Boguk, Спасибо за ответ. авторETL это вообще не задача базы... Хм, как то не пришел к этой мысли сам. Как быть в моей ситуации, может быть мне стоит тогда JSON конвентировать в CVS, и уже его импортировать? Тут с CVS форматом не должно быть никаких проблем. Просто из-за отсутствия опыта не могу наиболее корректно решить эту задачу. Да если у вас есть возможность json в csv перевести - то csv вы в базу нормально штатным copy зальете быстро и без проблем. ... |
|||
:
Нравится:
Не нравится:
|
|||
29.07.2020, 14:27 |
|
|
start [/forum/topic.php?fid=53&fpage=24&tid=1994553]: |
0ms |
get settings: |
8ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
39ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
42ms |
get tp. blocked users: |
2ms |
others: | 13ms |
total: | 137ms |
0 / 0 |