powered by simpleCommunicator - 2.0.52     © 2025 Programmizd 02
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Импорт данных в JSON формате из файла
5 сообщений из 5, страница 1 из 1
Импорт данных в JSON формате из файла
    #39984779
Alex_Don
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Здравствуйте, имеется файл который содержит данные в JSON формате, его размер около 200 гигабайт.
Данные имеют следующий формат:

Код: html
1.
{"data":"123","host":"1.14.32.7","port":50880,"vhost":"1.14.32.7"}



Мне необходимо импортировать значения из "host" ключа в базу, в колонку host.
Опыта у меня не много, и пока что поиск привел только к разным костылям. Например, испорт всего файла в колонку, а затем уже его парсинг ( https://info.crunchydata.com/blog/fast-csv-and-json-ingestion-in-postgresql-with-copy) - что мне кажется не совсем корректно. Даже не знаю сколько это может занять времени для такого большего файла.

Прошу подсказать как более грамотно реализовать импорт данных из файлв в JSON формате. Буду рад примерам, это очень мне поможет, спасибо.
...
Рейтинг: 0 / 0
Импорт данных в JSON формате из файла
    #39984782
Alex_Don
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Похоже что PostgreSQL не имеет функции импорта необработанных данных JSON непосредственно из файла. Но я конечно могу ошибаться. Прошу помощи, ведь наверняка кто-то еще сталкивался с подобным.
...
Рейтинг: 0 / 0
Импорт данных в JSON формате из файла
    #39984828
Фотография Maxim Boguk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Alex_Don
Похоже что PostgreSQL не имеет функции импорта необработанных данных JSON непосредственно из файла. Но я конечно могу ошибаться. Прошу помощи, ведь наверняка кто-то еще сталкивался с подобным.


ETL это вообще не задача базы...
для этого нужно свои тулзы писать или использовать готовые ETL решения с поддержкой postgresql.
...
Рейтинг: 0 / 0
Импорт данных в JSON формате из файла
    #39984922
Alex_Don
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Maxim Boguk,

Спасибо за ответ.
авторETL это вообще не задача базы...
Хм, как то не пришел к этой мысли сам. Как быть в моей ситуации, может быть мне стоит тогда JSON конвентировать в CVS, и уже его импортировать? Тут с CVS форматом не должно быть никаких проблем. Просто из-за отсутствия опыта не могу наиболее корректно решить эту задачу.
...
Рейтинг: 0 / 0
Импорт данных в JSON формате из файла
    #39984975
Фотография Maxim Boguk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Alex_Don
Maxim Boguk,

Спасибо за ответ.
авторETL это вообще не задача базы...

Хм, как то не пришел к этой мысли сам. Как быть в моей ситуации, может быть мне стоит тогда JSON конвентировать в CVS, и уже его импортировать? Тут с CVS форматом не должно быть никаких проблем. Просто из-за отсутствия опыта не могу наиболее корректно решить эту задачу.

Да если у вас есть возможность json в csv перевести - то csv вы в базу нормально штатным copy зальете быстро и без проблем.
...
Рейтинг: 0 / 0
5 сообщений из 5, страница 1 из 1
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Импорт данных в JSON формате из файла
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]