Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?) / 13 сообщений из 13, страница 1 из 1
16.11.2018, 17:29
    #39734288
HorseJack
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
Всем здравствуйте!
Имеется большой объем записей (более 100 млн.) в одной таблице, которые нужно выгрузить в xlsx файлы по категориям, при этом в одном xlsx файле должны быть строки только одной категории.
Т.е. на выходе что-то в этом роде:
Файл Содержимоекатегория1_01.xlsx 1 млн. записейкатегория1_02.xlsx 1 млн. записейкатегория1_03.xlsx 1 млн. записейкатегория1_04.xlsx 0.2 млн. записейкатегория2_01.xlsx 1 млн. записейкатегория2_02.xlsx 0.8 млн. записейкатегория3_01.xlsx 0.1 млн. записейкатегория4_01.xlsx 0.02 млн. записей...
Пока есть мысль создать поле в таблице, которое заполнить требуемым именем файла, через T-SQL прописать чтобы одно имя файла было не более чем в 1 млн строк, а потом циклом через SSIS выгрузить xlsx файлы.
Сомнения:
1) усложнение через доп T-SQL процедуры
2) SSIS может начать выдавать не очень хорошие файлы на масштабах, близких к максимальному размеру по количеству строк. Типа файлы будут выдаваться как corrupted

Есть другая идея:
1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.

Так вот, может есть в SSIS какой-то готовый подход по порционной выгрузке больших таблиц на диск?
...
Рейтинг: 0 / 0
16.11.2018, 18:20
    #39734302
vborets
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
...
Рейтинг: 0 / 0
16.11.2018, 18:31
    #39734308
TaPaK
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJack,

автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.
bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать
...
Рейтинг: 0 / 0
16.11.2018, 18:32
    #39734309
TaPaK
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
vboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
делайте что угодно, кроме того, что надо?
...
Рейтинг: 0 / 0
16.11.2018, 18:47
    #39734315
HorseJack
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
TaPaKHorseJack,

автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.
bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать
спасибо, в принципе рабочий вариант. Пошерстю какие форматы Excel может из коробки делать.
...
Рейтинг: 0 / 0
16.11.2018, 18:47
    #39734316
HorseJack
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
vboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
кубы будут делать другие люди, которым я передам эти xlsx файлы
...
Рейтинг: 0 / 0
16.11.2018, 18:53
    #39734317
TaPaK
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJackvboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
кубы будут делать другие люди, которым я передам эти xlsx файлы
зачем тогда дробить по млн? слить всё в один или по категориям
...
Рейтинг: 0 / 0
16.11.2018, 19:00
    #39734319
HorseJack
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
TaPaKHorseJackпропущено...

кубы будут делать другие люди, которым я передам эти xlsx файлы
зачем тогда дробить по млн? слить всё в один или по категориям
В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
...
Рейтинг: 0 / 0
16.11.2018, 19:08
    #39734321
TaPaK
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJackTaPaKпропущено...

зачем тогда дробить по млн? слить всё в один или по категориям
В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
а зачем вообще в excel открывать?
...
Рейтинг: 0 / 0
16.11.2018, 19:42
    #39734334
HorseJack
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
TaPaKHorseJackпропущено...

В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
а зачем вообще в excel открывать?Требование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать.
...
Рейтинг: 0 / 0
16.11.2018, 22:34
    #39734401
TaPaK
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJack,

Я всегда восхищаюсь людьми которые могу смотреть на 100кк записей
...
Рейтинг: 0 / 0
16.11.2018, 23:06
    #39734409
PizzaPizza
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
HorseJackТребование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать.

Сочувствую. И вам и тому, кто будет просматривать это в Экселе. Ему всего то три года понадобится (он же "хорошо это умеет делать") если он перестает есть, спать, ходить в туалет и будет тратить по секунде на запись. Может быть ему посоветовать научится работать с бд? Хотя нет, о чем я, это утопия!
...
Рейтинг: 0 / 0
17.11.2018, 12:01
    #39734481
Владислав Колосов
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
Это классический цирк с вишенкой на торте.
...
Рейтинг: 0 / 0
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?) / 13 сообщений из 13, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]