powered by simpleCommunicator - 2.0.60     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
13 сообщений из 13, страница 1 из 1
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734288
HorseJack
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Всем здравствуйте!
Имеется большой объем записей (более 100 млн.) в одной таблице, которые нужно выгрузить в xlsx файлы по категориям, при этом в одном xlsx файле должны быть строки только одной категории.
Т.е. на выходе что-то в этом роде:
Файл Содержимоекатегория1_01.xlsx 1 млн. записейкатегория1_02.xlsx 1 млн. записейкатегория1_03.xlsx 1 млн. записейкатегория1_04.xlsx 0.2 млн. записейкатегория2_01.xlsx 1 млн. записейкатегория2_02.xlsx 0.8 млн. записейкатегория3_01.xlsx 0.1 млн. записейкатегория4_01.xlsx 0.02 млн. записей...
Пока есть мысль создать поле в таблице, которое заполнить требуемым именем файла, через T-SQL прописать чтобы одно имя файла было не более чем в 1 млн строк, а потом циклом через SSIS выгрузить xlsx файлы.
Сомнения:
1) усложнение через доп T-SQL процедуры
2) SSIS может начать выдавать не очень хорошие файлы на масштабах, близких к максимальному размеру по количеству строк. Типа файлы будут выдаваться как corrupted

Есть другая идея:
1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.

Так вот, может есть в SSIS какой-то готовый подход по порционной выгрузке больших таблиц на диск?
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734302
vborets
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734308
TaPaK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJack,

автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.
bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734309
TaPaK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
vboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
делайте что угодно, кроме того, что надо?
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734315
HorseJack
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
TaPaKHorseJack,

автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк
2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы.
bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать
спасибо, в принципе рабочий вариант. Пошерстю какие форматы Excel может из коробки делать.
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734316
HorseJack
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
vboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
кубы будут делать другие люди, которым я передам эти xlsx файлы
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734317
TaPaK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJackvboretsHorseJack,

В Эксель миллион строк? ха-ха

делайте Куб
кубы будут делать другие люди, которым я передам эти xlsx файлы
зачем тогда дробить по млн? слить всё в один или по категориям
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734319
HorseJack
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
TaPaKHorseJackпропущено...

кубы будут делать другие люди, которым я передам эти xlsx файлы
зачем тогда дробить по млн? слить всё в один или по категориям
В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734321
TaPaK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJackTaPaKпропущено...

зачем тогда дробить по млн? слить всё в один или по категориям
В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
а зачем вообще в excel открывать?
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734334
HorseJack
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
TaPaKHorseJackпропущено...

В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими.
а зачем вообще в excel открывать?Требование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать.
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734401
TaPaK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJack,

Я всегда восхищаюсь людьми которые могу смотреть на 100кк записей
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734409
PizzaPizza
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HorseJackТребование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать.

Сочувствую. И вам и тому, кто будет просматривать это в Экселе. Ему всего то три года понадобится (он же "хорошо это умеет делать") если он перестает есть, спать, ходить в туалет и будет тратить по секунде на запись. Может быть ему посоветовать научится работать с бд? Хотя нет, о чем я, это утопия!
...
Рейтинг: 0 / 0
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
    #39734481
Владислав Колосов
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Это классический цирк с вишенкой на торте.
...
Рейтинг: 0 / 0
13 сообщений из 13, страница 1 из 1
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]