Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
Всем здравствуйте! Имеется большой объем записей (более 100 млн.) в одной таблице, которые нужно выгрузить в xlsx файлы по категориям, при этом в одном xlsx файле должны быть строки только одной категории. Т.е. на выходе что-то в этом роде: Файл Содержимоекатегория1_01.xlsx 1 млн. записейкатегория1_02.xlsx 1 млн. записейкатегория1_03.xlsx 1 млн. записейкатегория1_04.xlsx 0.2 млн. записейкатегория2_01.xlsx 1 млн. записейкатегория2_02.xlsx 0.8 млн. записейкатегория3_01.xlsx 0.1 млн. записейкатегория4_01.xlsx 0.02 млн. записей... Пока есть мысль создать поле в таблице, которое заполнить требуемым именем файла, через T-SQL прописать чтобы одно имя файла было не более чем в 1 млн строк, а потом циклом через SSIS выгрузить xlsx файлы. Сомнения: 1) усложнение через доп T-SQL процедуры 2) SSIS может начать выдавать не очень хорошие файлы на масштабах, близких к максимальному размеру по количеству строк. Типа файлы будут выдаваться как corrupted Есть другая идея: 1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк 2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы. Так вот, может есть в SSIS какой-то готовый подход по порционной выгрузке больших таблиц на диск? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 17:29 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJack, В Эксель миллион строк? ха-ха делайте Куб ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:20 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJack, автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк 2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы. bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:31 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
vboretsHorseJack, В Эксель миллион строк? ха-ха делайте Куб делайте что угодно, кроме того, что надо? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:32 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
TaPaKHorseJack, автор1) выгрузить каждую категорию в свой csv файл, те из них, что больше 1 млн. строк, нарубить при помощи FileSplitter на файлы с нужным количеством строк 2) сделать макрос на VBA в Excel, который пересохранить csv в xlsx файлы. bcp -> csv хоть по млн если надо, потом пересохранить. Всё в одним cmd можно сделать спасибо, в принципе рабочий вариант. Пошерстю какие форматы Excel может из коробки делать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:47 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
vboretsHorseJack, В Эксель миллион строк? ха-ха делайте Куб кубы будут делать другие люди, которым я передам эти xlsx файлы ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:47 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJackvboretsHorseJack, В Эксель миллион строк? ха-ха делайте Куб кубы будут делать другие люди, которым я передам эти xlsx файлы зачем тогда дробить по млн? слить всё в один или по категориям ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 18:53 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
TaPaKHorseJackпропущено... кубы будут делать другие люди, которым я передам эти xlsx файлы зачем тогда дробить по млн? слить всё в один или по категориям В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 19:00 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJackTaPaKпропущено... зачем тогда дробить по млн? слить всё в один или по категориям В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими. а зачем вообще в excel открывать? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 19:08 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
TaPaKHorseJackпропущено... В Excel файле стоит ограничение на 1 млн строк на одном листе, ряд категорий содержит более миллиона строк. Т.е. не получится сделать так: каждая категория в один файл, ряд из них будут слишком большими. а зачем вообще в excel открывать?Требование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 19:42 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJack, Я всегда восхищаюсь людьми которые могу смотреть на 100кк записей ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 22:34 |
|
||
|
Выгрузка из SQL Server большого числа записей в несколько xlsx файлов (SSIS?)
|
|||
|---|---|---|---|
|
#18+
HorseJackТребование заказчика! Их ещё индивидуально будут просматривать и изучать. А тот, кто будет просматривать в экселе хорошо это умеет делать. Сочувствую. И вам и тому, кто будет просматривать это в Экселе. Ему всего то три года понадобится (он же "хорошо это умеет делать") если он перестает есть, спать, ходить в туалет и будет тратить по секунде на запись. Может быть ему посоветовать научится работать с бд? Хотя нет, о чем я, это утопия! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.11.2018, 23:06 |
|
||
|
|

start [/forum/topic.php?fid=46&gotonew=1&tid=1688756]: |
0ms |
get settings: |
8ms |
get forum list: |
15ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
47ms |
get topic data: |
8ms |
get first new msg: |
5ms |
get forum data: |
2ms |
get page messages: |
50ms |
get tp. blocked users: |
1ms |
| others: | 234ms |
| total: | 376ms |

| 0 / 0 |
