Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется? То есть каждую неделю в папку падает файл данных, у которого есть переменная часть - номер недели года. Как это обрабатывать? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.06.2018, 19:23 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi, In this lesson, you will modify the simple ETL package created in Lesson 1 to take advantage of the Foreach Loop container. You will also set user-defined package variables to enable the tutorial package to iterate through all the flat files in the folder. https://docs.microsoft.com/en-us/sql/integration-services/lesson-2-adding-looping-with-ssis?view=sql-server-2017 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.06.2018, 19:42 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Mind, Спасибо огромное! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.06.2018, 20:12 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Так... доехали до переменной в соединении... В общем так: 18409133 автор Проблему случайно раскрыл. Но в примере микрософта об это ни слова. Соединение при создании является объектом проекта и это происходит по умолчанию. В проекте может быть несколько пакетов и соединение проекта может использоваться в любом пакете. Переменные создаются только в пакете и видны только внутри пакета, но не вне. Соединение как объект проекта видит только параметры проекта, что и наблюдалось. Поэтому соединение проекта не будет видеть переменные пакетов. У соединения проекта в контектном меню есть такая команда: Перестроить в соединение пакета. После этой команды в построителе выражений появляется узел Переменные и параметры уже не пустой. В документации мне это не попадалось. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.06.2018, 16:38 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi, Попробуйте File watcher task http://www.sqlis.com/post/file-watcher-task.aspx Я его юзал в одном проекте, вроде норм. работает. У него есть OutputVariableName: The name of the variable into which the full file path found will be written on completion of the task. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.06.2018, 17:29 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Glebanski, Спасибо, позже посмотрю. Пока стандартное решение устраивает. У меня сейчас другая проблема возникла. Надо в пакет засунуть команды распаковки pgp-файлов, их объединение и распаковка получившегося архива. При этом ещё надо использовать конкретные утилиты - gpg, tar и gz. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.06.2018, 10:35 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi, есть еще вариант - сделать контейнер цикла по файлам. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.06.2018, 10:46 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryiТак... доехали до переменной в соединении... Так это не проблема. Есть минимум два способа решения. 1. Делаете Conn Manager уровня пакета (можете клонировать проектный) и там пользуетесь выражениями с переменными пакета. 2. Делаете параметр проекта. Далее - в expression Conn Manager используете данный параметр. При запуске пакета - указываете значение параметра проекта. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.06.2018, 11:49 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
FerdipuxDaniilSeryiТак... доехали до переменной в соединении... Так это не проблема. Есть минимум два способа решения. 1. Делаете Conn Manager уровня пакета (можете клонировать проектный) и там пользуетесь выражениями с переменными пакета. 2. Делаете параметр проекта. Далее - в expression Conn Manager используете данный параметр. При запуске пакета - указываете значение параметра проекта. Ну да, как раз первый вариант я и задействовал. Владислав Колосов - он и используется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.06.2018, 22:01 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Подниму тему новым вопросом - как в SSIS выполнить набор команд для командной строки? При условии, что этот набор команд не был заранее оформлен в виде .bat файла ? Проблема в том, что задача «Выполнение процесса» / «Execute process» требует на вход .com, .exe. или .bat файл. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 11:56 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi, Создать пакетный файл. Выполнить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 13:35 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
+ удалить пакетный файл. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 13:36 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Владислав КолосовDaniilSeryi, Создать пакетный файл. Выполнить. а это при помощи какой задачи? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 15:01 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryiВладислав КолосовDaniilSeryi, Создать пакетный файл. Выполнить. а это при помощи какой задачи?Все три можно сделать в одной Script Task, на C#. А если логика в оном файле прямолинейная, то возможно получится и без файла обойтись, вызывая оные команды непосредственно из шарпа. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 15:53 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Ennor TiegaelА если логика в оном файле прямолинейная, то возможно получится и без файла обойтись, вызывая оные команды непосредственно из шарпа. А если не линейна, то не получится? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.08.2018, 16:56 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
msLexEnnor TiegaelА если логика в оном файле прямолинейная, то возможно получится и без файла обойтись, вызывая оные команды непосредственно из шарпа. А если не линейна, то не получится? Ну если там IF'ы, или pipelining, или прочее из того же рода, то придется все это имитировать на шарпе. Теоретически написать можно все, другое дело что степень корявости и объем усилий такого результата могут сильно превзойти вариант "сохранить бат-файл, выполнить, удалить". ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.08.2018, 04:31 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryiВладислав КолосовDaniilSeryi, Создать пакетный файл. Выполнить. а это при помощи какой задачи?Можно сделать Data Flow task, в котором источником будет SELECT с содержимым cmd-файла, а приёмником Flat File Destination ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.08.2018, 10:01 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Как понимаю, ещё можно из ScriptTask-a создать .bat файл? В общем, остановился на варианте с запуском нужных команд при помощи "Выполнение процесса" (не помню сейчас, как название на заграничном будет). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.08.2018, 12:45 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi, 1) присвоить нужное имя файла переменной (Script Task) 2) Взять имя файла из переменной ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.08.2018, 14:55 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
a_voroninDaniilSeryi, 1) присвоить нужное имя файла переменной (Script Task) 2) Взять имя файла из переменной Спасибо, так и сделал. Плюс For Each Loop над этим крутится. Теперь другая проблема - в Visual Studio 2015 в Script Task-e с DTS.Variables проблем нет, всё сделано, значения переменных читаются / присваиваются, всё реализовано, проверено, внутреннее тестирование успешно пройдено, а вот в Visual Studio 2008 никак не пойму, как с DTS.Variables работать. Или там другой инструмент для работы с переменными пакета? При этом в обоих случаях все необходимые переменные в ReadOnlyVariables и ReadWriteVariables указаны. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 27.08.2018, 16:04 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryi... Теперь другая проблема - в Visual Studio 2015 в Script Task-e с DTS.Variables проблем нет, всё сделано, значения переменных читаются / присваиваются, всё реализовано, проверено, внутреннее тестирование успешно пройдено, а вот в Visual Studio 2008 никак не пойму, как с DTS.Variables работать. Или там другой инструмент для работы с переменными пакета? При этом в обоих случаях все необходимые переменные в ReadOnlyVariables и ReadWriteVariables указаны. Работа с переменными в SSIS 2008 такая же, объявляете при создании script task какие переменные нужно читать/писать и делаете это. Проекты со script task мигрировали с SSIS 2008 на 2014 без переписывания оных. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.08.2018, 09:41 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
Новая проблема образовалась: число файлов, подлежащих загрузке, достигает нескольких десятков. При этом объём каждого файла - несколько гигабайт и несколько десятков миллионов строк. Как можно ускорить процесс загрузки? Кажется, мне уже советовали грузить файл в несколько потоков. То есть, первый поток грузит первые 4 миллиона строк, второй - следующие 4 миллиона, и т.д. Правильно ли я понимаю, что для каждого потока надо будет создавать новый диспетчер подключения. При этом вся разница между этими диспетчерами будет только в диапазонах строк для загрузки? И что будет, если число строк в файле окажется меньше, чем диапазон строк для загрузке в потоке? Второй вопрос - можно ли аналогично ускорить выгрузку данных в текстовый файл? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.09.2018, 14:21 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryiНовая проблема образовалась: число файлов, подлежащих загрузке, достигает нескольких десятков. При этом объём каждого файла - несколько гигабайт и несколько десятков миллионов строк. Как можно ускорить процесс загрузки? http://henkvandervalk.com/speeding-up-ssis-bulk-inserts-into-sql-server ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.09.2018, 14:27 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
komrad, Благодарю. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.09.2018, 16:06 |
|
||
|
Вопрос по SSIS - как обрабатывать в пакете ситуацию, когда часть имени файла меняется?
|
|||
|---|---|---|---|
|
#18+
DaniilSeryiНовая проблема образовалась: число файлов, подлежащих загрузке, достигает нескольких десятков. При этом объём каждого файла - несколько гигабайт и несколько десятков миллионов строк. Как можно ускорить процесс загрузки? Кажется, мне уже советовали грузить файл в несколько потоков. То есть, первый поток грузит первые 4 миллиона строк, второй - следующие 4 миллиона, и т.д. Правильно ли я понимаю, что для каждого потока надо будет создавать новый диспетчер подключения. При этом вся разница между этими диспетчерами будет только в диапазонах строк для загрузки? И что будет, если число строк в файле окажется меньше, чем диапазон строк для загрузке в потоке?Это сложно. Проще загружать каждый файл в отдельном потоке. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.09.2018, 19:10 |
|
||
|
|

start [/forum/topic.php?fid=46&msg=39704287&tid=1689081]: |
0ms |
get settings: |
9ms |
get forum list: |
20ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
86ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
82ms |
get tp. blocked users: |
2ms |
| others: | 268ms |
| total: | 491ms |

| 0 / 0 |
