Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
Я новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч. Пожалуйста, помогите найти оптимальный способ. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.12.2005, 14:18 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
Так у вас DWH в реляционной базе? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 08:59 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
SelfCoderЯ новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч. Пожалуйста, помогите найти оптимальный способ. Обновление справочников, даже если они длинные, обычно занимает очень малую долю от обновления хранилища. Так что по поводу оптимизирования сильно не заморачивайтесь. Главное, чтобы обеспечить историчность, то есть сохранить в хранилище все позиции, которые хоть когда-нибудь продавались. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 10:08 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
BormoglotТак у вас DWH в реляционной базе? Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 10:46 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
SelfCoder BormoglotТак у вас DWH в реляционной базе? Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы? Если у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 11:25 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все. Т.е. все строки уже присутствующие в измерении просто обновить (update)? А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 13:43 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все. Т.е. все строки уже присутствующие в измерении просто обновить (update)? А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов? ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 13:50 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
backfire SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все. Т.е. все строки уже присутствующие в измерении просто обновить (update)? А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов? ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда. Много против - это что например? По-моему, запас беды не чинит. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 14:51 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
Виктор Сакович Много против - это что например? По-моему, запас беды не чинит. Ну на счет "много" может я и перегнул, но в AS это может быть пресловутая граница в 64к потомков у одного родителя. (Хотя многие ее просто обходят) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 15:30 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
SelfCoderкак обновлять измерения (справочники)? Ответ на это вопрос зависит от многих вещей: - что вы хотите хранить в истории измерений - какую модель используете для хранения истории - как происходят изменения в источнике Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД? Будете хранить историю изменений товара - названий, каких-либо параметров? Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 20:30 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
backfireно в AS это может быть пресловутая граница в 64к потомков у одного родителя Имеется в виду AS2000. В AS2005 граница расширена до двух миллиардов потомков у одного родителя. Моша ---------------------------------------------------- This posting is provided "AS IS" with no warranties, and confers no rights ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.12.2005, 21:52 |
|
||
|
DWH на MS SQL Server, загрузка данных
|
|||
|---|---|---|---|
|
#18+
Андрей Прохоров Ответ на это вопрос зависит от многих вещей: - что вы хотите хранить в истории измерений - какую модель используете для хранения истории - как происходят изменения в источнике Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД? Будете хранить историю изменений товара - названий, каких-либо параметров? Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу? Если товар переместится из одной категории в другую (например увеличится вложенность подкатегорий) суть не изменится, т.е. историю хранить не надо. Вопрос в другом: эти категории товаров планирую сделать parent-child, но уровни вложенности могут быть разные (задается пользователями). Насколько это правильно будет обрабатываться или все же лучше строго задать одинаковый уровень для всех и денормализовать? И еще, есть измерение состоящие из неск. таблиц с отношением многие ко многим. Где-то на этом форуме видел, что это хорошо реализуется в AS2005 http://sqljunkies.com/WebLog/sqlbi/archive/2004/10/04/4447.aspx . Но есть дополнительная сложность - сюда нужно еще добавить SCD. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.01.2006, 01:29 |
|
||
|
|

start [/forum/topic.php?fid=49&msg=33465421&tid=1870686]: |
0ms |
get settings: |
5ms |
get forum list: |
15ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
56ms |
get topic data: |
8ms |
get forum data: |
2ms |
get page messages: |
41ms |
get tp. blocked users: |
1ms |
| others: | 216ms |
| total: | 350ms |

| 0 / 0 |
