Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / DWH на MS SQL Server, загрузка данных / 12 сообщений из 12, страница 1 из 1
29.12.2005, 14:18
    #33464371
SelfCoder
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
Я новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч.

Пожалуйста, помогите найти оптимальный способ.
...
Рейтинг: 0 / 0
30.12.2005, 08:59
    #33465336
Bormoglot
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
Так у вас DWH в реляционной базе?
...
Рейтинг: 0 / 0
30.12.2005, 10:08
    #33465421
Виктор Сакович
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
SelfCoderЯ новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч.

Пожалуйста, помогите найти оптимальный способ.

Обновление справочников, даже если они длинные, обычно занимает очень малую долю от обновления хранилища. Так что по поводу оптимизирования сильно не заморачивайтесь. Главное, чтобы обеспечить историчность, то есть сохранить в хранилище все позиции, которые хоть когда-нибудь продавались.
...
Рейтинг: 0 / 0
30.12.2005, 10:46
    #33465489
SelfCoder
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
BormoglotТак у вас DWH в реляционной базе?
Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы?
...
Рейтинг: 0 / 0
30.12.2005, 11:25
    #33465577
Bormoglot
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
SelfCoder BormoglotТак у вас DWH в реляционной базе?
Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы?

Если у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
...
Рейтинг: 0 / 0
30.12.2005, 13:43
    #33465946
SelfCoder
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?
...
Рейтинг: 0 / 0
30.12.2005, 13:50
    #33465958
Владимир Штепа
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?

ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда.
...
Рейтинг: 0 / 0
30.12.2005, 14:51
    #33466080
Виктор Сакович
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
backfire SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?

ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда.

Много против - это что например? По-моему, запас беды не чинит.
...
Рейтинг: 0 / 0
30.12.2005, 15:30
    #33466138
Владимир Штепа
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
Виктор Сакович Много против - это что например? По-моему, запас беды не чинит.

Ну на счет "много" может я и перегнул, но в AS это может быть пресловутая граница в 64к потомков у одного родителя. (Хотя многие ее просто обходят)
...
Рейтинг: 0 / 0
30.12.2005, 20:30
    #33466374
DWH на MS SQL Server, загрузка данных
SelfCoderкак обновлять измерения (справочники)?
Ответ на это вопрос зависит от многих вещей:
- что вы хотите хранить в истории измерений
- какую модель используете для хранения истории
- как происходят изменения в источнике

Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД?
Будете хранить историю изменений товара - названий, каких-либо параметров?
Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу?
...
Рейтинг: 0 / 0
30.12.2005, 21:52
    #33466412
Mosha
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
backfireно в AS это может быть пресловутая граница в 64к потомков у одного родителя
Имеется в виду AS2000. В AS2005 граница расширена до двух миллиардов потомков у одного родителя.

Моша
----------------------------------------------------
This posting is provided "AS IS" with no warranties, and confers no rights
...
Рейтинг: 0 / 0
04.01.2006, 01:29
    #33467789
SelfCoder
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DWH на MS SQL Server, загрузка данных
Андрей Прохоров
Ответ на это вопрос зависит от многих вещей:
- что вы хотите хранить в истории измерений
- какую модель используете для хранения истории
- как происходят изменения в источнике

Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД?
Будете хранить историю изменений товара - названий, каких-либо параметров?
Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу?

Если товар переместится из одной категории в другую (например увеличится вложенность подкатегорий) суть не изменится, т.е. историю хранить не надо.

Вопрос в другом: эти категории товаров планирую сделать parent-child, но уровни вложенности могут быть разные (задается пользователями). Насколько это правильно будет обрабатываться или все же лучше строго задать одинаковый уровень для всех и денормализовать?

И еще, есть измерение состоящие из неск. таблиц с отношением многие ко многим. Где-то на этом форуме видел, что это хорошо реализуется в AS2005
http://sqljunkies.com/WebLog/sqlbi/archive/2004/10/04/4447.aspx . Но есть дополнительная сложность - сюда нужно еще добавить SCD.
...
Рейтинг: 0 / 0
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / DWH на MS SQL Server, загрузка данных / 12 сообщений из 12, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]