powered by simpleCommunicator - 2.0.60     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / DWH на MS SQL Server, загрузка данных
12 сообщений из 12, страница 1 из 1
DWH на MS SQL Server, загрузка данных
    #33464371
SelfCoder
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч.

Пожалуйста, помогите найти оптимальный способ.
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465336
Bormoglot
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Так у вас DWH в реляционной базе?
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465421
Виктор Сакович
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
SelfCoderЯ новичек в OLAP и DWH. Читал этот форум, olap.ru, искал гуглом. Интересует непосредственная реализация загрузки (обновления) данных в DWH на SQL Server из OLTP на SQL Server. Непосредственных примеров нигде не нашел (плохо искал?). В частности: как обновлять измерения (справочники)? Простая перезагрузка (удаление и загрузка заново) не подходит, т.к. например, в измерении "продукция" товар раньше продавался, а сейчас в оперативной базе таких позиций нет. Сверять по ключам? Или хронить историю изменений для каждой таблицы. Кстати в оперативной базе в каждой таблице есть timestamp (rowversion). Может стоит и в хринилище то же сделать, чтобы сверять изменения. Справочники есть разные: от 10 позицый до десятков тысяч.

Пожалуйста, помогите найти оптимальный способ.

Обновление справочников, даже если они длинные, обычно занимает очень малую долю от обновления хранилища. Так что по поводу оптимизирования сильно не заморачивайтесь. Главное, чтобы обеспечить историчность, то есть сохранить в хранилище все позиции, которые хоть когда-нибудь продавались.
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465489
SelfCoder
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BormoglotТак у вас DWH в реляционной базе?
Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы?
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465577
Bormoglot
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
SelfCoder BormoglotТак у вас DWH в реляционной базе?
Нет. Оперативная база на MSSQL и DWH на MSSQL. Обычно какими способами обновляют в хранилище измерения (справочники из оперативной)? Используются ли в таких случаях timestamp (rowversion) или нет? Или обычно хранится история изменений для каждой таблицы?

Если у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465946
SelfCoder
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33465958
Владимир Штепа
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?

ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда.
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33466080
Виктор Сакович
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
backfire SelfCoder BormoglotЕсли у вас справочники живут отдельно, то и обновляйте существующие записи и добавляйте новые, удалять существующие нельзя - и все.
Т.е. все строки уже присутствующие в измерении просто обновить (update)?
А стоит ли добавлять в измерения строки, которым нет соответствий в таблице фактов?

ксть много за и много против. я склоняюсь к тому чтобы добавлять всегда.

Много против - это что например? По-моему, запас беды не чинит.
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33466138
Владимир Штепа
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Виктор Сакович Много против - это что например? По-моему, запас беды не чинит.

Ну на счет "много" может я и перегнул, но в AS это может быть пресловутая граница в 64к потомков у одного родителя. (Хотя многие ее просто обходят)
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33466374
SelfCoderкак обновлять измерения (справочники)?
Ответ на это вопрос зависит от многих вещей:
- что вы хотите хранить в истории измерений
- какую модель используете для хранения истории
- как происходят изменения в источнике

Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД?
Будете хранить историю изменений товара - названий, каких-либо параметров?
Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу?
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33466412
Mosha
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
backfireно в AS это может быть пресловутая граница в 64к потомков у одного родителя
Имеется в виду AS2000. В AS2005 граница расширена до двух миллиардов потомков у одного родителя.

Моша
----------------------------------------------------
This posting is provided "AS IS" with no warranties, and confers no rights
...
Рейтинг: 0 / 0
DWH на MS SQL Server, загрузка данных
    #33467789
SelfCoder
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Андрей Прохоров
Ответ на это вопрос зависит от многих вещей:
- что вы хотите хранить в истории измерений
- какую модель используете для хранения истории
- как происходят изменения в источнике

Если товар удален из оперативной базы Вы хотите сделать отметку для этого товара в ХД?
Будете хранить историю изменений товара - названий, каких-либо параметров?
Есть ли иерархии, например, товар - группа товаров и т.д.? Они меняются? Если да, то как, только названия или товар может переместиться из группы в группу?

Если товар переместится из одной категории в другую (например увеличится вложенность подкатегорий) суть не изменится, т.е. историю хранить не надо.

Вопрос в другом: эти категории товаров планирую сделать parent-child, но уровни вложенности могут быть разные (задается пользователями). Насколько это правильно будет обрабатываться или все же лучше строго задать одинаковый уровень для всех и денормализовать?

И еще, есть измерение состоящие из неск. таблиц с отношением многие ко многим. Где-то на этом форуме видел, что это хорошо реализуется в AS2005
http://sqljunkies.com/WebLog/sqlbi/archive/2004/10/04/4447.aspx . Но есть дополнительная сложность - сюда нужно еще добавить SCD.
...
Рейтинг: 0 / 0
12 сообщений из 12, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / DWH на MS SQL Server, загрузка данных
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]