powered by simpleCommunicator - 2.0.44     © 2025 Programmizd 02
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Большие объёмы данных в SSAS
6 сообщений из 6, страница 1 из 1
Большие объёмы данных в SSAS
    #40045354
Виктор Сакович
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Добрый день.
Проблема следующая, были данные в SSAS, по строкам приблизительно 20млн. Куб нормально работал, полный процессинг приблизительно 2.5 часа. В некоторый момент бизнес попросил "размазать" исходные данные, объём данных вырос приблизительно в 20 раз, приблизительно до полумиллиарда строк. Естественно, время процессинга увеличилось, но не хватает и временной памяти (300гб). Подскажите, можно ли решить эту проблему без изменения уровня детализации куба.
...
Рейтинг: 0 / 0
Большие объёмы данных в SSAS
    #40045362
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Виктор Сакович,

В SSAS есть средство от этой проблемы - партицирование групп мер. Вы можете разбить группу мер на партиции по какому-то критерию. Это дает следующие возможности:
  • Можно процессить не весь куб, а только некоторые партиции, про которые вы знаете, что их данные были обновлены. Уменьшает время процессинга.
  • Партиции процессятся параллельно, на современных многоядерных серверах - актуально.
Из опыта - если партиций в кубе становится больше 20К - куб начинает подтормаживать при процессинге. Поэтому не делайте заведомо пустые партиции, или которые будут заполнены в далеком будущем.
...
Рейтинг: 0 / 0
Большие объёмы данных в SSAS
    #40045364
Фотография vikkiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Виктор Сакович,

Есть такое понятие как партиции (тогда процессинг идёт по частям),
ну и естественно остальные стандартные советы
(минимальные типы данных, в кубе только нужное, оптимальная структура и мн. др.).

На одном типе кубов это бывает помогает, на другом не сильно..
...
Рейтинг: 0 / 0
Большие объёмы данных в SSAS
    #40045376
Виктор Сакович
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
vikkiv,Ferdipux , спасибо за совет. Он понятен.
...
Рейтинг: 0 / 0
Большие объёмы данных в SSAS
    #40045443
Виктор Сакович
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ещё вопрос, если делать партиции, там можно скриптом каким-нибудь их генерировать? Скажем, разбиение по неделям по какому-то полю в таблице. Число типа дата понятно.
...
Рейтинг: 0 / 0
Большие объёмы данных в SSAS
    #40045490
Фотография vikkiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Виктор Сакович,

Да, можно, стандартная практика реализации таких скриптов (с логикой на своё усмотрение)
через TOM (для Табличной модели) или AMO (для многомерной) через C#/VB/PowerShell
можно и самим с xml/json тужиться - но это не фэншуй.
...
Рейтинг: 0 / 0
6 сообщений из 6, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Большие объёмы данных в SSAS
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]