powered by simpleCommunicator - 2.0.44     © 2025 Programmizd 02
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
25 сообщений из 28, страница 1 из 2
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982195
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Исходные данные:
Windows: 2016 Standart
Процессор: 2 Xeon E5-2697 v4 (18 ядерные) - 72 потока
Диски: полка SSD (20Тб) - c пиковой скоростью 3Гб /сек
ОЗУ: 1.5Тб (Терабайт)
SSAS: 2019EE

Куб на полном объеме процессился на SQL-2008R 6.5 часов на 64 потоках
Сейчас процесс идет более 12 часов -- пока не окончился ....

Куб:
10 групп мер в среднем по 20 показателей
Примеры групп
Остатки: 12 млрд записей - 1.2ТБайт
Продажи: 4 млрд записей - 400 Гб
10 групп many-to-many -- применены для быстрого расчета DistinctCount

Общий размер хранилища 3ТБайт - данных для OLAP

В хранилище данные разделены на месячные секции : размер секций для остатков 50Гб в среднем, по продажам 15Гб

Группы мер разделены на партиции по дням максимум 12млн записей на пратицию, параметр Slice определен

Настройки SSAS:
HardMemoryLimit = 70
TotalMemoryLimit = 60
LowMemoryLimit = 50

Query\MinThreads = 36
Query\MaxThreads = 72

Process\MinThreads = 180
Process\MaxThreads = 360

CoordinatorExecutionMode = -36
FlightRecorder\Enabled = 0

CoordinatorQueryBalancingFactor=1
CoordinatorQueryBoostPriorityLevel=0

RandomFileAccessMode=0

FactPrefetchMode = 1

Где еще копать ?
MS SQL настроен оптимально
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982210
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

Не совсем ясно, что вы перевели на новую версию - только SSAS или ХД+SSAS?
Да и у вас наверняка есть премьер-поддержка от MS, там спрашивали?
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982228
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67,

Не совсем ясно, что вы перевели на новую версию - только SSAS или ХД+SSAS?
Да и у вас наверняка есть премьер-поддержка от MS, там спрашивали?


Перевел и XD и SSAS

Проект SSAS был подготовлен на 2008 для 2019 просто сконвертил и пытаюсь сделать процессинг на 2019 -- тормозит (14 часов уже процессит) .
Тот же проект на тех же данных и оборудовании на 2008R2 6.5 часов процессится
настройки OLAP те же самые кроме RandomFileAccessMode

Организация: торговая сеть 10 тыс магазинов, 2 тыс активных товаров (всего с архивными 17 тыс)
Поддержкой занимаюсь 1 , данные закачиваются из полностью самописной 1с8 ,
Загрузка / выгрузка с помощью BCP и BULK INSERT, подготовка XD за 1 день около 1 часа
Измерения маленькие

Премьер-поддержки от MS - нет
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982247
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

Надо сначала разобраться, где главный тормоз.

SSAS прекрасно мониториться профайлером. Запустить его и запустить процессинг. Если затык на ProcessData , то надо копать в сторону ХД. Если затык на стороне ProcessIndex, то надо копать SSAS.

Самое распространенное -- статистику обновить на MS SQL. Конфигурацию SSAS посмотреть надо.
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982264
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67,

Надо сначала разобраться, где главный тормоз.

SSAS прекрасно мониториться профайлером. Запустить его и запустить процессинг. Если затык на ProcessData , то надо копать в сторону ХД. Если затык на стороне ProcessIndex, то надо копать SSAS.

Самое распространенное -- статистику обновить на MS SQL. Конфигурацию SSAS посмотреть надо.


Вопрос то в том что SSAS 2008R2 обрабатывает все нормально - источник XD один и тот же
Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает

Поставщик данных (Data Provider) имеет значительное влияние на то, как быстро Analysis Services может потреблять поступающие данные с источника. Смените провайдер с SQL Server Native Client на Microsoft OLE DB Provider for SQL Server, пропускная способность может повыситься на 30%. Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией
-- Источник: https://www.dvbi.ru/articles/reading/SSAS-optimization


Пользовался для SQL-2008 такой рекомендацией - возможно ODBC на 18.3 надо обновить
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982275
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

Насколько я понял, у вас ХД на 2019, и есть два SSAS - новый и старый, которые смотрят на одно и то же ХД, и тормозит процессинг только на новом SSAS?

>>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией
они давно передумали
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982292
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67,

Насколько я понял, у вас ХД на 2019, и есть два SSAS - новый и старый, которые смотрят на одно и то же ХД, и тормозит процессинг только на новом SSAS?

>>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией
они давно передумали


Все совершенно верно

--- тормозит процессинг только на новом SSAS
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982304
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

Проверяйте
- сравните железо нового и старого SSAS, может у вас старый был четырехсокетным, а новый двух?
- блокировки в источнике данных (возможно, таблицы были заблочены, когда вы процессили на новом сервере)
- сеть (трясите сетевиков насчет структуры сети и мониторинга нагрузки относительно нового SSAS)
- настройки нового сервера SSAS (энергосбережение и прочее)
- промониторьте профайлером сам процессинг на обоих серверах, сравните, где тормоза (раздельно измерения, данные и индексы, что вносит больший вклад в тормоза) на примере крупного измерения и секции
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982311
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67,

Проверяйте
- сравните железо нового и старого SSAS, может у вас старый был четырехсокетным, а новый двух?
- блокировки в источнике данных (возможно, таблицы были заблочены, когда вы процессили на новом сервере)
- сеть (трясите сетевиков насчет структуры сети и мониторинга нагрузки относительно нового SSAS)
- настройки нового сервера SSAS (энергосбережение и прочее)
- промониторьте профайлером сам процессинг на обоих серверах, сравните, где тормоза (раздельно измерения, данные и индексы, что вносит больший вклад в тормоза) на примере крупного измерения и секции


Один и тот же сервер
Один и тот же источник данных
Одна и та же сеть
Диск один и тот же для сборок

Наибольший вклад в тормоза -- агрегация данных
Такое впечатление по 3 раза агрегации обходит
Cмотрю на диск каталог Data -- размер каталога не меняется -- хотя монитор системы показывает что интенсивно пишет .
В Temp вообще пусто - так как это сборка первый раз
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982361
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

Последние сервиспаки на SSAS установлены?
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982387
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67,

Последние сервиспаки на SSAS установлены?


Нет . Попробуем в эту сторону покопать
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982425
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67,

тормозит процессинг только на новом SSAS?

>>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией
они давно передумали


Все совершенно верно

--- тормозит процессинг только на новом SSAS

узкое место нашел
processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет

Как вариант дизайн агрегатов заново сделать на 2019

Ускорить этот этап агрегаций настройками никак нельзя ???
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982449
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67

Как вариант дизайн агрегатов заново сделать на 2019

Ускорить этот этап агрегаций настройками никак нельзя ???


Да, можно так попробовать с аггрегатами.
Также можно переразвернуть куб из проекта, если ранее он был просто приаттачен. Иногда при багах помогает. Если нет, то тут смотреть свойства группы "Process"

https://docs.microsoft.com/ru-ru/analysis-services/server-properties/olap-properties?view=asallproducts-allversions

но там большинство имеют такое описание "Дополнительное свойство, которое следует изменять только под руководством службы поддержки Microsoft"
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982472
Фотография vikkiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
да, создание агрегаций - самый надёжный вариант (постепенно добавляя по измерению {с нуж. аттр.} или пачками - там видно будет на чём сыпется)
а если process data отдельно сделать и потом уже по каждому объекту отдельно process index (или группами - самый проблемный объект/MG/Partition вынеся в последний батч), с комитами после каждой операции чтобы памяти побольше свободной оставалось (ну и bild на всякий случ. проверить - чтобы агрегации были только на прямых связях). Кстати агрегации сколько весят (по отношению к самим данным) - т.е. куб "без" и "с" агрегациями
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982531
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67

Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает


Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики.
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982533
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67
Критик
iliko67,

тормозит процессинг только на новом SSAS?

>>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией
они давно передумали


Все совершенно верно

--- тормозит процессинг только на новом SSAS

узкое место нашел
processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет

Как вариант дизайн агрегатов заново сделать на 2019

Ускорить этот этап агрегаций настройками никак нельзя ???


Скорее всего вы переборщили с дизайном аггрегатов. На группу мер более 15 не надо делать.
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982586
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67

Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает


Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики.


Спасибо не знал
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982590
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Критик
iliko67

Как вариант дизайн агрегатов заново сделать на 2019

Ускорить этот этап агрегаций настройками никак нельзя ???


Да, можно так попробовать с аггрегатами.
Также можно переразвернуть куб из проекта, если ранее он был просто приаттачен. Иногда при багах помогает. Если нет, то тут смотреть свойства группы "Process"

https://docs.microsoft.com/ru-ru/analysis-services/server-properties/olap-properties?view=asallproducts-allversions

но там большинство имеют такое описание "Дополнительное свойство, которое следует изменять только под руководством службы поддержки Microsoft"


Вот как раз и переразворачивал
Вот в том и дело что все помечено - под руководством службы поддержки
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982600
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67
пропущено...

узкое место нашел
processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет

Как вариант дизайн агрегатов заново сделать на 2019



Скорее всего вы переборщили с дизайном агрегатов. На группу мер более 15 не надо делать.


Это точно -- делал агрегаты до дня

Вчера переделал:
1. Агрегаты - убрал уровень день
2. Убрал many-to-many заменил на DistinctCount

Вроде залетало - но так и не получилось собрать - не хватило места для TempDB SQL (было на RAM) - включу оптимизацию TempDB для 2019
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982603
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67

Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает


Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики.


Дело в том , что MS SSAS 2008 нормально все скушал при переносе базы на SQL 2019
И основная проблема была не в получении данных - а в дизайне агрегаций и избыточных many-to-many
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982606
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67
a_voronin
пропущено...


Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики.


Дело в том , что MS SSAS 2008 нормально все скушал при переносе базы на SQL 2019
И основная проблема была не в получении данных - а в дизайне агрегаций и избыточных many-to-many


Так я вам вначале и говорил, надо выяснить , на processdata или на processindex затык происходит. data -- mssql, index -- ssas
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39982989
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin,

Понятно что немного другая тема
Но когда создавались агрегаты увидел что куча полей измерений по которым при агрегации установлено None в каждую партицию копируется
Данные поля - не используются в итогах - это просто свойства измерений

Если сделать IsAggregation = False ничего страшного не произойдет ?

У меня как-то не было до этой работы больших кубов - 2Тб - в основном мелочь была до 100Гб и особых настроек не требовалось
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39983439
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
iliko67,

На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении.
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39983793
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67,

На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении.


Спасибо
Как бы так и делаю.
...
Рейтинг: 0 / 0
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
    #39983799
iliko67
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
a_voronin
iliko67,

На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении.


Пока готовый куб не превысил 2Тб и время не зашкалило за 6 часов
об оптимизации не задумывался.
3-4 часа на процессинг при объеме готового куба 1Тб вполне устраивало .

Структуру измерений не думая перенес из 1С вместе с типами и размерами, придется уплотнять неявными преобразованиями через View

Взрывного роста объема не предвидится (все большие факты уже готовы)
У аналитиков плавающее окно данных - 3 года им достаточно .
Максимум предполагаю в 2 раза вырастет
Обновления за 1 день укладываются в 1 час -- круглосуточной работы аналитиков не предвидится .
...
Рейтинг: 0 / 0
25 сообщений из 28, страница 1 из 2
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]