|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Исходные данные: Windows: 2016 Standart Процессор: 2 Xeon E5-2697 v4 (18 ядерные) - 72 потока Диски: полка SSD (20Тб) - c пиковой скоростью 3Гб /сек ОЗУ: 1.5Тб (Терабайт) SSAS: 2019EE Куб на полном объеме процессился на SQL-2008R 6.5 часов на 64 потоках Сейчас процесс идет более 12 часов -- пока не окончился .... Куб: 10 групп мер в среднем по 20 показателей Примеры групп Остатки: 12 млрд записей - 1.2ТБайт Продажи: 4 млрд записей - 400 Гб 10 групп many-to-many -- применены для быстрого расчета DistinctCount Общий размер хранилища 3ТБайт - данных для OLAP В хранилище данные разделены на месячные секции : размер секций для остатков 50Гб в среднем, по продажам 15Гб Группы мер разделены на партиции по дням максимум 12млн записей на пратицию, параметр Slice определен Настройки SSAS: HardMemoryLimit = 70 TotalMemoryLimit = 60 LowMemoryLimit = 50 Query\MinThreads = 36 Query\MaxThreads = 72 Process\MinThreads = 180 Process\MaxThreads = 360 CoordinatorExecutionMode = -36 FlightRecorder\Enabled = 0 CoordinatorQueryBalancingFactor=1 CoordinatorQueryBoostPriorityLevel=0 RandomFileAccessMode=0 FactPrefetchMode = 1 Где еще копать ? MS SQL настроен оптимально ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 13:12 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, Не совсем ясно, что вы перевели на новую версию - только SSAS или ХД+SSAS? Да и у вас наверняка есть премьер-поддержка от MS, там спрашивали? ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 13:31 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67, Не совсем ясно, что вы перевели на новую версию - только SSAS или ХД+SSAS? Да и у вас наверняка есть премьер-поддержка от MS, там спрашивали? Перевел и XD и SSAS Проект SSAS был подготовлен на 2008 для 2019 просто сконвертил и пытаюсь сделать процессинг на 2019 -- тормозит (14 часов уже процессит) . Тот же проект на тех же данных и оборудовании на 2008R2 6.5 часов процессится настройки OLAP те же самые кроме RandomFileAccessMode Организация: торговая сеть 10 тыс магазинов, 2 тыс активных товаров (всего с архивными 17 тыс) Поддержкой занимаюсь 1 , данные закачиваются из полностью самописной 1с8 , Загрузка / выгрузка с помощью BCP и BULK INSERT, подготовка XD за 1 день около 1 часа Измерения маленькие Премьер-поддержки от MS - нет ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 13:53 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, Надо сначала разобраться, где главный тормоз. SSAS прекрасно мониториться профайлером. Запустить его и запустить процессинг. Если затык на ProcessData , то надо копать в сторону ХД. Если затык на стороне ProcessIndex, то надо копать SSAS. Самое распространенное -- статистику обновить на MS SQL. Конфигурацию SSAS посмотреть надо. ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 14:22 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67, Надо сначала разобраться, где главный тормоз. SSAS прекрасно мониториться профайлером. Запустить его и запустить процессинг. Если затык на ProcessData , то надо копать в сторону ХД. Если затык на стороне ProcessIndex, то надо копать SSAS. Самое распространенное -- статистику обновить на MS SQL. Конфигурацию SSAS посмотреть надо. Вопрос то в том что SSAS 2008R2 обрабатывает все нормально - источник XD один и тот же Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает Поставщик данных (Data Provider) имеет значительное влияние на то, как быстро Analysis Services может потреблять поступающие данные с источника. Смените провайдер с SQL Server Native Client на Microsoft OLE DB Provider for SQL Server, пропускная способность может повыситься на 30%. Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией -- Источник: https://www.dvbi.ru/articles/reading/SSAS-optimization Пользовался для SQL-2008 такой рекомендацией - возможно ODBC на 18.3 надо обновить ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 14:51 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, Насколько я понял, у вас ХД на 2019, и есть два SSAS - новый и старый, которые смотрят на одно и то же ХД, и тормозит процессинг только на новом SSAS? >>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией они давно передумали ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 15:25 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67, Насколько я понял, у вас ХД на 2019, и есть два SSAS - новый и старый, которые смотрят на одно и то же ХД, и тормозит процессинг только на новом SSAS? >>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией они давно передумали Все совершенно верно --- тормозит процессинг только на новом SSAS ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 15:52 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, Проверяйте - сравните железо нового и старого SSAS, может у вас старый был четырехсокетным, а новый двух? - блокировки в источнике данных (возможно, таблицы были заблочены, когда вы процессили на новом сервере) - сеть (трясите сетевиков насчет структуры сети и мониторинга нагрузки относительно нового SSAS) - настройки нового сервера SSAS (энергосбережение и прочее) - промониторьте профайлером сам процессинг на обоих серверах, сравните, где тормоза (раздельно измерения, данные и индексы, что вносит больший вклад в тормоза) на примере крупного измерения и секции ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 16:09 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67, Проверяйте - сравните железо нового и старого SSAS, может у вас старый был четырехсокетным, а новый двух? - блокировки в источнике данных (возможно, таблицы были заблочены, когда вы процессили на новом сервере) - сеть (трясите сетевиков насчет структуры сети и мониторинга нагрузки относительно нового SSAS) - настройки нового сервера SSAS (энергосбережение и прочее) - промониторьте профайлером сам процессинг на обоих серверах, сравните, где тормоза (раздельно измерения, данные и индексы, что вносит больший вклад в тормоза) на примере крупного измерения и секции Один и тот же сервер Один и тот же источник данных Одна и та же сеть Диск один и тот же для сборок Наибольший вклад в тормоза -- агрегация данных Такое впечатление по 3 раза агрегации обходит Cмотрю на диск каталог Data -- размер каталога не меняется -- хотя монитор системы показывает что интенсивно пишет . В Temp вообще пусто - так как это сборка первый раз ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 16:33 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, Последние сервиспаки на SSAS установлены? ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 18:48 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67, Последние сервиспаки на SSAS установлены? Нет . Попробуем в эту сторону покопать ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 20:29 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67, тормозит процессинг только на новом SSAS? >>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией они давно передумали Все совершенно верно --- тормозит процессинг только на новом SSAS узкое место нашел processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет Как вариант дизайн агрегатов заново сделать на 2019 Ускорить этот этап агрегаций настройками никак нельзя ??? ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 22:20 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67 Как вариант дизайн агрегатов заново сделать на 2019 Ускорить этот этап агрегаций настройками никак нельзя ??? Да, можно так попробовать с аггрегатами. Также можно переразвернуть куб из проекта, если ранее он был просто приаттачен. Иногда при багах помогает. Если нет, то тут смотреть свойства группы "Process" https://docs.microsoft.com/ru-ru/analysis-services/server-properties/olap-properties?view=asallproducts-allversions но там большинство имеют такое описание "Дополнительное свойство, которое следует изменять только под руководством службы поддержки Microsoft" ... |
|||
:
Нравится:
Не нравится:
|
|||
21.07.2020, 23:42 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
да, создание агрегаций - самый надёжный вариант (постепенно добавляя по измерению {с нуж. аттр.} или пачками - там видно будет на чём сыпется) а если process data отдельно сделать и потом уже по каждому объекту отдельно process index (или группами - самый проблемный объект/MG/Partition вынеся в последний батч), с комитами после каждой операции чтобы памяти побольше свободной оставалось (ну и bild на всякий случ. проверить - чтобы агрегации были только на прямых связях). Кстати агрегации сколько весят (по отношению к самим данным) - т.е. куб "без" и "с" агрегациями ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 03:24 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67 Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики. ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 09:56 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67 Критик iliko67, тормозит процессинг только на новом SSAS? >>Правда, компания Microsoft заявляла, что OLE DB станет устаревшей функцией они давно передумали Все совершенно верно --- тормозит процессинг только на новом SSAS узкое место нашел processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет Как вариант дизайн агрегатов заново сделать на 2019 Ускорить этот этап агрегаций настройками никак нельзя ??? Скорее всего вы переборщили с дизайном аггрегатов. На группу мер более 15 не надо делать. ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 09:58 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67 Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики. Спасибо не знал ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 11:03 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
Критик iliko67 Как вариант дизайн агрегатов заново сделать на 2019 Ускорить этот этап агрегаций настройками никак нельзя ??? Да, можно так попробовать с аггрегатами. Также можно переразвернуть куб из проекта, если ранее он был просто приаттачен. Иногда при багах помогает. Если нет, то тут смотреть свойства группы "Process" https://docs.microsoft.com/ru-ru/analysis-services/server-properties/olap-properties?view=asallproducts-allversions но там большинство имеют такое описание "Дополнительное свойство, которое следует изменять только под руководством службы поддержки Microsoft" Вот как раз и переразворачивал Вот в том и дело что все помечено - под руководством службы поддержки ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 11:06 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67 пропущено... узкое место нашел processing data,index - все нормально скорость очень высокая доходит запись/чтение до 2Гб сек когда доходит до агрегатов скорость падает до 33 Мб сек и молотит бесконечно, чтения SQL базы уже совсем нет Как вариант дизайн агрегатов заново сделать на 2019 Скорее всего вы переборщили с дизайном агрегатов. На группу мер более 15 не надо делать. Это точно -- делал агрегаты до дня Вчера переделал: 1. Агрегаты - убрал уровень день 2. Убрал many-to-many заменил на DistinctCount Вроде залетало - но так и не получилось собрать - не хватило места для TempDB SQL (было на RAM) - включу оптимизацию TempDB для 2019 ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 11:17 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67 Статистику обновить на MS SQL -- возможно в этом проблема - но 2008-му это не мешает Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики. Дело в том , что MS SSAS 2008 нормально все скушал при переносе базы на SQL 2019 И основная проблема была не в получении данных - а в дизайне агрегаций и избыточных many-to-many ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 11:21 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67 a_voronin пропущено... Вы разберитесь в теме. Судя по вашему ответу, вы не поняли, о чем я вообще говорю. ПРИ ПЕРЕНОСЕ БАЗЫ НА ДРУГУЮ ВЕРСИЮ СЕРВЕРА статистика маркируется как недействительная. Всегда первое действие после переноса БД -- полное обновление статистики. Дело в том , что MS SSAS 2008 нормально все скушал при переносе базы на SQL 2019 И основная проблема была не в получении данных - а в дизайне агрегаций и избыточных many-to-many Так я вам вначале и говорил, надо выяснить , на processdata или на processindex затык происходит. data -- mssql, index -- ssas ... |
|||
:
Нравится:
Не нравится:
|
|||
22.07.2020, 11:24 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin, Понятно что немного другая тема Но когда создавались агрегаты увидел что куча полей измерений по которым при агрегации установлено None в каждую партицию копируется Данные поля - не используются в итогах - это просто свойства измерений Если сделать IsAggregation = False ничего страшного не произойдет ? У меня как-то не было до этой работы больших кубов - 2Тб - в основном мелочь была до 100Гб и особых настроек не требовалось ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2020, 11:38 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
iliko67, На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении. ... |
|||
:
Нравится:
Не нравится:
|
|||
24.07.2020, 08:02 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67, На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении. Спасибо Как бы так и делаю. ... |
|||
:
Нравится:
Не нравится:
|
|||
24.07.2020, 19:57 |
|
SSAS2019: Увеличение в 4 раза времени процессинга куба при переходе с SSAS 2008R2
|
|||
---|---|---|---|
#18+
a_voronin iliko67, На каждый атрибут измерения создаются файлы. Правильная практика для куба большого объема внимательно относиться к ключам и названием. Делать у атрибута легкий интовый ключ, а для названия подставлять текстовое поле. Это относить ко всем атрибутам, а не только ключевому в измерении. Пока готовый куб не превысил 2Тб и время не зашкалило за 6 часов об оптимизации не задумывался. 3-4 часа на процессинг при объеме готового куба 1Тб вполне устраивало . Структуру измерений не думая перенес из 1С вместе с типами и размерами, придется уплотнять неявными преобразованиями через View Взрывного роста объема не предвидится (все большие факты уже готовы) У аналитиков плавающее окно данных - 3 года им достаточно . Максимум предполагаю в 2 раза вырастет Обновления за 1 день укладываются в 1 час -- круглосуточной работы аналитиков не предвидится . ... |
|||
:
Нравится:
Не нравится:
|
|||
24.07.2020, 20:13 |
|
|
start [/forum/topic.php?fid=49&tid=1857279]: |
0ms |
get settings: |
8ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
29ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
60ms |
get tp. blocked users: |
1ms |
others: | 14ms |
total: | 149ms |
0 / 0 |