powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Зависает процессинг куба
25 сообщений из 58, страница 1 из 3
Зависает процессинг куба
    #39220222
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Доброго времени суток, All!

Буду признателен, если подскажете что-либо по следующему случаю.
Несколько кубов MOLAP, собраны в прокси-куб через linked measures. Размер - средний, 700 GB, структура большая, более 300 групп мер. Процессятся через формируемый XMLA скрипт (описание как формируется - ниже). Стали происходить "зависания процессинга" - во время них активность SSAS практически нулевая. Но стоит обратиться к кубу с MDX запросом - процессинг возобновляется и вскоре завершается.
Воспроизводится на SSAS Server 2008, 2008 R2 и 2014.
Вопрос - что это такое и как лечить? ИМХО, поведение ненормальное.

Для справки - как формируется XMLA скрипт на процессинг. Группы мер в кубах партицированы. При обновлении данных в источниках - формируется перечень обновлений источников. По этому перечню подбирается список групп мер (через внутренние метаданные системы) и передается C# коду. В коде через AMO
- включаем CaptureXML
- ищем все измерения, делаем для них Process(Process_Update)
- ищем группу мер, и для нее запускаем метод Process(Process_Full)
- после исчерпания групп мер - делаем ConcatenateCaptureLog в строчную переменную
Далее полученный XMLA - выполняем в SSIS пакете.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220273
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Несколько кубов MOLAP, собраны в прокси-куб через linked measures.

Просто интересно, а зачем так сделано?
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220374
Фотография StarikNavy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1,

как обычно "хочу видеть ВСЁ в одном отчете"(С)
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220378
Фотография StarikNavy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

"во время них активность SSAS практически нулевая"
что то такое недавно на форуме проскакивало, может поиском найдете
ЕМНИП
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220422
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
StarikNavyмигель1,

как обычно "хочу видеть ВСЁ в одном отчете"(С)

Это понятно, зачем linked measures?

Если меры "живут" друг с другом почему не сделать меры "мени то мени" и управлять видимостью через перспективы?
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220494
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
мигель1Это понятно, зачем linked measures?
Если меры "живут" друг с другом почему не сделать меры "мени то мени" и управлять видимостью через перспективы?
Гм, куб большой с точки зрения метаданных , групп мер в нем более 300. Группы мер добавлялись тематически, поэтому разделены на свои кубы.
Была попытка слить кубы в один. Наблюдение - если в кубе с материальными партицированными мерами их сильно много - процессинг сильно тормозит на начальной фазе - составления плана вычисления. Разбиение куба на части помогает сократить время процессинга.

А "мани-мани" там тоже есть :)...
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39220501
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
StarikNavy"во время них активность SSAS практически нулевая"
что то такое недавно на форуме проскакивало, может поиском найдете

Находил и сталкивались вот с этим ограничение SSAS по памяти . Но в этом случае симптомы несколько иные - весь сервер "висит", трудно даже зайти удаленной консолью, помогает только рестарт. А здесь - сервер не загружен, MDX запрос инициирует процессинг.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300863
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Словил симптомы снова, на SSAS 2014 SP1.

Выглядит так - идет Process Index изменившихся партиций после Process Data, много партиций в одной большой транзакции в параллель. Сервер с 4 CPU, бодро пережевывает 5-20 партиций одновременно (показатель Proc Indexes\Current partitions) и 200 000 - 700 000 строк в секунду, есть работающие processing I\O threads и non I\O threads, I\O threads завершаются 20-40 раз в секунду, секундный processing pool job rate колеблется от 0,3 до 2. Короче, жужжит.
Начиная с некоторого момента количество Proc Indexes\Current partitions растет до 96, количество завершенных I\O threads и processing pool job rate падает до нуля. В таком состоянии и висит, может провисеть и сутки. Помогает выдача MDX SELECT запроса к кубу, одновременно с этим процессинг магически возобновляется и завершается за 5-15 минут.
В общем, чудеса. Что покрутить еще - не знаю, буду признателен за идеи.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300915
WarAnt
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

А сам xmla запрос не пробовали изучать? выгрузите его в файл посмотрите глазами, может чего найдете.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300920
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
WarAntА сам xmla запрос не пробовали изучать?

Ошибок или косяков там нет. Много задач ProcessIndex на партициях в одной Parallel, уровень паралеллизма не установлен, регистрация ошибок в файл. Файл с ошибками пустой.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300925
WarAnt
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

и еще "некоторый момент времени" не совпадает случаем с какой нить настройкой в General? типа ForceCommitTimeout
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300960
[quot Ferdipux]WarAntМного задач ProcessIndex на партициях в одной Parallel.

вот с "много задач в одной parallel" будьте осторожны.

я когда-то разработал свой процессор кубо в, в нем предусмотрел ограничения, чтобы в одном parallel не шло больше Process команд, чем ядер на машинке.

до этого тоже все висло, когда сделал вот так с ограничением - начало железобетонно работать.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39300985
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Игорь Бобаквот с "много задач в одной parallel" будьте осторожны.

я когда-то разработал свой процессор кубов, в нем предусмотрел ограничения, чтобы в одном parallel не шло больше Process команд, чем ядер на машинке.

до этого тоже все висло, когда сделал вот так с ограничением - начало железобетонно работать.

Спасибо, хорошая идея, попробую поиграться со степенью параллелизма. Вопрос к опыту - что ставить относительно кол-ва ядер, 1 ядро - 1 поток или можно 2? Похоже что SSAS слишком оптимистично тут работает, и заводит себя в тупик.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39301157
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

Запустите SQL Profiler -- посмотрите другие события. Наверняка что-то есть. Обновление кешей и прочее.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39301848
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Новости с полей...

В XMLA процессинга прикрутил количество параллельных процессов = кол-ву ядер.
Запустил, на Process Index через некое время зависло с Proc Indexes \ Current Partitions = 8.
Одновременно вел профилирование. Начиная с запуска процессинга - кроме событий процессинга нет ничего.

MDX Select запрос к обрабатываемому кубу восстановил ход Processing.
Чудеса.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39301868
Фотография vikkiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,
стандартная рекомендация на MS системах - провести всё до последнего обновления, например 2014 SP2 CU1 включает такое: https://support.microsoft.com/en-us/kb/3150432
ну и если не помогает - служба техподдержки MS, тогда подскажут что не так или при подтверждении на их стороне профиксят с одним из следующих выпусков.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39301873
VicSO
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Ferdipux,
Машина виртуальная или реальная?
Такая проблема была виртуальной машине, проблема решилась заменой виртуальной ситивушки.
проблема была в то что при нагрузке, соединение не обрывалась, но и потока не было :(
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39301890
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
VicSOТакая проблема была виртуальной машине, проблема решилась заменой виртуальной ситивушки.
проблема была в то что при нагрузке, соединение не обрывалась, но и потока не было :(

Машина виртуальная. А что значит "замена виртуальной сетевухи" - пересоздание ее, что-ли, или иные настройки?
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39302391
VicSO
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Ferdipux,
была выбрана эмуляция другой сетевушку и проблема исчезла после этого.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39302417
VicSO
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
а возврат предыдущей сетевушки, проблему повторила, попробовали 2 раза :)
сделали выводы, что какой-то сбой в эмуляции, и как он влияет на 127.0.0.1 вообще не понятно.
та как изначально база была на другом сервере, а куб на другом и он тянул, сбои были частые.
потом все сделали на одно, чуть реже были но все равно.
потом поменяли виртуальную сетевушку и проблема исчезал.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39303761
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

В чудеса верить не надо.
У вас там случайно не стоит Lazy Aggregations ?
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39303788
[quot Ferdipux]Игорь БобакСпасибо, хорошая идея, попробую поиграться со степенью параллелизма. Вопрос к опыту - что ставить относительно кол-ва ядер, 1 ядро - 1 поток или можно 2? Похоже что SSAS слишком оптимистично тут работает, и заводит себя в тупик.
у меня стоит "к-во ядер умноженное на два", но я бы на вашем месте игрался начиная с к-ва ядер, и по чуть чуть увеличивал
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39303831
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
a_voroninFerdipux,

У вас там случайно не стоит Lazy Aggregations ?
Нет, Lazy Aggregations запрещен.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39303833
Ferdipux
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Игорь Бобаку меня стоит "к-во ядер умноженное на два", но я бы на вашем месте игрался начиная с к-ва ядер, и по чуть чуть увеличивал
Попробовал, выведя множитель ядер как параметр. К сожалению, зависание повторилось, даже с множителем 1. Так что попробуем открыть кейс в поддержке Microsoft.
Из интересного в этом - при множителе 1 и 2 - наблюдается явный недогруз CPU, так как очередь задач на процессинг не пуста и при этом загрузка CPU плавает в районе 40-60%.
...
Рейтинг: 0 / 0
Зависает процессинг куба
    #39303915
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ferdipux,

На тестовой системе воспроизводится?
Если куб полностью переразвернуть из проекта (с удалением предыдущего) - ошибка воспроизводится?
...
Рейтинг: 0 / 0
25 сообщений из 58, страница 1 из 3
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Зависает процессинг куба
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]