| 
 | 
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Доброго времени суток, All! Буду признателен, если подскажете что-либо по следующему случаю. Несколько кубов MOLAP, собраны в прокси-куб через linked measures. Размер - средний, 700 GB, структура большая, более 300 групп мер. Процессятся через формируемый XMLA скрипт (описание как формируется - ниже). Стали происходить "зависания процессинга" - во время них активность SSAS практически нулевая. Но стоит обратиться к кубу с MDX запросом - процессинг возобновляется и вскоре завершается. Воспроизводится на SSAS Server 2008, 2008 R2 и 2014. Вопрос - что это такое и как лечить? ИМХО, поведение ненормальное. Для справки - как формируется XMLA скрипт на процессинг. Группы мер в кубах партицированы. При обновлении данных в источниках - формируется перечень обновлений источников. По этому перечню подбирается список групп мер (через внутренние метаданные системы) и передается C# коду. В коде через AMO - включаем CaptureXML - ищем все измерения, делаем для них Process(Process_Update) - ищем группу мер, и для нее запускаем метод Process(Process_Full) - после исчерпания групп мер - делаем ConcatenateCaptureLog в строчную переменную Далее полученный XMLA - выполняем в SSIS пакете. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 14:32 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Несколько кубов MOLAP, собраны в прокси-куб через linked measures. Просто интересно, а зачем так сделано? ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 15:07 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  мигель1, как обычно "хочу видеть ВСЁ в одном отчете"(С) ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 16:06 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, "во время них активность SSAS практически нулевая" что то такое недавно на форуме проскакивало, может поиском найдете ЕМНИП ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 16:07 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  StarikNavyмигель1, как обычно "хочу видеть ВСЁ в одном отчете"(С) Это понятно, зачем linked measures? Если меры "живут" друг с другом почему не сделать меры "мени то мени" и управлять видимостью через перспективы? ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 16:26 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  мигель1Это понятно, зачем linked measures? Если меры "живут" друг с другом почему не сделать меры "мени то мени" и управлять видимостью через перспективы? Гм, куб большой с точки зрения метаданных , групп мер в нем более 300. Группы мер добавлялись тематически, поэтому разделены на свои кубы. Была попытка слить кубы в один. Наблюдение - если в кубе с материальными партицированными мерами их сильно много - процессинг сильно тормозит на начальной фазе - составления плана вычисления. Разбиение куба на части помогает сократить время процессинга. А "мани-мани" там тоже есть :)... ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 17:25 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  StarikNavy"во время них активность SSAS практически нулевая" что то такое недавно на форуме проскакивало, может поиском найдете Находил и сталкивались вот с этим ограничение SSAS по памяти . Но в этом случае симптомы несколько иные - весь сервер "висит", трудно даже зайти удаленной консолью, помогает только рестарт. А здесь - сервер не загружен, MDX запрос инициирует процессинг. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 20.04.2016, 17:30 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Словил симптомы снова, на SSAS 2014 SP1.  Выглядит так - идет Process Index изменившихся партиций после Process Data, много партиций в одной большой транзакции в параллель. Сервер с 4 CPU, бодро пережевывает 5-20 партиций одновременно (показатель Proc Indexes\Current partitions) и 200 000 - 700 000 строк в секунду, есть работающие processing I\O threads и non I\O threads, I\O threads завершаются 20-40 раз в секунду, секундный processing pool job rate колеблется от 0,3 до 2. Короче, жужжит. Начиная с некоторого момента количество Proc Indexes\Current partitions растет до 96, количество завершенных I\O threads и processing pool job rate падает до нуля. В таком состоянии и висит, может провисеть и сутки. Помогает выдача MDX SELECT запроса к кубу, одновременно с этим процессинг магически возобновляется и завершается за 5-15 минут. В общем, чудеса. Что покрутить еще - не знаю, буду признателен за идеи. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 10:27 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, А сам xmla запрос не пробовали изучать? выгрузите его в файл посмотрите глазами, может чего найдете. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 11:24 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  WarAntА сам xmla запрос не пробовали изучать? Ошибок или косяков там нет. Много задач ProcessIndex на партициях в одной Parallel, уровень паралеллизма не установлен, регистрация ошибок в файл. Файл с ошибками пустой. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 11:26 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, и еще "некоторый момент времени" не совпадает случаем с какой нить настройкой в General? типа ForceCommitTimeout ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 11:29 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  [quot Ferdipux]WarAntМного задач ProcessIndex на партициях в одной Parallel. вот с "много задач в одной parallel" будьте осторожны. я когда-то разработал свой процессор кубо в, в нем предусмотрел ограничения, чтобы в одном parallel не шло больше Process команд, чем ядер на машинке. до этого тоже все висло, когда сделал вот так с ограничением - начало железобетонно работать. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 11:58 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Игорь Бобаквот с "много задач в одной parallel"  будьте осторожны.  я когда-то разработал свой процессор кубов, в нем предусмотрел ограничения, чтобы в одном parallel не шло больше Process команд, чем ядер на машинке. до этого тоже все висло, когда сделал вот так с ограничением - начало железобетонно работать. Спасибо, хорошая идея, попробую поиграться со степенью параллелизма. Вопрос к опыту - что ставить относительно кол-ва ядер, 1 ядро - 1 поток или можно 2? Похоже что SSAS слишком оптимистично тут работает, и заводит себя в тупик. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 12:22 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, Запустите SQL Profiler -- посмотрите другие события. Наверняка что-то есть. Обновление кешей и прочее. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 31.08.2016, 14:31 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Новости с полей... В XMLA процессинга прикрутил количество параллельных процессов = кол-ву ядер. Запустил, на Process Index через некое время зависло с Proc Indexes \ Current Partitions = 8. Одновременно вел профилирование. Начиная с запуска процессинга - кроме событий процессинга нет ничего. MDX Select запрос к обрабатываемому кубу восстановил ход Processing. Чудеса. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 01.09.2016, 12:48 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, стандартная рекомендация на MS системах - провести всё до последнего обновления, например 2014 SP2 CU1 включает такое: https://support.microsoft.com/en-us/kb/3150432 ну и если не помогает - служба техподдержки MS, тогда подскажут что не так или при подтверждении на их стороне профиксят с одним из следующих выпусков. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 01.09.2016, 13:04 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, Машина виртуальная или реальная? Такая проблема была виртуальной машине, проблема решилась заменой виртуальной ситивушки. проблема была в то что при нагрузке, соединение не обрывалась, но и потока не было :( ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 01.09.2016, 13:10 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  VicSOТакая проблема была виртуальной машине, проблема решилась заменой виртуальной ситивушки. проблема была в то что при нагрузке, соединение не обрывалась, но и потока не было :( Машина виртуальная. А что значит "замена виртуальной сетевухи" - пересоздание ее, что-ли, или иные настройки? ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 01.09.2016, 13:25 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, была выбрана эмуляция другой сетевушку и проблема исчезла после этого. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 02.09.2016, 05:04 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  а возврат предыдущей сетевушки, проблему повторила, попробовали 2 раза :) сделали выводы, что какой-то сбой в эмуляции, и как он влияет на 127.0.0.1 вообще не понятно. та как изначально база была на другом сервере, а куб на другом и он тянул, сбои были частые. потом все сделали на одно, чуть реже были но все равно. потом поменяли виртуальную сетевушку и проблема исчезал. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 02.09.2016, 07:50 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Ferdipux, В чудеса верить не надо. У вас там случайно не стоит Lazy Aggregations ? ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 05.09.2016, 12:30 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  [quot Ferdipux]Игорь БобакСпасибо, хорошая идея, попробую поиграться со степенью параллелизма. Вопрос к опыту - что ставить относительно кол-ва ядер, 1 ядро - 1 поток или можно 2? Похоже что SSAS слишком оптимистично тут работает, и заводит себя в тупик. у меня стоит "к-во ядер умноженное на два", но я бы на вашем месте игрался начиная с к-ва ядер, и по чуть чуть увеличивал ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 05.09.2016, 13:21 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  a_voroninFerdipux, У вас там случайно не стоит Lazy Aggregations ? Нет, Lazy Aggregations запрещен. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 05.09.2016, 14:14 | 
  
  
  
   | 
||
| 
 
Зависает процессинг куба 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Игорь Бобаку меня стоит "к-во ядер умноженное на два", но я бы на вашем месте игрался начиная с к-ва ядер, и по чуть чуть увеличивал Попробовал, выведя множитель ядер как параметр. К сожалению, зависание повторилось, даже с множителем 1. Так что попробуем открыть кейс в поддержке Microsoft. Из интересного в этом - при множителе 1 и 2 - наблюдается явный недогруз CPU, так как очередь задач на процессинг не пуста и при этом загрузка CPU плавает в районе 40-60%. ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 05.09.2016, 14:17 | 
  
  
  
   | 
||
| 
 | 

start [/forum/topic.php?fid=49&msg=39300915&tid=1857364]:  | 
    0ms | 
get settings:  | 
    10ms | 
get forum list:  | 
    14ms | 
check forum access:  | 
    3ms | 
check topic access:  | 
    3ms | 
track hit:  | 
    64ms | 
get topic data:  | 
    11ms | 
get forum data:  | 
    3ms | 
get page messages:  | 
    65ms | 
get tp. blocked users:  | 
    2ms | 
| others: | 16ms | 
| total: | 191ms | 

| 0 / 0 | 

    Извините, этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
    
    
    «На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
    
    
    ... ля, ля, ля ...