powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / olap out of memory
12 сообщений из 12, страница 1 из 1
olap out of memory
    #39555392
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Доброй ночи!
out of memory при процессинге куба

Как понять, на что не хватает памяти , и как можно оптимизировать?

Спасибо
...
Рейтинг: 0 / 0
olap out of memory
    #39555670
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1Доброй ночи!
out of memory при процессинге куба

Как понять, на что не хватает памяти , и как можно оптимизировать?

Спасибо
Предлагаю идти поэтапно. Версия SSAS. Размер оперативной памяти на сервере. Наличие крупных измерений. А самое главное - куб то какой, MOLAP или SSAS Tabular?
...
Рейтинг: 0 / 0
olap out of memory
    #39555671
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1,

Если MOLAP, самая простая проверка, что у Вас нет дефицита оперативной - наблюдать во время крупных измерений за файлами If you see minimal CPU usage and many .khstore files being trickled (at 300kb/sec) off disks, SSAS doesn’t have enough RAM]khstore. Может быть, Вы предварительно измерения не обрабатываете вообще, и при ProcessFull куба они начинают предварительно сами обрабатываться ProcessFull, то есть проблема не в кубе, а в количестве элементов в измерениях, которые с ним связаны...
...
Рейтинг: 0 / 0
olap out of memory
    #39555673
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andy_OLAP,

Ссылка про файлы khstore , в предыдущем сообщении промахнулся.
...
Рейтинг: 0 / 0
olap out of memory
    #39555674
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1,

Плюс хорошая ссылка с размышлениями от Джесса Ороша, что для измерений нужно - снежинка или звезда . В общем, начните с ProcessFull измерений куба, одно за другим, и мониторьте расход памяти.
...
Рейтинг: 0 / 0
olap out of memory
    #39555688
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andy_OLAPмигель1,

Плюс хорошая ссылка с размышлениями от Джесса Ороша, что для измерений нужно - снежинка или звезда . В общем, начните с ProcessFull измерений куба, одно за другим, и мониторьте расход памяти.



Спасибо, падает на мере (distinct count) 300 000 000

16 гб оперативки
модель molap
mssql 2012
...
Рейтинг: 0 / 0
olap out of memory
    #39555704
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1Andy_OLAPмигель1,

Плюс хорошая ссылка с размышлениями от Джесса Ороша, что для измерений нужно - снежинка или звезда . В общем, начните с ProcessFull измерений куба, одно за другим, и мониторьте расход памяти.



Спасибо, падает на мере (distinct count) 300 000 000

16 гб оперативки
модель molap
mssql 2012
Ставьте только для этого измерения 48 Гб. А для куба в целом еще. Так что 64 - это минимум, с которого Вы будете работать. 16 - это таки даже не смешно...
...
Рейтинг: 0 / 0
olap out of memory
    #39555706
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andy_OLAP,

Ой-вей, промахнулся, речь не об измерении. ProcessStructure куба, затем ProcessData группы мер Distinct Count проходит? Затем ProcessIndex проходит? Падает на ProcessFull группы мер или на ProcessFull куба, когда доходит дело до этой группы мер?
Максимальный размер измерения, на ключе которого считается distinct count, какой?
...
Рейтинг: 0 / 0
olap out of memory
    #39555708
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1Andy_OLAPмигель1,

Плюс хорошая ссылка с размышлениями от Джесса Ороша, что для измерений нужно - снежинка или звезда . В общем, начните с ProcessFull измерений куба, одно за другим, и мониторьте расход памяти.



Спасибо, падает на мере (distinct count) 300 000 000

16 гб оперативки
модель molap
mssql 2012
И я так предполагаю, что группу мер на раздельные Partitions (секции) Вы разбивать не стали, одним ударом решили 300 миллионов обработать?
...
Рейтинг: 0 / 0
olap out of memory
    #39555749
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andy_OLAPмигель1пропущено...




Спасибо, падает на мере (distinct count) 300 000 000

16 гб оперативки
модель molap
mssql 2012
И я так предполагаю, что группу мер на раздельные Partitions (секции) Вы разбивать не стали, одним ударом решили 300 миллионов обработать?

Да, но
1. я думаю 12 гигов должно хватить на 300 лямов
2. distinct нельзя бить на партиции
...
Рейтинг: 0 / 0
olap out of memory
    #39555800
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
мигель1Andy_OLAPпропущено...

И я так предполагаю, что группу мер на раздельные Partitions (секции) Вы разбивать не стали, одним ударом решили 300 миллионов обработать?

Да, но
1. я думаю 12 гигов должно хватить на 300 лямов
2. distinct нельзя бить на партиции
1. Если крупных измерений нет. И если Aggregation Design не прикручивали тот, который предлагается визардом от MS, там полный бред, лучше убрать в пустоту и еще раз попробовать.
2. Можно. Допустим, у Вас чековые обороты. И количество чеков счетчиком distinct count по ID чека. Нарезаете обе группы мер на секции по 1 году или по 1 кварталу или по 1 месяцу, прикручиваете грамотно Slice - и обрабатываете одну секцию за другой, если памяти не хватает.
...
Рейтинг: 0 / 0
olap out of memory
    #39556144
мигель1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andy_OLAP,

Спасибо попробую
...
Рейтинг: 0 / 0
12 сообщений из 12, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / olap out of memory
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]