ReSQL.ru
     
powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
5 сообщений из 5, страница 1 из 1
Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
    #39572178
Вячеслав Го.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вячеслав Го.
Гость
В вычисляемой мере (CALCULATE MEMBER) Оборот = Дебет-Кредит вместо нулевых значений часто выводит что-то типа 2,91038E-11
Причём сами слагаемые вполне обычные числа с 2-мя знаками после запятой.

Пришлось вместо Дебет-Кредит нагородить round([Measures].[Дебет]-[Measures].[Кредит],6)
Но мне возникновение микроошибочки осталось непонятным. Наверно это связано со способом хранения числа двоичном виде, но почему AS не отлавливает такое?

Может кто знает как радикально исправить это, а не использовать Round

PS
Хранилище на MS SQL 2014, куб на MS SSAS 2014
FORMAT_STRING = "#,##0.00;-#,##0.00",
...
Рейтинг: 0 / 0
19.12.2017, 17:01
| Ответить | Цитировать | Написать  
Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
    #39572188
Andy_OLAP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Andy_OLAP
Участник
Вячеслав Го.В вычисляемой мере (CALCULATE MEMBER) Оборот = Дебет-Кредит вместо нулевых значений часто выводит что-то типа 2,91038E-11
Причём сами слагаемые вполне обычные числа с 2-мя знаками после запятой.

Пришлось вместо Дебет-Кредит нагородить round([Measures].[Дебет]-[Measures].[Кредит],6)
Но мне возникновение микроошибочки осталось непонятным. Наверно это связано со способом хранения числа двоичном виде, но почему AS не отлавливает такое?

Может кто знает как радикально исправить это, а не использовать Round

PS
Хранилище на MS SQL 2014, куб на MS SSAS 2014
FORMAT_STRING = "#,##0.00;-#,##0.00",

Таки наверное нужно скрыть в пустоту.

Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
CREATE MEMBER CURRENTCUBE.[Measures].[Оборот]
iif(
([Measures].[Дебет]-[Measures].[Кредит])<0.01 and ([Measures].[Дебет]-[Measures].[Кредит])>-0.01,
null,
([Measures].[Дебет]-[Measures].[Кредит])
), 
FORMAT_STRING = "#,##0.00;-#,##0.00", 
VISIBLE = 1;
...
Рейтинг: 0 / 0
19.12.2017, 17:14
| Ответить | Цитировать | Написать  
Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
    #39572196
Фотография ptr128
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ptr128
Участник
Вячеслав Го.,

Так ведь SSAS числа хранит только в двоичной системе. Десятичную он не поддерживает.
А то, что 1/10 в двоичной системе исчисления есть бесконечная дробь, Вы не измените.
Так что остается только руками такое отсеивать/округлять.
...
Рейтинг: 0 / 0
19.12.2017, 17:30
| Ответить | Цитировать | Написать  
Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
    #39572201
Фотография Критик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Критик
Участник
Вячеслав Го.,

я бы проверил, что же все-таки за тип у "Дебет" и "Кредит", ибо "обычные числа с 2-мя знаками после запятой" - несерьезно
...
Рейтинг: 0 / 0
19.12.2017, 17:38
| Ответить | Цитировать | Написать  
Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
    #39572204
Фотография ptr128
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ptr128
Участник
Критикя бы проверил, что же все-таки за тип у "Дебет" и "Кредит"
Если речь про MS SSAS, то есть только Double и Currency (начиная с 2012-го, если не ошибаюсь).
У ТС из этих двух явно Double со всеми вытекающими.
...
Рейтинг: 0 / 0
19.12.2017, 17:47
| Ответить | Цитировать | Написать  
5 сообщений из 5, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Вместо нулей в вычисляемой мере выводит бесконечномалые типаE-11
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=49&fpage=26&tid=1858023]:
 0ms
get settings:
 9ms
get forum list:
 16ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 42ms
get topic data:
 22ms
get forum data:
 2ms
get page messages:
 58ms
get tp. blocked users:
 2ms
others: 14ms
total:  171ms
созд. / загр.: 171ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]