ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Сложение CulculatedMember в другом CulculatedMember
2 сообщений из 2, страница 1 из 1
Сложение CulculatedMember в другом CulculatedMember
    #32564774
beginner04
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
beginner04
Гость
MS AS, Excel XP
Есть три CulculatedMember:
VALUE 11141048,022
VALUE 11142981,176
VALUE 1933,154
11141048,022 + 1933,154 - 11142981,176 д.б. ноль
но в другом CulculatedMember я их складываю и получаю
VALUE -1,02863850770518E-09
Что не так?
...
Рейтинг: 0 / 0
17.06.2004, 09:55:39
| Ответить | Цитировать | Написать  
Сложение CulculatedMember в другом CulculatedMember
    #32564942
Владимир Штепа
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Владимир Штепа
Участник
все так, операции над double всегда имеют погрешность.
вы знаете о таком понятии как машинный ноль.

Код: plaintext
1.
2.
3.
4.
5.
Dim eps As Double
eps =  1 . 0 
While ( 1 . 0  + eps <>  1 )
   eps = eps *  0 . 5 
End While
Debug.Write(eps)
...
Рейтинг: 0 / 0
17.06.2004, 11:10:54
| Ответить | Цитировать | Написать  
2 сообщений из 2, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Сложение CulculatedMember в другом CulculatedMember
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=49&fpage=388&tid=1872526]:
 0ms
get settings:
 11ms
get forum list:
 17ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 72ms
get topic data:
 10ms
get forum data:
 3ms
get page messages:
 34ms
get tp. blocked users:
 1ms
others: 209ms
total:  365ms
созд. / загр.: 365ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]