ReSQL.ru
     
powered by simpleCommunicator - 2.0.60     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Сложение CulculatedMember в другом CulculatedMember
2 сообщений из 2, страница 1 из 1
Сложение CulculatedMember в другом CulculatedMember
    #32564774
beginner04
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
beginner04
Гость
MS AS, Excel XP
Есть три CulculatedMember:
VALUE 11141048,022
VALUE 11142981,176
VALUE 1933,154
11141048,022 + 1933,154 - 11142981,176 д.б. ноль
но в другом CulculatedMember я их складываю и получаю
VALUE -1,02863850770518E-09
Что не так?
...
Рейтинг: 0 / 0
17.06.2004, 09:55
| Ответить | Цитировать | Написать  
Сложение CulculatedMember в другом CulculatedMember
    #32564942
Владимир Штепа
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Владимир Штепа
Участник
все так, операции над double всегда имеют погрешность.
вы знаете о таком понятии как машинный ноль.

Код: plaintext
1.
2.
3.
4.
5.
Dim eps As Double
eps =  1 . 0 
While ( 1 . 0  + eps <>  1 )
   eps = eps *  0 . 5 
End While
Debug.Write(eps)
...
Рейтинг: 0 / 0
17.06.2004, 11:10
| Ответить | Цитировать | Написать  
2 сообщений из 2, страница 1 из 1
Форумы / OLAP и DWH [игнор отключен] [закрыт для гостей] / Сложение CulculatedMember в другом CulculatedMember
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]