ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Помогите неправильно считает Excel
8 сообщений из 8, страница 1 из 1
Помогите неправильно считает Excel
    #37777955
coy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
coy
Гость
Существует книга Excel в ней идет расчет. Приходим к ситуации когда 2-1=0,9999999998
Когда через Если задать вопрос 2=2 то да равно, 1=1 да равно. Но разница не равна 1.
Если ячейку с цифрой два в листе вручную сделать активной все будет правильно, но это не выход в листе все защищено паролем от редактирования.
...
Рейтинг: 0 / 0
01.05.2012, 09:21
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777957
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
Это не то чтобы неправильно, это особенности работы с числами с плавающей запятой.
И если книга недоступна для редактирования - нужно стучать по голове тому, кто ее защитил.
...
Рейтинг: 0 / 0
01.05.2012, 09:25
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777958
coy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
coy
Гость
В книге работаем много лет. Принцип уже не поменять. В этом расчете нет запятых тут только целые числа. И почему если прибавить вычесть любое число все нормально. Не работает только 2-1.
Как бороться (только без снятия редактирования).
...
Рейтинг: 0 / 0
01.05.2012, 09:31
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777979
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
Еще раз, все работает правильно в рамках работы с числами с плавающей запятой.
Код: vbnet
1.
2.
?typename(range("A2").Value)
Double



А какой цели нужно добиться? Если просто корректного отображения на экране - так уберите отображение фиксированных 18 знаков после запятой.
...
Рейтинг: 0 / 0
01.05.2012, 10:28
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777987
coy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
coy
Гость
На складе 2 единицы товара. Списывается одна вещь. 2-1=на складе остается 0,999999. Книга бунтуется дальше формулы не работают.
...
Рейтинг: 0 / 0
01.05.2012, 10:55
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777994
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
ну так примените функцию ОКРУГЛ для результата
...
Рейтинг: 0 / 0
01.05.2012, 11:08
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37777997
coy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
coy
Гость
Беда в том что книга размером 23мб там миллион вычислений я везде округление не поставлю,а если и поставлю базу порвет по размеру есть ли способ без округления (2-1неравно 1 это только из примеров).
Я уже понял что это стандарт IEEE 754 и он неправильно считает как его округлить?
...
Рейтинг: 0 / 0
01.05.2012, 11:17
| Ответить | Цитировать | Написать  
Помогите неправильно считает Excel
    #37778141
Фотография Serge 007
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Serge 007
Участник
coy,

используйте "точность как на экране"...
...
Рейтинг: 0 / 0
01.05.2012, 15:59
| Ответить | Цитировать | Написать  
8 сообщений из 8, страница 1 из 1
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Помогите неправильно считает Excel
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=61&msg=37777997&tid=2175758]:
 0ms
get settings:
 6ms
get forum list:
 10ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 178ms
get topic data:
 9ms
get forum data:
 2ms
get page messages:
 42ms
get tp. blocked users:
 1ms
others: 216ms
total:  470ms
созд. / загр.: 470ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]