Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Проблемы с дробными числами / 4 сообщений из 4, страница 1 из 1
06.06.2010, 13:24
    #36671678
Jupiter74
Jupiter74
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Проблемы с дробными числами
В коде VBA делаю округление.
Делал и Round(Число, 2) и Int(Число * 100) / 100
В отладчике - 333, 68
После занесения в ячейку: Cells(1, 2) = Round(Число, 2) - В ячейке получается число 333,679992675781. Во внешнем виде я поставил показывать 2 знака. вроде все нормально, ноэта ячейка используется дальше и дальше возникают ошибки
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
06.06.2010, 15:53
    #36671775
ua3
ua3
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Проблемы с дробными числами
Jupiter74,
С VBA я на "Вы" и через "Пожалуйста".
точно такую же проблему на Excel-e я решил через функцию =ОКРУГЛ(A1;2)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
07.06.2010, 11:09
    #36672595
_Boroda_
_Boroda_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Проблемы с дробными числами
Jupiter74,

Код: plaintext
1.
2.
3.
Sub tt()
n =  1001  /  2 . 99688330720999 
[a3] = Round(n,  2 )
End Sub
дает 333,680000000000
без округления - 333,679992675781
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
07.06.2010, 12:03
    #36672747
Jupiter74
Jupiter74
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Проблемы с дробными числами
Округление из кода работает неправильно.
Нашел единственный вариант - не пользуйтесь типом данных Single.
Попробовал исправить на Currency и Double - все четко отрабатывает и правильно округляет
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Проблемы с дробными числами / 4 сообщений из 4, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 497ms
Закрыть
start [/forum/topic.php?fid=61&tablet=1&tid=2178026]:
 0ms
get settings:
 9ms
get forum list:
 16ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 159ms
get topic data:
 13ms
get forum data:
 3ms
get page messages:
 43ms
get tp. blocked users:
 1ms
others: 247ms
total:  497ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]