Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / ROUND( bla-bla, 2 ) / 2 сообщений из 2, страница 1 из 1
10.09.2002, 15:20:45
    #32049408
Андрей-Другой
Андрей-Другой
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND( bla-bla, 2 )
Всем привет!
У меня такая проблема:
при некоторых вычислениях ( 5 / 8 = 0,625) я получаю
0,62499999999999 , причём пока заметил это при ххх,хх5.
При использовании Round( число, 2 ) получаю снова
0,62499999999999 .
Но в программе (PowerBuilder) это округляется правильно: 62 коп., а должно ведь 63!
По-моему мелочь, но много недовольных...
(Кстати, Round( число, 2 , 2 ) даёт 0,62 - тоже не выход)
Как мне с этим бороться?

Андрей
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2002, 16:19:28
    #32049425
lvv
lvv
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND( bla-bla, 2 )
PowerBuilder правильно округляет должно быть 62 коп., а не 63(используется метод банковского округления стандарт IEEE)
Для MS SQL могу посоветовать писать так
select cast(0.625 as decimal(18,2))
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / ROUND( bla-bla, 2 ) / 2 сообщений из 2, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 308ms
Закрыть
start [/forum/topic.php?fid=46&tablet=1&tid=1820456]:
 0ms
get settings:
 5ms
get forum list:
 12ms
check forum access:
 2ms
check topic access:
 2ms
track hit:
 48ms
get topic data:
 8ms
get forum data:
 2ms
get page messages:
 28ms
get tp. blocked users:
 1ms
others: 200ms
total:  308ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]