Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Caché, Ensemble, DeepSee, MiniM, IRIS, GT.M [игнор отключен] [закрыт для гостей] / ROUND в sql / 7 сообщений из 7, страница 1 из 1
31.07.2009, 11:01
    #36119703
sutni
sutni
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Столкнулся с таком эффектом работы функции округления:
Код: plaintext
select ROUND(sum("Count"), 3 ) from PrActivity_SalesMgmt_Data.SalesItems
возвращает 8334123.8459999999031. Как видно округления нет. (Поле Count - %Double.)
В тоже время:
Код: plaintext
select ROUND( 8334123 . 8459999999031 , 3 ) from PrActivity_SalesMgmt_Data.SalesItems
возвращает 8334123.846

Может кто сталкивался и знает как обойти?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
31.07.2009, 12:57
    #36120138
servit
servit
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Тип поля "Count" - %Double
Тип поля "8334123.8459999999031" - %Numeric
Функция round входной аргумент неявно приводит к типу %Numeric.

Отсюда:
Код: plaintext
1.
2.
3.
4.
select 
ROUND(CAST(sum("Count") AS NUMERIC( 19 , 12 )), 3 ), -- или
ROUND(sum("Count")||' ', 3 )
from PrActivity_SalesMgmt_Data.SalesItems
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
31.07.2009, 14:01
    #36120432
sutni
sutni
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
servit,

Спасибо огромное.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
03.08.2009, 07:18
    #36122443
Блок А.Н.
Блок А.Н.
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Странно, почему count не может преобразовать входные данные к %Numeric сам?
Чем различаются эти типы?
Я понимаю C++, там разные типы данных подразумевают разное хранение, но в каше, где строка и числа часто хранятся одинаково, это странно (и то в С++ идет автопреобразование типа где нужно).
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
04.08.2009, 12:51
    #36125257
servit
servit
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Вот, как это объясняется в документации .
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Период между сообщениями больше года.
04.01.2016, 23:20
    #39142171
Никола123
Никола123
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Здравствуйте. А подскажите пожалуйста.
Версия 2013.1.
В классе свойство:
Property Weight As %Double(SCALE = 2);
Через SQL то всё ок, заглядываю в глобал, а там $double(3.7999999999999998223) (а сохранял просто 3.8), откуда эта магия? =)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
05.01.2016, 10:30
    #39142281
servit
servit
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ROUND в sql
Никола123 ,
Код: plaintext
1.
2.
3.
USER>w $double(3.8)
3.7999999999999998223
USER>w $decimal(3.7999999999999998223,2)
3.8
Numeric Computing in InterSystems Applications
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Caché, Ensemble, DeepSee, MiniM, IRIS, GT.M [игнор отключен] [закрыт для гостей] / ROUND в sql / 7 сообщений из 7, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
созд. / загр.: 400ms
Закрыть
start [/forum/topic.php?fid=39&mobile=1&tid=1556537]:
 0ms
get settings:
 10ms
get forum list:
 16ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 70ms
get topic data:
 12ms
get forum data:
 3ms
get page messages:
 49ms
get tp. blocked users:
 1ms
others: 231ms
total:  400ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]