Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Округление в запросе / 3 сообщений из 3, страница 1 из 1
23.04.2020, 17:04
    #39950608
SHKoder
SHKoder
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление в запросе
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
declare @n1 numeric(24,10) = 0.4288321167883200
declare @n2 numeric(24,10) = 116
declare @n3 numeric(24,10) = 1

select 
@n1 * @n2 * @n3  as f1, 
@n1 * @n2  as f2, 
0.4288321167883200*116*1 as f0



f1 = 49.744526
f2 = 49.744525549
f0 = 49.7445255474451200

И вот какого художника? спрашивается...
почему при умножении переменных значение округляется? А при умножении значений не округляется

И как сделать, чтобы не округлялось?

Спасибо

Код: sql
1.
2.
Microsoft SQL Server 2016 (SP2) (KB4052908) - 13.0.5026.0 (X64)   Mar 18 2018 09:11:49  
 Standard Edition (64-bit) on Windows Server 2019 Standard 10.0 <X64> (Build 17763: ) (Hypervisor)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
23.04.2020, 17:12
    #39950616
Гавриленко Сергей Алексеевич
Гавриленко Сергей Алексеевич
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление в запросе
Потому что точность numeric-типов при операциях рассчитывается по определенным формулам, приведенным в справке .
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
23.04.2020, 17:24
    #39950630
SHKoder
SHKoder
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление в запросе
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
declare @n1 numeric(30,20) = 0.4288321167883200
declare @n2 numeric(30,20) = 116
declare @n3 numeric(30,20) = 1

select 
@n1 * @n2 * @n3  as f1, 
@n1 * @n2  as f2, 
cast(@n1 * @n2 as numeric(30,20)) * @n3  as f3, 
0.4288321167883200*116*1 as f



Ну хотя бы так...
Но как-то неожиданно очень
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Округление в запросе / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 441ms
Закрыть
start [/forum/topic.php?fid=46&mobile=1&tid=1686190]:
 0ms
get settings:
 7ms
get forum list:
 15ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 148ms
get topic data:
 9ms
get forum data:
 2ms
get page messages:
 32ms
get tp. blocked users:
 1ms
others: 221ms
total:  441ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]