ReSQL.ru
     
powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / SQL 2016. Деление чисел. Получаются разные результаты
9 сообщений из 9, страница 1 из 1
SQL 2016. Деление чисел. Получаются разные результаты
    #39969715
AlexanP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
AlexanP
Гость
Почему два запроса показывают разные результаты ?
Надо разделить 26 на 365.

1) select 26/convert(numeric(30,20),365)
результат = 0.0712328767123287

2) select convert(numeric(30,20),26)/convert(numeric(30,20),365)
результат = 0.07123287
...
Рейтинг: 0 / 0
16.06.2020, 13:01
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969719
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
Результаты разные, потому что используются разные типы данных.
...
Рейтинг: 0 / 0
16.06.2020, 13:06
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969720
AlexanP
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
AlexanP
Гость
А как же преобразование типов ?
Почему Numeric/Numeric дает хуже точность ?
...
Рейтинг: 0 / 0
16.06.2020, 13:09
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969728
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
AlexanP
А как же преобразование типов ?
Почему Numeric/Numeric дает хуже точность ?
Потому что надо нужной точности нужно использовать типы c правильными prcision / scale: https://docs.microsoft.com/ru-ru/sql/t-sql/data-types/precision-scale-and-length-transact-sql?view=sql-server-ver15
...
Рейтинг: 0 / 0
16.06.2020, 13:19
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969755
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
З.Ы. int по умолчанию конвертится в numeric(10,0) в данной ситуации
...
Рейтинг: 0 / 0
16.06.2020, 14:02
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969803
uaggster
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
uaggster
Гость
AlexanP
Почему два запроса показывают разные результаты ?
Надо разделить 26 на 365.

1) select 26/convert(numeric(30,20),365)
результат = 0.0712328767123287

2) select convert(numeric(30,20),26)/convert(numeric(30,20),365)
результат = 0.07123287

А любимый трюк лентяев:
select 26*1.0/convert(numeric(30,20),365)
Дает 0.07123287671232
...
Рейтинг: 0 / 0
16.06.2020, 15:31
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969806
uaggster
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
uaggster
Гость
Код: sql
1.
2.
3.
Select * from sys.dm_exec_describe_first_result_set('select 26/convert(numeric(30,20),365)', NULL, 0) t
Select * from sys.dm_exec_describe_first_result_set('select 26*1.0/convert(numeric(30,20),365)', NULL, 0) t
Select * from sys.dm_exec_describe_first_result_set('select convert(numeric(30,20),26)/convert(numeric(30,20),365)', NULL, 0) t


Дает
numeric(38,16)
numeric(38,14)
numeric(38,8)
...
Рейтинг: 0 / 0
16.06.2020, 15:41
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39969828
Фотография a_voronin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
a_voronin
Участник
Вброшу свой вариант

Код: sql
1.
select 0.0000000001 * (26.0/(365.0 * 0.0000000001))



0.071232876712328767123288
...
Рейтинг: 0 / 0
16.06.2020, 16:31
| Ответить | Цитировать | Написать  
SQL 2016. Деление чисел. Получаются разные результаты
    #39970055
uaggster
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
uaggster
Гость
a_voronin
Вброшу свой вариант

Код: sql
1.
select 0.0000000001 * (26.0/(365.0 * 0.0000000001))



0.071232876712328767123288

Да нууууу.
Слишком сложно!

select 26*1.00000000000000000000/365
0.071232876712328767123287

Select * from sys.dm_exec_describe_first_result_set('select 26*1.00000000000000000000/365', NULL, 0) t
numeric(28,24)
...
Рейтинг: 0 / 0
17.06.2020, 10:15
| Ответить | Цитировать | Написать  
9 сообщений из 9, страница 1 из 1
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / SQL 2016. Деление чисел. Получаются разные результаты
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=46&msg=39969728&tid=1685988]:
 0ms
get settings:
 9ms
get forum list:
 14ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 202ms
get topic data:
 9ms
get forum data:
 2ms
get page messages:
 46ms
get tp. blocked users:
 1ms
others: 295ms
total:  586ms
созд. / загр.: 586ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]