Гость
Войти | Профиль | Очистить
Действия ...
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / отличие округления от преобразования / 7 сообщений из 7, страница 1 из 1
24.06.2013, 10:21
    #38307871
Nakeshi
Nakeshi
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
Подскажите пожалуйста, есть отличие округления до, например 3 знаков после запятой с помощью round и преобразованием типа к decimal(18, 3) ?

declare @f float
set @f = 1055.28885 / 7

SELECT @f
--150,75555
SELECT ROUND(@f, 3);
--150,756
SELECT cast(@f as decimal(18, 3));
--150,756
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 10:28
    #38307882
Паганель
Паганель
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
Код: sql
1.
2.
3.
4.
5.
6.
SELECT ROUND(@f, 3) r1, cast(@f as decimal(18, 3)) r2
  into test_table

select COLUMN_NAME, DATA_TYPE 
  from INFORMATION_SCHEMA.COLUMNS 
 where table_name = 'test_table'
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 10:50
    #38307921
iap
iap
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
NakeshiПодскажите пожалуйста, есть отличие округления до, например 3 знаков после запятой с помощью round и преобразованием типа к decimal(18, 3) ?

declare @f float
set @f = 1055.28885 / 7

SELECT @f
--150,75555
SELECT ROUND(@f, 3);
--150,756
SELECT cast(@f as decimal(18, 3));
--150,756
Код: sql
1.
SELECT ROUND(@f, 3, 1);


Код: plaintext
--150.755
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 11:08
    #38307951
Nakeshi
Nakeshi
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
Усечение не требуется, и тип не важен.
Корректно ли во всех случаях будет проходить округление, если я воспользуюсь просто преобразованием к decimal(18, 3) ?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 12:41
    #38308081
Shakill
Shakill
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
NakeshiУсечение не требуется, и тип не важен.
Корректно ли во всех случаях будет проходить округление, если я воспользуюсь просто преобразованием к decimal(18, 3) ?
вот например
Код: sql
1.
2.
3.
DECLARE @a float = 1.0005, @b float = 1.0015;
SELECT @a, @b
SELECT CAST(@a AS decimal(18, 3)) AS a, CAST(@b AS decimal(18, 3)) AS b; -- a = 1.000, b = 1.002
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 13:23
    #38308142
Nakeshi
Nakeshi
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
да вроде ничем не отличается от
SELECT round(@a, 3) AS a, round(@b, 3) AS b
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
24.06.2013, 13:33
    #38308151
Shakill
Shakill
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
отличие округления от преобразования
Nakeshi, ну если устраивает, то и хорошо
вообще про действие cast написано в хелпе, когда усекается, а когда округляется.
Функции CAST и CONVERTfloat -> numeric
Округление
Точность преобразования значений float, которые используют экспоненциальное представление, к decimal или numeric ограничена только 17 знаками. Любое значение с точностью, превышающей 17 знаков, округляется до нуля.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / отличие округления от преобразования / 7 сообщений из 7, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
созд. / загр.: 465ms
Закрыть
start [/forum/topic.php?fid=46&tablet=1&tid=1706463]:
 0ms
get settings:
 9ms
get forum list:
 14ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 136ms
get topic data:
 13ms
get forum data:
 4ms
get page messages:
 49ms
get tp. blocked users:
 2ms
others: 230ms
total:  465ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]