отличие округления от преобразования / Microsoft SQL Server

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / отличие округления от преобразования

7 сообщений из 7, страница 1 из 1

отличие округления от преобразования

#38307871

Nakeshi

Гость

Подскажите пожалуйста, есть отличие округления до, например 3 знаков после запятой с помощью round и преобразованием типа к decimal(18, 3) ?

declare @f float
set @f = 1055.28885 / 7

SELECT @f
--150,75555
SELECT ROUND(@f, 3);
--150,756
SELECT cast(@f as decimal(18, 3));
--150,756

...

Рейтинг:

0 / 0

24.06.2013, 10:21

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38307882

Паганель

Участник

Откуда: Винница

Сообщения: 22 663

Рейтинг: 0 / 0

Код: sql

1.
2.
3.
4.
5.
6.

SELECT ROUND(@f, 3) r1, cast(@f as decimal(18, 3)) r2
  into test_table

select COLUMN_NAME, DATA_TYPE 
  from INFORMATION_SCHEMA.COLUMNS 
 where table_name = 'test_table'

...

Рейтинг:

0 / 0

24.06.2013, 10:28

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38307921

iap

Участник

Откуда: Москва

Сообщения: 47 364

Рейтинг: 0 / 0

NakeshiПодскажите пожалуйста, есть отличие округления до, например 3 знаков после запятой с помощью round и преобразованием типа к decimal(18, 3) ?

declare @f float
set @f = 1055.28885 / 7

SELECT @f
--150,75555
SELECT ROUND(@f, 3);
--150,756
SELECT cast(@f as decimal(18, 3));
--150,756

Код: sql

SELECT ROUND(@f, 3, 1);

Код: plaintext

--150.755

...

Рейтинг:

0 / 0

24.06.2013, 10:50

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38307951

Nakeshi

Гость

Усечение не требуется, и тип не важен.
Корректно ли во всех случаях будет проходить округление, если я воспользуюсь просто преобразованием к decimal(18, 3) ?

...

Рейтинг:

0 / 0

24.06.2013, 11:08

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38308081

Shakill

Участник

Откуда: мск

Сообщения: 1 887

Рейтинг: 0 / 0

NakeshiУсечение не требуется, и тип не важен.
Корректно ли во всех случаях будет проходить округление, если я воспользуюсь просто преобразованием к decimal(18, 3) ?
вот например

Код: sql

1.
2.
3.

DECLARE @a float = 1.0005, @b float = 1.0015;
SELECT @a, @b
SELECT CAST(@a AS decimal(18, 3)) AS a, CAST(@b AS decimal(18, 3)) AS b; -- a = 1.000, b = 1.002

...

Рейтинг:

0 / 0

24.06.2013, 12:41

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38308142

Nakeshi

Гость

да вроде ничем не отличается от
SELECT round(@a, 3) AS a, round(@b, 3) AS b

...

Рейтинг:

0 / 0

24.06.2013, 13:23

| Ответить | Цитировать | Написать

отличие округления от преобразования

#38308151

Shakill

Участник

Откуда: мск

Сообщения: 1 887

Рейтинг: 0 / 0

Nakeshi, ну если устраивает, то и хорошо
вообще про действие cast написано в хелпе, когда усекается, а когда округляется.
Функции CAST и CONVERTfloat -> numeric
Округление
Точность преобразования значений float, которые используют экспоненциальное представление, к decimal или numeric ограничена только 17 знаками. Любое значение с точностью, превышающей 17 знаков, округляется до нуля.

...

Рейтинг:

0 / 0

24.06.2013, 13:33

| Ответить | Цитировать | Написать

7 сообщений из 7, страница 1 из 1

Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / отличие округления от преобразования

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=46&gotonew=1&tid=1706463]:	0ms
get settings:	10ms
get forum list:	15ms
check forum access:	4ms
check topic access:	4ms
track hit:	59ms
get topic data:	13ms
get first new msg:	6ms
get forum data:	2ms
get page messages:	53ms
get tp. blocked users:	2ms
others:	238ms

total:	406ms