Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Количество знаков в дробной части числа decimal или не decimal / 2 сообщений из 2, страница 1 из 1
11.11.2002, 00:36:51
    #32066246
serg_
serg_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Количество знаков в дробной части числа decimal или не decimal
Код: plaintext
1.
2.
3.
DECLARE @A decimal( 25 , 19 ),@B decimal( 25 , 19 )
SET @A= 12321 
SET @B= 105690 
Select @A/@B

Результат
---------------------------
.11657678 до восьмого знака, а надо до 19

Также если перемножать числа с дробной частью
то урезает дробную часть (что то типа 0.0000300000000000)

Что делать?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
11.11.2002, 04:30:05
    #32066252
Sergey Vinogradov
Sergey Vinogradov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Количество знаков в дробной части числа decimal или не decimal
Читать BOL (Precision, Scale, and Length) - там все подробно написано.

Operation: e1 / e2
Result precision: p1 - s1 + s2 + max(6, s1 + p2 + 1)
Result scale: max(6, s1 + p2 + 1)

Например,
DECLARE @A decimal(18,0),@B decimal(18,0)
дает то, что нужно.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Количество знаков в дробной части числа decimal или не decimal / 2 сообщений из 2, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 295ms
Закрыть
start [/forum/topic.php?fid=46&tablet=1&tid=1818942]:
 0ms
get settings:
 7ms
get forum list:
 8ms
check forum access:
 2ms
check topic access:
 2ms
track hit:
 42ms
get topic data:
 8ms
get forum data:
 2ms
get page messages:
 31ms
get tp. blocked users:
 1ms
others: 192ms
total:  295ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]