Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Вещественные поля / 5 сообщений из 5, страница 1 из 1
25.10.2001, 07:22
    #32015970
Игорь
Игорь
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вещественные поля
В таблицу пользователь ввел руками число 123334,3! Но как только делаю SELECT ... SUM(PRICER) ... AS PR ...
получаю 123334,296875 Объясните pls откуда и "что делать"?

Спасибо!
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
25.10.2001, 07:43
    #32015974
Glory
Glory
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вещественные поля
Если вы про тип данных float and real, то
" Approximate number data types for use with floating point numeric data. Floating point data is approximate; not all values in the data type range can be precisely represented. " Другими словами в переменной/поле храниться приблизительное значение .

В данном примере вы занесли в таблицу число 123334,3 (1 знак после запятой), а выбираете с большим числом знаков - 6. Т.е. на самом деле ROUND(123334,296875, 1) = 123334,3.
Либо используйте округление, либо другой тип данных.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
25.10.2001, 12:03
    #32016004
Pandre
Pandre
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вещественные поля
Вы используете real (4 байта), используйте float (8 байт), тогда получите ошибку только в 15-16 знаке
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
25.10.2001, 13:00
    #32016011
Владимир Смирнов
Владимир Смирнов
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вещественные поля
Для поля PRICER и ему подобных (денежных, насколько я понял) лучше использовать тип MONEY.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
29.10.2001, 10:31
    #32016205
Геннадий
Геннадий
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Вещественные поля
Если надо хранить фиксированное кол-во знаков после запятой, то лучше использовать numeric. Можно точно подобрать необходимую точность и не расходовать лишнюю память.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Вещественные поля / 5 сообщений из 5, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]