Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Хранение чисел в MS SQL / 3 сообщений из 3, страница 1 из 1
12.09.2003, 17:01
    #32263969
Доктор
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Хранение чисел в MS SQL
Заношу числовое значение 0.30, после чего в квери аналайзере селектом выбираю данные из таблицы и вижу, что реально число хранится как 0.2999999999999999. Причем это еще достаточно нормально, т.к. при округлении до 2-х знаков дает 0.30.
Но встречаются варианты веселее: результат вычислений, которое при всех вычислениях (на калькуляторе, и т.п.) дает 248.40 (248,395 округ до 2-х знаков), в SQL'е выдает 248.39, а когда селектом выбираешь данные выясняется, что реально результат вычисления составляет 248.39499999998.
Если есть способ исправить корень этой проблемы - подскажите, а то запросы обрастают convert'ами и cast'ами на каждое забираемое числовое значение.
...
Рейтинг: 0 / 0
12.09.2003, 18:06
    #32264052
Stellar.
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Хранение чисел в MS SQL
Все правильно.

Читай до упора про машинное представление чисел с плавающей точкой.
...
Рейтинг: 0 / 0
12.09.2003, 18:14
    #32264059
Stellar.
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Хранение чисел в MS SQL
А если ты собираешься хранить деньги, читай этот топик:\r
\r
/topic/40391
...
Рейтинг: 0 / 0
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Хранение чисел в MS SQL / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]