|
Хранение чисел в MS SQL
|
|||
---|---|---|---|
#18+
Заношу числовое значение 0.30, после чего в квери аналайзере селектом выбираю данные из таблицы и вижу, что реально число хранится как 0.2999999999999999. Причем это еще достаточно нормально, т.к. при округлении до 2-х знаков дает 0.30. Но встречаются варианты веселее: результат вычислений, которое при всех вычислениях (на калькуляторе, и т.п.) дает 248.40 (248,395 округ до 2-х знаков), в SQL'е выдает 248.39, а когда селектом выбираешь данные выясняется, что реально результат вычисления составляет 248.39499999998. Если есть способ исправить корень этой проблемы - подскажите, а то запросы обрастают convert'ами и cast'ами на каждое забираемое числовое значение. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.09.2003, 17:01 |
|
Хранение чисел в MS SQL
|
|||
---|---|---|---|
#18+
Все правильно. Читай до упора про машинное представление чисел с плавающей точкой. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.09.2003, 18:06 |
|
|
start [/forum/topic.php?desktop=1&fid=47&tid=1855783]: |
0ms |
get settings: |
8ms |
get forum list: |
12ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
62ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
44ms |
get tp. blocked users: |
2ms |
others: | 13ms |
total: | 164ms |
0 / 0 |