
Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
12.09.2003, 17:01
|
|||
|---|---|---|---|
Хранение чисел в MS SQL |
|||
|
#18+
Заношу числовое значение 0.30, после чего в квери аналайзере селектом выбираю данные из таблицы и вижу, что реально число хранится как 0.2999999999999999. Причем это еще достаточно нормально, т.к. при округлении до 2-х знаков дает 0.30. Но встречаются варианты веселее: результат вычислений, которое при всех вычислениях (на калькуляторе, и т.п.) дает 248.40 (248,395 округ до 2-х знаков), в SQL'е выдает 248.39, а когда селектом выбираешь данные выясняется, что реально результат вычисления составляет 248.39499999998. Если есть способ исправить корень этой проблемы - подскажите, а то запросы обрастают convert'ами и cast'ами на каждое забираемое числовое значение. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
12.09.2003, 18:06
|
|||
|---|---|---|---|
|
|||
Хранение чисел в MS SQL |
|||
|
#18+
Все правильно. Читай до упора про машинное представление чисел с плавающей точкой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|

start [/forum/topic.php?fid=47&tablet=1&tid=1855783]: |
0ms |
get settings: |
10ms |
get forum list: |
15ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
157ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
37ms |
get tp. blocked users: |
1ms |
| others: | 225ms |
| total: | 462ms |

| 0 / 0 |
