|
|
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
Недавно выяснили, что firebird неправильно округляет. Перейдем сразу к примеру: есть таблица Код: sql 1. 2. 3. 4. заполненная значениями: 8,36 и 8,37 Делаем запрос: Код: sql 1. либо Код: sql 1. получаем 8.360000 Как видите результат неправильный. Однако, если написать Код: sql 1. то получим правильный результат 8,37. Пожалуйста помогите обойти эту проблему. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 08:22:11 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
Почитайте о том, как хранятся вещественные числа(не только в Firebird), станет понятнее. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 08:44:10 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
Забыл сообщить, что используем Firebird 2.5, диалект 3. На данный момент пришли к такому решению: Код: sql 1. Результат выдает верный, но сам запрос все-таки некорректный. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 08:47:55 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
LIKORISНедавно выяснили, что firebird неправильно округляет.А вы уверены, что умеете округлять ? А то есть сомнения. Предлагаю для начала посмотреть на AVG(VAL), и рассказать нам - как же его округлить до 2-х знаков после запятой. Потом (или сначала) пойти в школу и узнать что такое типы данных, кто такой float и как с ним работать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 10:53:06 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
LIKORIS, а почему бы сразу не хранить VAL как numeric(18, 2)? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 11:00:56 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
LIKORIS Код: sql 1. дальше можно просто не читать. LIKORIS Код: sql 1. Это нумерик, а не флоат. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.01.2014, 15:16:25 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
Супер ответы. Так держать ребята. Тема закрыта. -- Если не можешь объяснить, значит сам не знаешь ответа. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.01.2014, 07:38:03 |
|
||
|
Неправильное округление в Firebird
|
|||
|---|---|---|---|
|
#18+
Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. Получаем: 8.3649997711181648.4000008.3600008.365000 Вопросы есть? Float-математика - это как бы не совсем та математика, которая из школы, о чем вам намекнули сразу же. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.01.2014, 08:18:38 |
|
||
|
|

start [/forum/topic.php?fid=40&msg=38533903&tid=1563955]: |
0ms |
get settings: |
10ms |
get forum list: |
19ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
541ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
46ms |
get tp. blocked users: |
1ms |
| others: | 205ms |
| total: | 839ms |

| 0 / 0 |
