|
|
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
Выполняю следующий запрос: Код: plaintext 1. И поражаюсь результату: Код: plaintext 1. 2. 3. Это что за 1400,000000000000 2 ? И причем эта добавка появляется только с 0.14. Ни 0.15, ни 0.13, ни 0.04, ни любые другие числа с которыми я эксперементировал не дают такой фигни :( Что это и как с этим бороться? SyBase ASA v9 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 11:20 |
|
||
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
подобный вопрос уже обсуждался http://sql.ru/forum/actualthread.aspx?tid=718042 так себя ведут типы float, double, ... т.к. это неточные типы. в других языках, в С++, Java, итд. - то-же самое. некоторые языки например PowerBuilder скрывают это проводя специальное округление. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 11:43 |
|
||
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
Про представление чисел с плавающей запятой: http://en.wikipedia.org/wiki/Single_precision_floating-point_format ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 13:07 |
|
||
|
|
start [/forum/search_topic.php?author=%D0%AE%D0%B7%D0%B5%D1%803&author_mode=last_posts&do_search=1]: |
0ms |
get settings: |
10ms |
get forum list: |
13ms |
get settings: |
10ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
170ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
40ms |
get tp. blocked users: |
1ms |
| others: | 704ms |
| total: | 981ms |
| 0 / 0 |
Извините, этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
... ля, ля, ля ...
