|
|
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
Выполняю следующий запрос: Код: plaintext 1. И поражаюсь результату: Код: plaintext 1. 2. 3. Это что за 1400,000000000000 2 ? И причем эта добавка появляется только с 0.14. Ни 0.15, ни 0.13, ни 0.04, ни любые другие числа с которыми я эксперементировал не дают такой фигни :( Что это и как с этим бороться? SyBase ASA v9 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 11:20 |
|
||
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
подобный вопрос уже обсуждался http://sql.ru/forum/actualthread.aspx?tid=718042 так себя ведут типы float, double, ... т.к. это неточные типы. в других языках, в С++, Java, итд. - то-же самое. некоторые языки например PowerBuilder скрывают это проводя специальное округление. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 11:43 |
|
||
|
Совершенно непонятный результат арифметических вычислений
|
|||
|---|---|---|---|
|
#18+
Про представление чисел с плавающей запятой: http://en.wikipedia.org/wiki/Single_precision_floating-point_format ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 11.12.2009, 13:07 |
|
||
|
|
start [/forum/topic.php?fid=55&fpage=32&tid=2010804]: |
0ms |
get settings: |
9ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
52ms |
get topic data: |
13ms |
get forum data: |
2ms |
get page messages: |
47ms |
get tp. blocked users: |
2ms |
| others: | 247ms |
| total: | 395ms |
| 0 / 0 |
Извините, этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
... ля, ля, ля ...
