|
|
|
Трабл с числами double
|
|||
|---|---|---|---|
|
#18+
var frc:double; ........................ frc:=Frac(какое-то выражение) получаю что когда мне должен вренуться 0, я получаю хер знает что в -313 степени. Результат мне надо сравнивать с 0 и естественно при таком раскладе сравнение происходит неккоректно. В чем тут проблема. RayBot ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.07.2001, 15:12 |
|
||
|
Трабл с числами double
|
|||
|---|---|---|---|
|
#18+
Нельзя числа с плавающей точкой сравнивать с целыми числами напрямую! Надо пользоваться конcтрукцией типа abs(frc)<0.0000000001 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.07.2001, 16:42 |
|
||
|
|
start [/forum/topic.php?fid=58&fpage=2090&tid=2120171]: |
0ms |
get settings: |
10ms |
get forum list: |
12ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
31ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
45ms |
get tp. blocked users: |
2ms |
| others: | 13ms |
| total: | 137ms |
| 0 / 0 |
